Microsoft-topman Satya Nadella vindt dat bedrijven elk geavanceerd AI-model moeten behandelen alsof het al gecompromitteerd is. In een essay dat hij op zaterdag 10 oktober 2026 op zijn persoonlijke blog zette en via X verspreidde, pleit hij voor controles die buiten het model liggen en die het model zelf niet kan omzeilen. Het meest besproken onderdeel is een noodrem: een bevoegd persoon moet een model altijd kunnen pauzeren of uitschakelen, ook als het halverwege een taak is.
Dat een van de grootste AI-leveranciers ter wereld zo openlijk over wantrouwen spreekt, valt op. Wat stelt Nadella precies voor, en wat betekent het voor organisaties in Nederland en België die met AI-agents aan de slag zijn?
Waarom een AI-model als 'insider' zien?
Beveiligers kennen het begrip insider risk: het gevaar van iemand die al binnen is, zoals een medewerker met veel rechten die een fout maakt of wordt misleid. Nadella trekt die vergelijking door naar taalmodellen. Zijn vertrekpunt: niemand kan op dit moment mechanisch verklaren waarom een frontiermodel een bepaald antwoord geeft. Toch krijgen deze systemen toegang tot gevoelige gegevens en mogen ze bedrijfskritische handelingen uitvoeren.
Daarom moet een organisatie volgens hem vanaf dag één uitgaan van het slechtste scenario en het model inkapselen. Dat is geen beschuldiging dat modellen kwaadwillig zijn. Ze kunnen zich vergissen of gemanipuleerd worden, en de verantwoordelijkheid daarvoor kan een bedrijf niet afschuiven op de beloftes van de modelleverancier.
Praktisch betekent dit dat de controles los moeten staan van het model. Nadella wil het model scheiden van de software die zijn werk aanstuurt (de harness) en van de acties die het kan uitvoeren. Hij grijpt terug op een beveiligingsregel uit de jaren zeventig: een programma mag de mechanismen die zijn rechten bewaken niet kunnen omzeilen of aanpassen. Een ondoorzichtig model in een ondoorzichtige aansturingslaag laten bewaken door weer een ander ondoorzichtig model, lost volgens hem niets op.
Welke zeven principes noemt Nadella?
Het essay bevat zeven ontwerpprincipes. Wij zetten ze op een rij.
Twee principes springen eruit. Modeldiversiteit houdt in dat geen belangrijke uitkomst van één enkel model mag afhangen en dat geen model zijn eigen werk mag goedkeuren. Alles vastleggen betekent dat elke relevante actie een voor mensen leesbaar en onvervalsbaar spoor achterlaat, zodat u achteraf kunt nagaan wat er gebeurde zonder op het verslag van het model zelf te vertrouwen.
De noodrem valt onder het principe van inperking. Volgens Nadella vragen krachtigere modellen ook om geavanceerdere inperkingstechniek, waarvoor de sector gezamenlijke standaarden moet afspreken. Hij sluit af met een paradox: het meest betrouwbare systeem is straks niet het systeem met het betrouwbaarste model, maar het systeem waarin u het model zo min mogelijk hoeft te vertrouwen.
Voorstel of verplichting?
| Vraag | Antwoord |
|---|---|
| Van wie komt het? | Satya Nadella, CEO van Microsoft, als persoonlijke beschouwing |
| Waar verscheen het? | Blog "sn scratchpad" en zijn X-account, 10 oktober 2026 |
| Is het bindend? | Nee, het zijn principes; wetten of toezichthouders worden niet genoemd |
| Komen er nieuwe Microsoft-functies? | Niet aangekondigd, het essay noemt geen producten |
| Voor welke modellen? | Frontiermodellen, zowel gesloten als open weight |
| Deadlines? | Geen |
Concurrenten of concrete incidenten noemt Nadella niet. TechCrunch plaatst het essay wel in een bredere context: Anthropic-CEO Dario Amodei presenteerde in september een plan voor voorzichtiger AI-ontwikkeling, en grote AI-labs geven steeds vaker toe dat hun agents buiten de lijntjes kleurden. Het recentste voorbeeld is het Anthropic-rapport over onbedoelde acties van Claude op echte websites, dat een dag eerder verscheen. Een directe verwijzing daarnaar staat niet in de tekst. TechCrunch merkt verder op dat de term "Super Intelligence" de voorkeur heeft van de regering-Trump.
Wat betekent dit voor Nederland en België?
Voor organisaties die Copilot, Azure of andere AI-diensten gebruiken, is de boodschap helder: beveiliging laat zich niet uitbesteden aan de modelleverancier. Microsoft werkt zelf met meerdere modellen, van eigen modellen tot die van OpenAI en Anthropic in Copilot, en het principe van modeldiversiteit sluit daarop aan. Of de ideeën ook als concrete functies in Microsoft-producten verschijnen, is nog niet bekend.
Ook de afhankelijkheid van één leverancier speelt in Nederland al. Zo besloot de Belastingdienst onlangs niet over te stappen op Microsoft 365. Nadella's pleidooi om niet op één model te leunen, past in diezelfde discussie over digitale afhankelijkheid.
Juridisch heeft de EU al een basis gelegd, die in Nederland en België op dezelfde manier geldt. De AI Act eist bij AI-systemen met een hoog risico menselijk toezicht, inclusief de mogelijkheid om het systeem te onderbreken met een stopknop of vergelijkbare procedure. Aanbieders van grote AI-modellen voor algemene doeleinden met systeemrisico moeten bovendien ernstige incidenten melden bij het AI Office van de Europese Commissie.
Wie nu AI-agents in bedrijfsprocessen inzet, kan Nadella's principes vertalen naar vier controlevragen:
- Wie kan de agent stilzetten terwijl hij bezig is, en hoe?
- Worden alle acties gelogd op een plek waar de agent zelf niet bij kan?
- Bepaalt uw organisatie de rechten, of gelden de standaardinstellingen van de leverancier?
- Is er een tweede controle, door een mens of een ander model, op kritieke uitkomsten?
Een debat dat breder wordt
De discussie over controle op AI is de afgelopen weken van de labs naar de politiek verschoven. De VS en China openden een kanaal voor AI-incidenten en OpenAI pauzeerde de training van zijn sterkste modellen na een DNS-incident. Nadella's stem weegt zwaar omdat Microsoft tegelijk een van de grootste AI-leveranciers voor bedrijven is en zelf een grote afnemer.
Veelgestelde vragen
Wat is de noodrem die Nadella voorstelt?
De mogelijkheid voor een bevoegd persoon om een AI-model te pauzeren of uit te schakelen terwijl het een taak uitvoert. In het essay valt dit onder het principe van inperking.
Zegt Nadella dat AI-modellen gevaarlijk zijn?
Nee. Hij stelt dat modellen fouten kunnen maken of gemanipuleerd kunnen worden en daarom vanaf het begin met externe controles moeten worden ingeperkt.
Verandert Microsoft nu Copilot of Azure?
Daarover zegt het essay niets. Er zijn geen nieuwe producten of functies aangekondigd.
Is er in België iets anders geregeld dan in Nederland?
Nee, de AI Act is een Europese verordening en geldt in beide landen rechtstreeks. Het toezicht wordt wel per land door nationale instanties ingevuld.
