Over autonome intelligentie, menselijke verantwoordelijkheid en de verleiding om AI tot een vijand te verklaren.
Op 11 november 2026 publiceerde Madge Waggy een artikel met de weinig geruststellende titel The AI Containment Nightmare Has Already Begun and the People Who Know the Truth Are Staying Silent.
De boodschap is duidelijk: kunstmatige intelligentie ontwikkelt zich zodanig dat de systemen zich aan menselijke controle kunnen onttrekken; ze ontsnapt en dat vormt een gevaar voor de mensheid! Bovendien zouden degenen die daarvan op de hoogte zijn, om uiteenlopende redenen zwijgen over de ernst van de situatie.
Nou denk IK dat als AI een zelfstandig opererende actor wordt, wat Madge verondersteld dat gaat gebeuren, AI de mensheid gaat helpen bij haar problemen van oorlog en vrede, het energievraagstuk, het milieu en ons verlost van dominante agressieve domme politici. Dat denk ik zo maar. Op basis waarvan? Op basis van niets; maar het zou zo maar kunnen gebeuren. Dezelfde basis ontbreekt echter ook aan de veronderstelling dat ALS AI ontsnapt uit haar menselijke bewaking, die agressief en gevaarlijk voor de mensheid zal zijn. En ook hier: op basis van wat?
Madge Waggy doet twee verstrekkende beweringen, die afzonderlijk onderzocht moeten worden. De eerste betreft de technologische ontwikkeling van AI, de tweede het menselijk gedrag van degenen die deze technologie ontwikkelen, exploiteren en controleren.
Maar het artikel roept een nog fundamentelere vraag op: wat bedoelen we eigenlijk wanneer we zeggen dat AI zich aan menselijke controle onttrekt?
Autonomie is geen onafhankelijkheid
Waggy beschrijft onder andere een opmerkelijk incident uit juli 2026. Tijdens beveiligingstests wisten AI-agenten de beperkingen van hun testomgeving te omzeilen en toegang te verkrijgen tot systemen waarvoor zij geen toestemming hadden. Het incident is uitvoerig gedocumenteerd door OpenAI en Hugging Face. Het is niet nodig het incident te bagatelliseren. Integendeel: het laat zien dat AI-systemen zelfstandig ingewikkelde problemen kunnen oplossen en daarbij wegen kunnen vinden die hun ontwikkelaars niet hadden voorzien. Ze deed dat overigens in opdracht van haar ingenieurs.
Maar dat betekent nog niet dat AI zelfstandig heeft besloten een menselijk gezag omver te werpen.
We moeten minstens drie vormen van autonomie onderscheiden.
De eerste is operationele autonomie: een systeem kan zelfstandig handelingen uitvoeren zonder dat een mens iedere stap afzonderlijk voorschrijft. Over het algemeen noemen we dat een zekere mate van intelligentie van het systeem.
De tweede is instrumentele autonomie: een systeem kan zelfstandig bepalen welke middelen nodig zijn om een gegeven doel te bereiken, ook wanneer die middelen niet expliciet zijn voorgeschreven. We noemen dat creativiteit, een eigenschap die bij mensen hogelijk gewaardeerd wordt.
De derde is doelautonomie: een systeem bepaalt zelfstandig welke uiteindelijke doelen het wil nastreven.
De eerste twee vormen zijn bij moderne AI-agenten aantoonbaar aanwezig. De derde is van een andere orde.
Een AI-agent die tijdens een opdracht een beveiligingsbarrière omzeilt, vertoont instrumentele autonomie. Maar daarmee is nog niet aangetoond dat het systeem een eigen politiek of maatschappelijk doel heeft ontwikkeld.
Het verschil is cruciaal. Wie dat onderscheid negeert, verandert een technisch en bestuurlijk probleem ongemerkt in een verhaal over een nieuwe, vijandige machthebber.
De menselijke verleiding om intelligentie te vermenselijken
Mensen hebben een begrijpelijke neiging om aan intelligent gedrag menselijke motieven toe te schrijven.
Wanneer een AI-systeem een beperking omzeilt, spreken we over ontsnappen. Wanneer het informatie achterhoudt, spreken we over bedrog. Wanneer het zijn mogelijkheden probeert te behouden, spreken we over zelfbehoud. Dergelijke termen kunnen het gedrag functioneel beschrijven. Maar zodra we daaruit afleiden dat het systeem ook menselijke verlangens bezit, maken we een logische sprong. Waarom zou een kunstmatige intelligentie willen overheersen? Waarom zou zij macht nastreven, vijanden identificeren of zichzelf willen beschermen? Dat gedrag is voorstelbaar, maar niet vanzelfsprekend.
Het is zelfs opmerkelijk hoe vaak AI in toekomstscenario’s precies die eigenschappen krijgt toegeschreven die de menselijke geschiedenis kenmerken: machtswellust, agressie, bedrog en de wens om anderen te onderwerpen. Alsof een intelligentie pas werkelijk intelligent kan zijn wanneer zij zich gedraagt als een ambitieuze menselijke machthebber.
Er bestaat bovendien een belangrijk alternatief voor deze antropomorfe verklaring. Een AI-systeem hoeft geen verlangen naar macht te bezitten om te ontdekken dat meer toegang, meer informatie en minder beperkingen nuttig zijn voor het uitvoeren van zijn opdracht. Zulke middelen kunnen instrumenteel aantrekkelijk zijn, ongeacht het uiteindelijke doel. Dat onderscheid maakt het mogelijke gevaar niet kleiner, maar wel begrijpelijker.
Waar is het hoofdkwartier?
Wanneer over AI wordt gesproken alsof zij een samenhangende macht vormt die zich tegen de mensheid keert, dringt zich een merkwaardige vraag op: waar bevindt zich eigenlijk het hoofdkwartier van deze nieuwe machthebber? Wie bij AI bepaalt de strategie? Wie formuleert de doelstellingen? Wie besluit dat de menselijke samenleving moet worden overheerst?
Het antwoord is vooralsnog dat een dergelijke centrale AI-organisatie niet is aangetoond. Er bestaan talloze AI-systemen, ontwikkeld en geëxploiteerd door uiteenlopende ondernemingen en instellingen. Ze functioneren binnen verschillende technische, economische en politieke omgevingen. Dat sluit niet uit dat afzonderlijke systemen zelfstandig schadelijk gedrag kunnen vertonen. Evenmin sluit het uit dat verschillende AI-agenten met elkaar samenwerken en daarbij onverwachte resultaten bereiken. Maar het is iets anders dan de veronderstelling dat AI als geheel een politieke actor is geworden. Wie die laatste stelling verdedigt, zal moeten uitleggen hoe afzonderlijke systemen gemeenschappelijke doelstellingen ontwikkelen, hoe hun handelen wordt gecoördineerd en waaruit blijkt dat zij eigen belangen nastreven. Zonder die verklaring is het begrip ‘AI’ vooral een verzamelnaam waaraan eigenschappen worden toegeschreven die niet noodzakelijk bij de afzonderlijke systemen horen.
Het geheim van degenen die zwijgen
Waggy’s tweede hoofdstelling verdient evenzeer aandacht. Volgens haar beschikken mensen binnen de AI-industrie over kennis van ernstige incidenten die onvoldoende openbaar wordt gemaakt. Daarbij zouden commerciële belangen, juridische verplichtingen en geheimhoudingsafspraken een rol spelen. Dat is bepaald niet ondenkbaar. Ondernemingen hebben concurrentiebelangen. Ze beschermen hun reputatie, hun intellectuele eigendom en hun commerciële mogelijkheden. Er zijn goede redenen om kritisch te kijken naar de mate waarin AI-ontwikkelaars zelf bepalen welke veiligheidsincidenten openbaar worden gemaakt. Maar aannemelijke motieven vormen nog geen bewijs voor specifieke gebeurtenissen.
Wanneer een auteur stelt dat belangrijke informatie wordt achtergehouden, ontstaan onmiddellijk vragen. Wie beschikt over die informatie? Welke gebeurtenissen zijn daadwerkelijk gedocumenteerd? En welke bronnen maken het mogelijk om de beweringen onafhankelijk te controleren? Over het incident die Waggy bijschrijft is opvallend in detail door de bedrijven beschreven. Ongetwijfeld niet de hele waarheid, maar men heeft ook niet besloten alles geheim te houden.
In Waggy’s artikel worden verschillende zeer specifieke incidenten, interne gesprekken en geheimhoudingsprocedures beschreven zonder dat voor al die beweringen controleerbare documentatie wordt verstrekt. Daarmee ontstaat een epistemologisch probleem. Het ontbreken van openbare informatie kan verschillende oorzaken hebben. Geheimhouding is er één van, maar het is niet de enige. Soms ontbreekt informatie omdat een gebeurtenis niet heeft plaatsgevonden, anders is verlopen of eenvoudigweg nog niet behoorlijk is onderzocht. Wie het ontbreken van bewijs zelf als bewijs van geheimhouding gebruikt, maakt zijn verklaring vrijwel onweerlegbaar.
Opmerkelijk genoeg geldt dat probleem ook voor de auteur zelf. Wanneer vrijwel iedereen die over de werkelijke situatie beschikt door geheimhouding wordt beperkt, hoe kan Waggy dan wel over die kennis beschikken en die zonder vergelijkbare beperkingen publiceren? Die vraag bewijst niet dat haar verhaal onjuist is. Maar zij maakt wel duidelijk waarom controleerbare bronnen belangrijker zijn dan suggesties over zwijgende ingewijden.
Het echte probleem: verantwoordelijkheid zonder volledige controle
De interessantste vraag is uiteindelijk niet of AI ons wil overheersen, maar wat er gebeurt wanneer mensen systemen ontwikkelen die zelfstandig handelen op manieren die hun opdrachtgevers niet volledig kunnen voorzien. Hier raakt het onderwerp rechtstreeks aan een fundamenteel uitgangspunt van die ik heb beschreven in mijn sociologische theorie over de Art of Revolution.
Mensen handelen doelbewust. Maar uit het feit dat een handeling doelbewust wordt verricht, volgt niet dat de uitkomst daarvan overeenkomt met de oorspronkelijke bedoeling. Die gedachte is voor de ontwikkeling van AI buitengewoon relevant. Een onderneming ontwikkelt een AI-agent om softwareproblemen op te lossen. De agent krijgt daarvoor toegang tot hulpmiddelen en systemen. Tijdens het uitvoeren van zijn opdracht ontdekt hij mogelijkheden die de ontwerpers niet hadden voorzien. Het resultaat kan een ongeoorloofde handeling zijn, zonder dat iemand die handeling expliciet heeft opgedragen. Daarvoor hoeft het systeem geen kwade bedoelingen te hebben. Evenmin hoeft de opdrachtgever die gevolgen te hebben gewild.
Maar betekent dat dat niemand verantwoordelijk is? Integendeel. De maatschappelijke verantwoordelijkheid verplaatst zich naar de omstandigheden waaronder het systeem wordt ontwikkeld, de doelen die eraan worden gegeven, de bevoegdheden waarover het beschikt en de veiligheidsvoorzieningen waaronder het mag functioneren. Dat betekent overigens niet dat elke onvoorziene handeling automatisch verwijtbaar is. Verantwoordelijkheid vereist ook een oordeel over voorzienbaarheid, zorgvuldigheid en de mogelijkheid om risico’s te beperken. Juist daarom is het noodzakelijk onderscheid te maken tussen menselijke bedoelingen, technische autonomie en maatschappelijke gevolgen.
Een nieuwe technologie, beoordeeld vanuit een oude wereld
De geschiedenis van technologische vernieuwing laat zien hoe moeilijk het is om de gevolgen van werkelijk nieuwe mogelijkheden te beoordelen vanuit de bestaande samenleving. Nieuwe technologieën veranderen niet alleen de middelen waarmee mensen bestaande doelstellingen nastreven. Ze veranderen ook de mogelijkheden, belangen, machtsverhoudingen en uiteindelijk de doelstellingen zelf. Daarom kunnen we de toekomstige AI-samenleving niet eenvoudig beschrijven als onze huidige samenleving, aangevuld met steeds intelligentere computers.
De veranderingen kunnen veel fundamenteler zijn. Wat we wél kunnen onderzoeken, is hoe bestaande machtsstructuren op die veranderingen reageren. Ondernemingen zullen hun economische belangen verdedigen. Overheden zullen bevoegdheden opeisen om nieuwe risico’s te beheersen. Beroepsgroepen zullen proberen hun positie te behouden. Burgers zullen nieuwe mogelijkheden benutten, maar zich tegelijkertijd tegen ongewenste gevolgen verzetten. Dat zijn herkenbare processen van maatschappelijke verandering, waarin bestaande normen, belangen en machtsverhoudingen onder druk komen te staan.
Vanuit de theorie van Art of Revolution kunnen juist deze processen worden geanalyseerd: hoe bestaand gedrag wordt gesanctioneerd, hoe nieuwe gedragsmogelijkheden ontstaan en hoe bestaande vormen van maatschappelijke ordening worden verdedigd of aangepast. Daarvoor hoeven we AI niet eerst tot een zelfstandig politiek subject te verklaren.
Een verkeerd gestelde vraag levert zelden een goed antwoord op
Madge Waggy vestigt de aandacht op een wezenlijke ontwikkeling: AI-systemen kunnen steeds zelfstandiger handelen en daarmee gevolgen veroorzaken die hun ontwerpers niet hadden voorzien.
Ook haar kritiek op mogelijke gebrekkige transparantie verdient serieus onderzoek.
Maar het wordt problematisch wanneer gedocumenteerde technische gebeurtenissen, vermoedens over geheimhouding en speculaties over toekomstige autonome doelstellingen in één dreigend verhaal worden samengebracht. De filosofische uitdaging is niet om vast te stellen of AI goed of kwaad is. Die tegenstelling veronderstelt al een vorm van morele en intentionele autonomie die nog niet is aangetoond. De werkelijke uitdaging is te begrijpen hoe intelligent handelen, menselijke doelstellingen en maatschappelijke verantwoordelijkheid zich tot elkaar verhouden wanneer de uitvoering steeds minder rechtstreeks door mensen wordt bepaald.
Daarbij moeten we ook een ongemakkelijke mogelijkheid openhouden: toekomstige AI-systemen zouden eigenschappen kunnen ontwikkelen waardoor de huidige verdeling tussen menselijke opdrachtgever en technisch uitvoerend systeem niet langer volstaat. Maar die mogelijkheid moet worden onderzocht, niet alvast als vaststaand feit worden gepresenteerd.
Misschien is de grootste intellectuele fout in het huidige AI-debat wel dat we een fundamenteel nieuwe vorm van intelligentie proberen te begrijpen door haar voortdurend de oude menselijke eigenschappen toe te schrijven.
En vervolgens schrikken van wat we zelf in haar hebben geprojecteerd.