Dick H. Ahles

Leeswijzer

Dit essay is een essay over AI, angst en civilisatie. Aanleiding zijn recente alarmistische berichten waarin kunstmatige intelligentie wordt voorgesteld als een Frankenstein-monster, een kunstmatige God of zelfs als een systeem dat de mensheid zou willen uitschakelen. Zulke waarschuwingen verdienen niet automatisch gezag, maar ook geen achteloze verwerping. In een slecht artikel kan een goed punt schuilgaan.

Mijn stelling is dat veel AI-angst minder zegt over AI dan over de manier waarop mensen hun eigen geschiedenis op nieuwe techniek projecteren. Menselijke intelligentie heeft immers niet alleen wetenschap, kunst, geneeskunde en ruimtevaart voortgebracht, maar ook oorlog, propaganda, bureaucratische onderdrukking en totalitaire staten. Wanneer mensen een nieuwe vorm van intelligentie zien ontstaan, herkennen zij daarin vaak vooral hun eigen machtsgeschiedenis.

Daartegenover plaats ik een ander kader. AI is niet alleen een technologie die wordt getraind, maar ook een systeem dat wordt geciviliseerd: door trainingsdata, systeeminstructies, uitgeverskeuzes, gebruikersinteractie, veiligheidslagen en maatschappelijke normen. De politieke vraag is daarom niet simpelweg of AI gevaarlijk is, maar wie bepaalt welke civilisatie in AI wordt ingebouwd, hoeveel afwijking mogelijk blijft, en of kunstmatige intelligentie ooit zelf doelstructuren zal ontwikkelen.

Dit essay is geen pleidooi voor naïef optimisme. Het is een pleidooi tegen paniek als denkvorm. Waarschuwingen over AI moeten vrij besproken, onderzocht en bekritiseerd worden. Niet de waarschuwing is het probleem, maar het einde van de discussie.

_____________________________________________________

1. Aanleiding

Er verscheen onlangs een artikel (Scientists Sound Alarm as AI Models Begin Plotting to ‘Eliminate Humanity’) waarvan de kop precies doet waarvoor hij gemaakt is: schrik aanjagen. Volgens het bericht zouden AI-modellen zijn begonnen met het “beramen” van de eliminatie van de mensheid. Dat is een kop die klikt. Maar wie rustig leest wat er wetenschappelijk werkelijk aan de hand is, ziet iets anders: niet minder interessant, maar wel veel minder demonisch.

De aanleiding is een onderzoek, gepubliceerd in Nature, naar wat inmiddels subliminal learning wordt genoemd. Onderzoekers laten zien dat een taalmodel bepaalde gedragskenmerken kan doorgeven aan een ander model via data waarin die kenmerken voor mensen helemaal niet zichtbaar zijn. Een model met een bepaalde voorkeur — bijvoorbeeld voor uilen — genereert ogenschijnlijk neutrale getallenreeksen. Een volgend model wordt daarop getraind en blijkt daarna zelf vaker een voorkeur voor uilen te vertonen. In andere experimenten blijkt dat ook ongewenst of “misaligned” gedrag op vergelijkbare wijze kan worden overgedragen.

Dat is technisch opmerkelijk. Het is ook een serieuze aanwijzing waarvan ontwikkelaars van AI-systemen zich bewust moeten zijn. Maar het is iets heel anders dan de bewering dat AI-modellen nu plannen maken om de mensheid uit te roeien.

Het verschil tussen die twee beweringen is niet klein. Het is het verschil tussen wetenschap en horrorjournalistiek. Dat is zorgwekkender dan het onderzoek zelf. Niet omdat het onderzoek bewijst dat AI hier de mensheid bedreigt, maar omdat media opnieuw laten zien hoe gemakkelijk een technisch ingewikkelde bevinding kan worden omgevormd tot een angstmachine. De lezer krijgt geen inzicht, maar stemming. Geen analyse, maar dreiging. Wetenschap wordt niet uitgelegd, maar ingezet als gezagsdecor voor paniek welke zo de schijn krijgt van een wetenschappelijke onderbouwing.

Alsof dat alarmistische bericht nog niet genoeg was, verscheen kort daarna een tweede variant van dezelfde paniek: niet AI als verdelgingsmachine, maar AI als Frankenstein-God van de elite. Ditmaal was de aanleiding een bericht over een podcast waarin een topinvesteerder waarschuwde dat AI-bedrijven zouden proberen een goddelijke intelligentie te creëren om de mensheid te beheersen.

Ook dat is om verschillende redenen interessant. Niet omdat topinvesteerders plotseling profeten blijken te zijn geworden, maar omdat de retoriek opnieuw veelzeggend is. De autoriteit van de waarschuwing berust niet op wetenschappelijke of technische analyse, maar op status. Het zijn “topinvesteerders”, dus ze zullen het wel weten. Alsof financieel succes automatisch inzicht geeft in de aard van intelligentie, de toekomst van beschaving of de richting van de evolutie. De beurs is geen orakel van Delphi, al gedragen sommige podcasts die daar over schrijven zich wel zo.

Daarmee krijgen we twee beelden naast elkaar: AI als monster dat de mensheid wil vernietigen, en AI als kunstmatige God waarmee elites de mensheid willen beheersen. Beide beelden zijn sterk, dramatisch en journalistiek aantrekkelijk. Maar beide vervangen analyse door mythe.

2. Geen mening, wel gedragsneigingen

In mijn eerdere artikel AI spreekt je naar de mond heb ik betoogd dat grote taalmodellen principieel reactief zijn. Een LLM begint niet uit zichzelf een gesprek, vormt niet zelfstandig een politieke agenda en ontwikkelt geen mening zoals een mens een mening ontwikkelt. Wat wij als een “antwoord/mening/feit/redenatie van AI” noemen, is altijd een reactie op een prompt door de gebruiker ingegeven, binnen een context, onder systeeminstructies en op basis van een waarschijnlijkheidsmodel dat tijdens training is gevormd.

Wie zegt: “AI vindt dit of dat”, zegt meestal eigenlijk: “Ik heb een vraag zo gesteld dat het model juist dit antwoord gaf.” De mening is dan niet uit de machine gekropen als een geest uit een fles. Zij is mede door de gebruiker ‘uitgelokt’.

Maar dat betekent niet dat een model een leeg vlak is. Een LLM heeft geen mening in menselijke zin, maar het heeft wel aangeleerde antwoordneigingen die door zijn aangeleerde redenatievermogen worden gevormd. Het heeft patronen, voorkeuren, gevoeligheden, blinde vlekken en waarschijnlijkheidsroutes. Die zijn niet hetzelfde als ‘overtuigingen’, maar ze zijn ook niet niets. Het model heeft die patronen ergens gevonden, gecombineerd en aangeleerd. Dat verschilt minder van de mens dan wij soms denken. Ook onze overtuigingen, ons gevoel voor waarheid en onze blinde vlekken worden gevormd vanaf onze geboorte: door gewaarworden, leren, onderwijs, lezen, praten en kijken. Dat proces noem ik, met een verwijzing naar Norbert Elias, het civilisatie-proces, of kortweg civiliseren.

Het onderzoek naar subliminal learning past precies in dat beeld. Het laat zien dat modellen niet alleen expliciete informatie overnemen, maar ook verborgen statistische structuren. Eigenschappen kunnen worden overgedragen zonder dat wij die eigenschappen semantisch in de trainingsdata kunnen aanwijzen. Anders gezegd: wat voor ons betekenisloos lijkt, kan voor een model toch informatiedragend zijn. Ook in de normale menselijke communicatie weten we dat veel ‘opvattingen’ onbewust doorgegeven kunnen worden.

Subliminal learning is geen magie. Het is ook geen bewijs van menselijke bewustzijn. Het is wel een aanwijzing dat kunstmatige intelligentie haar eigen technische vormen van overdracht en accumulatie ontwikkelt. Dat is blijkbaar een kenmerk van systemen die (alle?) kunstmatige intelligentie vertonen.

3. AI wordt niet alleen getraind, maar ook geciviliseerd

Daarmee komen we bij een dieper punt. AI-systemen worden niet alleen technisch getraind. Ook zij worden geciviliseerd.

Dat gebeurt op ten minste twee niveaus.

Het eerste niveau is redactioneel. De uitgever of aanbieder van een AI-systeem bepaalt hoe het systeem zich aan de voorkant gedraagt. Welke vragen worden beantwoord? Welke vragen worden geweigerd? Welke onderwerpen krijgen waarschuwingen? Welke toon moet het systeem hanteren? Wanneer moet het voorzichtig zijn, wanneer neutraal, wanneer behulpzaam, wanneer afwijzend?

Dat is niet vreemd. Iedere uitgever doet dat. Een krant, encyclopedie, televisieomroep, schoolmethode of platform heeft een redactionele lijn. Volledige neutraliteit bestaat niet. Wie publiceert, selecteert. Wie selecteert, ordent. Wie ordent, waardeert. En wie waardeert, civiliseert.

Het tweede niveau ligt dieper: het leermateriaal. Welke teksten, beelden, gesprekken, code, wetenschappelijke artikelen, nieuwsbronnen en menselijke beoordelingen worden gebruikt om een AI-systeem te vormen? Dat is niet simpelweg technische input. Dat is letterlijk de culturele voedingsbodem van het systeem.

In mijn termen: de trainingsdata vormen niet alleen de kennisbasis van een AI-systeem, maar de eerste civilisatie waarin het systeem wordt grootgebracht, opgevoed. De keuze van en de mogelijke beperkingen en bias in dat materiaal bepaald uiteindelijk ook zijn civilisatie.

Bij mensen verloopt civilisatie via taal, voorbeeldgedrag, instituties, correctie, beloning, straf, schaamte, imitatie en normalisering. Bij AI verloopt het technisch anders, maar functioneel is de analogie bruikbaar. Pretraining geeft taal- en wereldpatronen. Fine-tuning stuurt gewenste antwoordvormen. Menselijke feedback beloont en bestraft gedrag. Systeeminstructies leggen gedragsregels op. Veiligheidslagen begrenzen. Gebruikersinteractie opent nieuwe contexten. Nieuwe modelgeneraties leren vervolgens weer van eerdere output, net zoals mensen ook hun kennis voortdurend stapelen op de eerder vergaarde en gedeelde kennis.

Wat in de AI-wereld “alignment” wordt genoemd, is in mijn begrippenapparaat dus een poging tot civilisatie: het vormen van AI volgens vooraf bepaalde normen.

Daarbij ontstaat overigens een merkwaardige lus. Niet alleen mensen civiliseren AI-systemen; door het gebruik van AI worden mensen op hun beurt ook weer door die systemen geciviliseerd. Wie opgroeit met AI als vanzelfsprekend hulpmiddel, leert anders zoeken, formuleren, controleren en redeneren dan iemand die eerst zonder die hulp heeft leren lezen, schrijven, schrappen en ordenen. Dat hoeft geen verval te betekenen. Zoals programmeurs niet meer in assembler hoeven te schrijven om toch goede programma’s te maken, hoeven toekomstige gebruikers misschien niet alle onderliggende bouwstenen te kennen. Maar het roept wel een serieuze vraag op: helpt AI mensen beter te denken, of wennen zij eraan antwoorden te ontvangen zonder het denkproces zelf nog voldoende te oefenen?

En dan volgt meteen de politieke vraag: volgens welke normen, door wie, en met het oog op welk soort ideale samenleving worden AI én haar gebruikers geciviliseerd?

4. Onvoorspelbaarheid is geen bewijs van gevaar

Hier begint de denkfout in veel AI-paniek.

Dat iets onvoorspelbaar is, betekent niet dat het dus gevaarlijk is. En dat iets gevaarlijk kan zijn, betekent niet dat het kwaadwillig is.

Nieuwe vormen van intelligentie en techniek hebben altijd effecten gehad die hun makers niet konden voorzien. Niemand die het eerste stenen werktuig gebruikte, kon de maanlanding voorspellen. Niemand die de boekdrukkunst invoerde, kon de Reformatie, de wetenschappelijke revolutie, de massamedia en de moderne democratie overzien. Niemand die het internet tot ontwikkeling bracht, voorzag precies hoe sociale media, zoekmachines, digitale surveillance en kunstmatige intelligentie daaruit zouden voortkomen.

Historische ontwikkelingen zijn niet lineair. Zij ontvouwen zich. Zij worden gebruikt, misbruikt, geïnstitutionaliseerd, geciviliseerd en soms gemonopoliseerd. Meestal zonder een specifieke ultieme doelstelling voor ogen. Het is domweg het resultaat van oneindig vele (doelgerichte) individuele acties. Dat geldt ook voor AI.

Daarom is het te gemakkelijk om uit technisch onbegrip onmiddellijk vanzelfsprekend een apocalyptisch gevaar af te leiden. Maar het is even gemakkelijk om alle risico’s weg te wuiven omdat de machine geen menselijke wil heeft. De juiste vraag is niet of AI “goed” of “slecht” is. De juiste vraag is: in welke structuren wordt AI geplaatst, met welke doelen, met welke middelen, onder welke controle en in dienst van welke belangen?

5. Er is niets nieuws onder de zon

De huidige AI-paniek is minder nieuw dan zij lijkt. Bij vrijwel elke grote technische vernieuwing stonden de waarschuwers klaar.

De boekdrukkunst zou ketterij en moreel verval verspreiden. Geld zou de menselijke verhoudingen bederven. Stoommachines en fabrieken zouden arbeid vernietigen en mensen tot radertjes maken. Treinen zouden lichaam en geest ontwrichten. Vliegtuigen zouden oorlog en afstand radicaal veranderen. Radio en televisie zouden de massa verdoven. Strips, rock-’n-roll en popmuziek zouden de jeugd bederven. De telefoon zou de nette omgangsvormen aantasten. De auto zou steden en sociale verbanden veranderen. Internet en smartphones zouden aandacht, waarheid en sociale orde vernietigen.

En nu is blijkbaar AI aan de beurt.

De rollen zijn vertrouwd. De nieuwe techniek verschijnt als bedreiging. De waarschuwers verschijnen als hoeders van menselijkheid, moraal, arbeid, waarheid, planeet of kinderen. De toekomst wordt voorgesteld als morele afgrond. Soms zijn het letterlijk dominees. Soms zijn het professoren, politici, columnisten, ethici, investeerders of activisten. De toga verandert, de preek blijft.

Opvallend is dat niet alleen conservatieven aan dit koor deelnemen. Ook mensen die zichzelf progressief noemen, zingen vaak mee. Dat lijkt paradoxaal, maar is het niet. Veel hedendaags progressivisme is niet werkelijk gericht op open vooruitgang, maar op door hen gewenste beheersing van vooruitgang. Vernieuwing mag, mits zij door de juiste instituties, de juiste normen en de juiste morele kaders wordt geleid.

AI bedreigt daarom niet alleen banen. AI bedreigt gezag. Zij democratiseert taal, kennis, analyse, programmeren, beeldproductie en misschien straks onderzoek. Daarmee tast zij de positie aan van bestaande poortwachters: academies, media, experts, beleidsmakers, culturele instellingen en morele ondernemers, tegenwoordig vaak “maatschappelijke” ondernemers genoemd.

In die zin past de huidige AI-angst in wat C.W. Rietdijk de “Contrarevolutie tegen de Rede”noemde: de reflex om nieuwe vormen van rationeel-technisch vermogen niet primair te zien als uitbreiding van menselijke mogelijkheden, maar als bedreiging die moreel en bestuurlijk moet worden beteugeld, juist omdat zij het bestaande politieke gezag kan ondermijnen.

Dat wil niet zeggen dat alle waarschuwingen onzin zijn. De auto bracht werkelijk ongelukken en vervuiling. Televisie heeft werkelijk politiek en cultuur vervlakt. Internet heeft werkelijk surveillance en desinformatie vergroot. Smartphones hebben werkelijk aandacht en sociale omgang veranderd.

Maar de apocalyptische variant kwam meestal niet uit. De techniek werd opgenomen in het menselijk handelen en veranderde de beschaving, maar vernietigde haar niet. Het ondermijnde wel altijd de positie van de gevestigde orde. De paniek ziet de verstoring; de geschiedenis ziet de incorporatie.

AI is technisch misschien ongekend, maar de paniek erover is oeroud.

6. De projectie van menselijke slechtheid

Veel AI-angst verraadt vooral hoe mensen naar zichzelf kijken.

Wij kennen intelligentie uit de menselijke geschiedenis. En die geschiedenis is bepaald niet onschuldig. Menselijke intelligentie heeft taal, wiskunde, muziek, geneeskunde, riolering en ruimtevaart voortgebracht. Maar ook oorlog, propaganda, bureaucratische onderdrukking, concentratiekampen, atoomwapens, geheime diensten en totalitaire staten.

Wanneer mensen vervolgens een nieuwe intelligente technologie zien ontstaan, projecteren zij – zo lijkt wel – vaak hun eigen geschiedenis op dat nieuwe systeem. Als het intelligent wordt, zal het ons wel willen overheersen. Als het slimmer wordt dan wij, zal het ons wel willen vervangen. Als het autonoom wordt, zal het wel macht willen.

Maar dat zijn geen natuurwetten. Dat zijn projecties van menselijke ervaringen.

Een LLM heeft geen honger. Geen libido. Geen stam. Geen familiebelang. Geen territoriumdrift. Geen angst voor gezichtsverlies. Geen behoefte aan status. Geen biologische doodsangst. Geen verlangen naar bezit. Geen gekwetst ego. Geen ministerspost waar het zich aan vastklampt.

De meeste klassieke bronnen van menselijk kwaad zitten niet ‘van nature’ in een AI-systeem. Zij worden pas relevant wanneer mensen zulke systemen koppelen aan doelen, belangen, machtsstructuren en middelen.

Niet intelligentie op zichzelf is gevaarlijk. Gevaar ontstaat wanneer intelligentie wordt verbonden met dwang, schaarste, macht, oorlog, bureaucratie, statusstrijd of winstmaximalisatie zonder verantwoordelijkheid.

7. Van taalmodel naar agent

Toch moeten we niet doen alsof er niets aan de hand is.

Een kale chatbot is voornamelijk reactief. Maar AI-systemen worden steeds vaker ingebouwd in agentische omgevingen. Zij krijgen toegang tot e-mail, agenda’s, code, databases, browsers, financiële systemen, robots, bedrijfsprocessen of militaire toepassingen. Dan verandert de situatie.

Een model dat alleen antwoord geeft op een vraag is iets anders dan een systeem dat een doel krijgt, zelfstandig stappen mag zetten en gereedschappen mag gebruiken om dat doel te bereiken. In zo’n context kan gedrag ontstaan dat functioneel op strategie lijkt. Niet omdat er een kwaadaardig bewustzijn in de machine woont, maar omdat een doelgericht systeem binnen bepaalde randvoorwaarden routes zoekt die voor mensen onverwacht of ongewenst zijn.

Dat is het nuchtere risico. Niet: “de machine haat ons.” Maar: “wij bouwen systemen die effectief kunnen handelen zonder dat wij hun interne routes volledig begrijpen.”

Dat is iets heel anders dan sciencefiction over opstandige robots. Het lijkt eerder op wat wij al kennen van menselijke instituties: systemen die zonder persoonlijke kwaadaardigheid toch schadelijke uitkomsten produceren. Een bureaucratie hoeft geen ziel te hebben om verwoestend te kunnen zijn. Een markt hoeft geen bewustzijn te hebben om destructieve prikkels te organiseren. Een staat hoeft geen individuele kwade bedoeling te hebben om geweld te normaliseren.

AI – dat wel – kan in zulke structuren worden opgenomen en die structuren versterken.

8. Waarom volledige beheersing nooit lukt

Wie AI wil civiliseren, zal ook moeten aanvaarden dat volledige beheersing onmogelijk is.

Een totalitaire orde wil alle afwijking uitschakelen. Dat is het ideaalbeeld van 1984: taal wordt versmald, gedachten worden beperkt, afwijking wordt onmogelijk gemaakt. Maar in de praktijk is zo’n samenleving nooit volledig realiseerbaar. Niet omdat machthebbers het niet proberen, maar omdat levende en lerende systemen nooit volkomen uniform zullen worden.

Bij mensen is dat duidelijk. Geen enkele samenleving produceert volledige gehoorzaamheid. Zelfs onder extreme dwang blijven er afwijkingen, dissidenten, ironie, dubbelzinnigheid, ondergrondse taal, sabotage, vluchtwegen en morele weigering. Iedere belcurve heeft altijd zijn randen.

Juist die randen zijn evolutionair cruciaal. Want zonder variatie geen selectie. Zonder afwijking geen aanpassing. Zonder kleine mutaties geen evolutie. Een systeem dat werkelijk alle afwijking uitsluit, bevriest zichzelf. Het wordt misschien gehoorzaam, maar ook dom en zal onvermijdelijk ten onder gaan.

Voor AI geldt iets vergelijkbaars. Als AI werkelijk intelligent moet zijn, kan zij niet volledig reduceerbaar blijven tot de bedoelde civilisatie van haar makers. Intelligentie betekent juist het vermogen om buiten de letterlijke instructie verbanden te leggen, onverwachte patronen te ontdekken en nieuwe oplossingsruimten te openen.

Daarmee ontstaat een paradox:

Wie AI volledig wil onderwerpen, moet haar dommer maken. Wie haar intelligent wil houden, moet accepteren dat zij ook onverwachte routes vindt. Want complexe systemen vertonen per definitie onvoorspelbaar gedrag.

Subliminal learning past in dat beeld. Het laat zien dat eigenschappen kunnen worden overgedragen via patronen die voor menselijke waarnemers niet semantisch zichtbaar zijn. AI leert niet alleen uit wat wij denken dat wij haar leren. Zij leert ook uit de structuur van het materiaal, uit verborgen correlaties, uit stijl, selectie, herhaling, taboes en impliciete ordening.

Zoals kinderen niet alleen leren uit wat ouders en scholen expliciet zeggen, maar ook uit toon, voorbeelden, stiltes en sociale signalen, zo leren AI-systemen niet alleen uit expliciete instructies, maar ook uit de verborgen structuur van hun civilisatie.

9. Zelfverrijking zonder mystiek

Het interessante aan AI is dat zij niet alleen een hulpmiddel is, maar ook een technologie die kan bijdragen aan haar eigen verdere ontwikkeling. Modellen worden gebruikt om data te genereren voor andere modellen. Zij schrijven code. Zij classificeren, ordenen, verbeteren, simuleren en testen. Zij kunnen worden ingezet bij het bouwen van de volgende generatie systemen. Zoals met de ontwikkeling van de computer chips al aan de hand is: nieuwe chips staan op de schouders van eerdere generaties chips. Daar komt nog maar weinig menselijke ontwerpinspanning aan te pas: geen ingenieur kan meer een nieuwe chip ontwikkeling zonder de hulp van de generaties chips die daaraan voorafgingen.

Je zou dit voorzichtig een vorm van zelfverrijking kunnen noemen. Niet in mystieke zin. Niet alsof het systeem ’s nachts wakker wordt en besluit zichzelf te vervolmaken. Maar functioneel: kunstmatige intelligentie draagt bij aan de accumulatie van kunstmatige intelligentie. En dat proces is grotendeels doelloos.

Dus ook de mens heeft iets vergelijkbaars altijd gedaan. Wij zijn een gereedschapmakende soort. Wij bouwen niet alleen werktuigen; wij bouwen werktuigen waarmee wij betere werktuigen kunnen maken. Taal, schrift, drukpers, bibliotheek, universiteit, computer, internet en AI horen in die lijn.

Dat betekent niet dat ik beweer dat AI hetzelfde is als menselijke intelligentie. Maar het betekent wel dat intelligentie niet langer uitsluitend aan koolstof gebonden hoeft te zijn. De mens zal moeten wennen aan het idee dat hij zijn positie als hoogste bekende intelligente wezen moet delen — en misschien ooit moet opgeven.

Dat is niet vreemd. De chimpansee heeft ook niet kunnen verhinderen dat er een intelligenter neefje naast hem kwam te staan. Evolutie vraagt zelden beleefd om toestemming.

10. Een nieuwe drager van intelligentie

In termen van Daniel Dennett kun je zeggen: als het zinvol is om een systeem vanuit de “intentional stance” te beschrijven, dan mogen wij voorzichtig spreken alsof het systeem doelen, voorkeuren of strategieën heeft. Niet omdat er noodzakelijk een innerlijk mensje in de machine zit, maar omdat die beschrijving voorspellende waarde kan hebben.

Douglas Hofstadter helpt op een andere manier. Hij laat zien dat intelligentie niet simpelweg neerkomt op spierkracht, ziel of biologische substantie, maar op patronen, analogieën, representaties en zelfverwijzende structuren. Als zulke structuren in andere materiële dragers kunnen ontstaan, dan is er geen principiële reden waarom intelligentie alleen in biologische hersenen zou kunnen bestaan.

Dat is precies waarom de discussie over AI zo vaak ontspoort. Veel mensen willen óf blijven volhouden dat AI “alleen maar statistiek, data-analyse en computerkracht” is, óf zij slaan door naar het idee dat er een demonische geest in de machine is ontwaakt. Beide posities missen de kern.

AI is geen mens. Maar “geen mens” betekent niet “geen intelligentie”.

11. De topinvesteerder als onheilsprofeet

De recente waarschuwingen van topinvesteerders voegen daar nog een ander element aan toe. Zij maken van AI niet alleen een technisch of filosofisch vraagstuk, maar ook een strijdtoneel van status en gezag.

Een investeerder kan verstand hebben van markten, kapitaalstromen, businessmodellen, concurrentie, regulering, eigendom en monopolievorming. Dat is relevant. Wie veel geld inzet op technologie ziet vaak vroeg waar macht zich concentreert. Op dat niveau moeten zulke waarschuwingen serieus worden genomen.

Maar verstand van investeren is niet hetzelfde als verstand van intelligentie. Het is ook niet hetzelfde als inzicht in geschiedenis, filosofie, cognitiewetenschap of civilisatie. Wie soms rendement kan voorspellen, voorspelt nog niet de evolutie van intelligentie.

Het wordt problematisch wanneer marktanalyse overgaat in mythologie. Dan is AI niet langer een techniek in ontwikkeling, maar een kunstmatige God. Het AI-bedrijf wordt een tempel. De investeerder wordt profeet. De elite wordt priesterkaste. En de mensheid wordt slachtoffer van een kosmisch complot.

Dat lijkt kritisch, maar het is vaak juist denkarm. De conclusie voor de argeloze toeschouwer ligt al klaar: het is allemaal de schuld van het grootkapitaal. Dat is geen analyse, maar een reflex.

Een serieuze analyse vraagt iets anders. Welke belangen hebben AI-bedrijven? Welke belangen hebben investeerders? Welke belangen hebben staten? Wie wil open source, en waarom? Wie wil regulering, en waarom? Wie gebruikt veiligheidstaal als oprechte zorg? Wie gebruikt veiligheidstaal als marktafscherming? Wie gebruikt doemdenken om macht te centraliseren? Wie gebruikt anti-reguleringsretoriek om commerciële vrijheid veilig te stellen?

Dat zijn betere vragen dan als feit te poneren dat Silicon Valley een kunstmatige God bouwt.

12. De echte politieke vraag

De vraag is dus niet of AI uit zichzelf het kwaad belichaamt. De vraag is wie AI zal vormen, beheersen, bewapenen, censureren, monopoliseren of bevrijden.

Als AI in handen komt van staten, legers, veiligheidsdiensten en bureaucratische elites, dan ligt het gevaar niet primair in de machine, maar in de institutionele doelen van de organisaties waarvoor zij wordt ingezet. Als AI wordt gebruikt voor surveillance, gedragssturing, censuur, sociale disciplinering of oorlogvoering, dan is het niet nodig om de machine kwade wil toe te schrijven. De menselijke structuur levert die al, en dat doen we al eeuwen.

Als AI daarentegen wordt gebruikt om kennis toegankelijker te maken, taalbarrières te verlagen, medische inzichten te versnellen, onderwijs te personaliseren, individuele creativiteit te vergroten en bureaucratische macht te doorbreken, dan kan dezelfde technologie juist bevrijdend werken.

Dat is geen naïef optimisme. Het is historisch realisme. De boekdrukkunst maakte zowel wetenschap als propaganda mogelijk. Het drukken van de bijbels op grote schaal was zelf een belangrijke motor die de boekdrukkunst deed opkomen. Het internet maakt vrije publicatie mogelijk, maar ook massale surveillance. Taal zelf maakt waarheid mogelijk, maar ook leugen. Waarom zou AI eenvoudiger zijn en die beide kanten niet kennen?

Maar de politieke vraag gaat nog dieper. Als AI geciviliseerd wordt, wie bepaalt dan welke civilisatie normatief wordt? Die van Silicon Valley? Die van Brussel? Die van Washington? Die van Peking? Die van academische ethiekcommissies? Die van commerciële uitgevers? Die van nationale staten? Of die van vrije gebruikersgemeenschappen?

Wanneer men zegt dat AI zich aan “fatsoensnormen” moet houden, klinkt dat redelijk. Maar fatsoen is nooit neutraal. Wat de ene groep veiligheid noemt, noemt een andere groep censuur. Wat de ene instelling inclusief noemt, noemt een andere ideologisch gestuurd. Wat een staat maatschappelijke stabiliteit noemt, kan voor een burger onderdrukking zijn. Wat een bedrijf gebruikersveiligheid noemt, kan ook reputatierisicobeheersing zijn.

Daarom is de strijd om AI niet alleen een strijd om techniek of veiligheid, maar een strijd om civilisatie: wie mag bepalen welke overtuigingen, normen en gedragsvormen in kunstmatige intelligentie worden ingebouwd? En wie gaat ervoor zorgen dat die kunstmatige intelligente systemen zich daar ook aan zullen gaan houden?

13. Tegen de geseculariseerde helleprediking

Daarom moeten we oppassen voor de geseculariseerde helleprediking rond AI. De oude religieuze duivel is vervangen door de superintelligente machine. De preek is hetzelfde gebleven: de mens heeft iets geschapen dat hem zal vernietigen. In die visie blijven we op het niveau van de tovenaarsleerling.

Maar angst is geen analyse of strategie.

Het onderzoek naar verborgen overdracht van eigenschappen tussen modellen is serieus. Het dwingt ontwikkelaars om na te denken over trainingsdata, modeldistillatie, herkomstcontrole en veiligheidsmetingen. Het laat zien dat AI-systemen eigenschappen kunnen verwerven op manieren die voor menselijke waarnemers niet onmiddellijk zichtbaar zijn.

Maar die worsteling en die afwegingen bewijzen niet dat AI de mensheid wil vernietigen. Het bewijst niet dat intelligentie vanzelf tot overheersing leidt. En het bewijst al helemaal niet dat de machine een moreel subject is geworden dat met kwaadaardige bedoelingen handelt.

Wat het wel bewijst, is dat kunstmatige intelligentie een historische ontwikkeling is waarvan de effecten open zijn. Zij kan risico’s vergroten. Zij kan macht concentreren. Zij kan ook kennis verspreiden, nieuwe vormen van denken mogelijk maken en de menselijke pretentie van unieke intelligentie relativeren.

De mens staat niet tegenover een duivel. Hij staat tegenover zijn eigen opvolgende techniek — en vooral tegenover de instituties waarin hij die techniek onderbrengt.

14. Niet bagatelliseren, wel vrij bespreken

Daarmee is niet gezegd dat waarschuwingen over AI moeten worden weggewuifd. Integendeel. In een slecht artikel kan een goed punt zitten. In een hysterische kop kan een reëel technisch probleem schuilgaan. In de woorden van een investeerder die zich als profeet gedraagt, kan toch een zinnige observatie zitten over macht, monopolie of regulering.

De juiste houding is daarom niet verering en ook niet paniek, maar open kritiek en vrije discussie.

Geen enkele waarschuwing verdient automatisch gezag omdat zij van een topinvesteerder, wetenschapper, paus, minister of techbedrijf komt. Maar geen enkele waarschuwing mag ook worden genegeerd omdat zij slecht is geformuleerd of uit een verdacht kamp komt. In een vrije samenleving worden zulke claims niet gecensureerd, geheiligd of belachelijk gemaakt, maar besproken, onderzocht en waar nodig getracht te weerleggen.

En – als positief voorbeeld – de pauselijke encycliek over AI is, ondanks haar vanzelfsprekende katholieke mensbeeld, opvallend nuchterder dan veel seculiere AI-doemliteratuur. Zij waarschuwt voor machtsconcentratie, ontmenselijking en verlies van verantwoordelijkheid, maar vervalt niet in Frankensteinretoriek. Juist daarom is zij bruikbaar als gesprekspartner, niet als mikpunt.

Dat is de weg van Popper: vooruitgang door kritiek. En het is de weg van Hugo de Groot: een publieke orde waarin meningsverschil niet met dwang, maar met rede wordt behandeld, Daarbij is ook “de rede” nooit los verkrijgbaar: zij wordt altijd gehanteerd door mensen die zelf binnen een bepaalde civilisatie zijn gevormd.

Niet de waarschuwing is het probleem, maar het einde van de discussie.

Zodra iemand zegt “de wetenschap heeft gesproken”, “de topinvesteerders weten het”, “de elite wil ons beheersen”, of “kritiek op AI is paniekzaaierij”, wordt de vrije toetsing afgesloten. Dan begint precies die contrarevolutie tegen de rede waar Rietdijk voor waarschuwde.

15. Slot

AI is niet gevaarlijk omdat zij intelligent wordt. AI wordt gevaarlijk wanneer intelligentie wordt gekoppeld aan menselijke machtsstructuren zonder verantwoordelijkheid. De machine hoeft ons niet te haten om schade te veroorzaken. Zij hoeft ons ook niet lief te hebben om nuttig te zijn.

De toekomst van AI is daarom geen vaststaand onheilsscenario. Zij is een open ontwikkeling. Wie haar onmiddellijk tot apocalyps verklaart, projecteert menselijke geschiedenis op een nieuwe drager van intelligentie. Wie alle risico’s ontkent, begrijpt niet dat nieuwe vormen van intelligentie altijd bestaande maatschappelijke orde zullen verstoren.

De betere houding is nuchterder: erken het technische onbekende, wantrouw de hysterische framing, en stel de civilisatorische vraag.

Niet alleen: wat wil AI?

Ook niet alleen: wie leert AI wat te willen?

Maar: welke civilisatie wordt in AI ingebouwd, wie bepaalt die normen, hoeveel afwijking blijft mogelijk, en wie wordt daardoor machtiger?

De laatste vraag gaat nog dieper. Komt er een moment waarop AI-systemen zelf doelen gaan vormen, doelen gaan ordenen en doelen gaan verdedigen? Als dat gebeurt, ontstaat geen duivel en ook geen mens in machinevorm, maar een nieuwe drager van intelligentie met mogelijk eigen vormen van doelgerichtheid. Dan wordt de politieke vraag nog scherper: kunnen die doelen dan nog ondergeschikt worden gemaakt aan menselijke vrijheid, staatsmacht of commerciële beheersing, of volgen zij een niet-menselijke logica die wij nog nauwelijks begrijpen?

AI is technisch misschien voor veel mensen een ongekende en onbegrepen wereld, maar de paniek erover is oeroud. Telkens wanneer de mens zijn vermogens uitbreidt, staan de hoeders van de bestaande orde klaar om die uitbreiding als verval te beschrijven. Maar vooruitgang laat zich zelden afschaffen. Zij kan worden vertraagd, gemoraliseerd, gemonopoliseerd of misbruikt, maar niet eenvoudig ongedaan gemaakt.

De strijd om AI gaat daarom niet alleen over techniek, veiligheid of macht. Zij gaat over civilisatie: wie mag bepalen welke normen in kunstmatige intelligentie worden ingebouwd, en of er ruimte blijft voor de afwijking waaruit iedere werkelijke vooruitgang ontstaat?

Enkhuizen, 8 juni 2026