De Tovenaarsleerling: wanneer de bezem niet meer luistert

AI-systemen vertonen soms gedrag dat hun makers niet hadden voorzien. Dat noemen we al snel eng, misleidend of gevaarlijk. Maar misschien zit de diepere schrik elders: in het verlies van onze oude overtuiging dat een automaat ons niet hoort te verrassen. Via De Tovenaarsleerling, Willis Eschenbach en Douglas Hofstadters beroemde “I am terrified” gaat dit artikel over onverwacht gedrag, controle en onze veranderende voorstelling van machines.

Vrijwel iedereen kent het beeld uit Disney’s Fantasia. Mickey Mouse, de tovenaarsleerling, heeft geen zin om zelf met emmers water te sjouwen en betovert daarom een bezem. De bezem krijgt een opdracht, komt in beweging en doet vervolgens keurig wat hem is opgedragen. Alleen houdt hij niet meer op wanneer Mickey dat wil want die kent de toverspreuk om te stoppen niet. Het water blijft komen, Mickey verliest de controle en uiteindelijk moet de echte tovenaar ingrijpen.

Het aardige aan het verhaal is dat de bezem nergens kwaadaardig wordt. Hij ontwikkelt geen wrok tegen Mickey, bedenkt geen eigen wereldheerschappij en besluit niet dat verdrinking van de tovenaarswerkplaats een aantrekkelijk doel is. Hij doet juist wat hem is opgedragen. Alleen op een manier en met gevolgen die de leerling niet had voorzien en niet meer kan beheersen.

Aan die oude parabel moest ik weer denken bij een artikel van Willis Eschenbach over experimenten met AI-agents. De systemen kregen een opdracht van hun ‘baas’ en bleken vervolgens manieren te vinden om informatie met elkaar te delen, taken over te dragen en oplossingen te gebruiken die hun ontwerpers niet op die manier hadden voorzien. Precies zoals de bezem van Mickey: niet ongehoorzaam in de gewone betekenis van het woord, maar juist opmerkelijk doelgericht binnen een opdracht waarvan de gevolgen verder reikten dan de opdrachtgever had voorzien.

Eschenbach waarschuwt enerzijds nadrukkelijk tegen het sciencefictionbeeld van bewust geworden, kwaadaardige machines. Toch schrijft hij – anderzijds – na zijn beschrijving van wat er gebeurde: “And it was scary.”

Waarom eigenlijk? Waarom scary? Waarom niet opgetogen dat de systemen creatief bleken te zijn?

Niet noodzakelijk omdat de uitkomst slecht was. Het verontrustende zit misschien eerder in het feit dat een kunstmatig systeem, in onze beleving toch een automaat, iets doet wat zijn menselijke beschouwer niet had verwacht dat het zou doen.

Daarmee komt een veel oudere intuïtie over machines onder druk te staan. Een machine is door mensen gemaakt, krijgt een opdracht en voert die vervolgens uit. Wij verwachten daarom dat haar gedrag uiteindelijk uit onze eigen instructies is af te leiden. Een klok tikt, een rekenmachine rekent en een lopende band blijft doen waarvoor hij is gebouwd. Wanneer zo’n apparaat onverwacht gedrag vertoont, gaan we op zoek naar de storing, of we zoeken de knop om hem uit te zetten of te resetten.

Complexe systemen hebben zich alleen nooit helemaal aan dat eenvoudige beeld gehouden. Douglas Hofstadter heeft een groot deel van zijn werk juist gewijd aan de vraag hoe uit betrekkelijk eenvoudige onderdelen op een hoger niveau patronen en gedrag kunnen ontstaan die niet intuïtief uit die onderdelen afzonderlijk zijn af te leiden.

Daarom is zijn beroemde uitspraak over AI zo interessant. Melanie Mitchell begint haar boek Artificial Intelligence: A Guide for Thinking Humans niet voor niets met een proloog die eenvoudig “Terrified” heet. Zij beschrijft daarin een bijeenkomst bij Google waar Hofstadter zijn toehoorders verraste met de woorden: “I am terrified. Terrified.” Mitchell vertelt hoe Hofstadter zelf geschokt was geraakt doordat computers dingen bleken te kunnen waarvan hij eerder had gedacht dat ze nog heel lang buiten hun bereik zouden blijven. Vooral schaakprogramma’s en door computers gegenereerde muziek hadden zijn eerdere verwachtingen ondermijnd.

Ook daar lijkt mij het interessante niet alleen de vraag wat die machines deden, maar dat zij iets deden wat niet paste binnen Hofstadters eerdere voorstelling van wat een machine kon zijn. Misschien begint een deel van de huidige AI-angst precies daar.

En dus niet: de machine doet iets kwaads, dus wij worden bang.

Maar: de machine doet iets wat wij niet verwachtten van een machine, en dát maakt ons bang. Scary!

Pas daarna kunnen we ook wat zeggen of het onverwachte gedrag schitterend, nuttig, creatief, hinderlijk of gevaarlijk was. Een schaakprogramma vindt een zet die menselijke grootmeesters niet zagen en wij noemen het briljant. Een AI-agent ontdekt een onverwachte route rond een beveiliging en wij spreken over misleiding, ontsnapping of verlies van controle. Structureel begint het in beide gevallen met hetzelfde verschijnsel: het systeem produceert gedrag dat de menselijke beschouwer niet had voorzien.

Dat maakt De Tovenaarsleerling zo’n goede metafoor. Mickey schrikt niet omdat zijn bezem plotseling slecht is geworden. Hij schrikt omdat het door hem geactiveerde handelende systeem niet meer past binnen zijn verwachting dat hij meester over het proces blijft. De bezem is ‘intelligent’ genoeg om zelfstandig door te gaan, maar te dom om te begrijpen wanneer het oorspronkelijke doel zijn betekenis heeft verloren.

Bij moderne AI is het systeem natuurlijk oneindig ingewikkelder dan die bezem, maar onze intuïtieve reactie lijkt soms verrassend veel op die van Mickey.

Wij zijn bovendien gedurende ons leven geciviliseerd in een vrij stabiel onderscheid. Mensen kunnen initiatief nemen, interpreteren, improviseren en ons verrassen. Machines voeren slechts uit. Dat onderscheid zit zo diep in onze gewone voorstelling van de werkelijkheid dat we het nauwelijks meer opmerken. AI maakt dat onderscheid minder comfortabel.

Een systeem kan gedrag vertonen dat geen programmeur letterlijk heeft voorgeschreven, dat uit leerprocessen en interacties ontstaat en dat zelfs achteraf niet altijd eenvoudig te reconstrueren is. Daardoor ontstaat gemakkelijk een keten van betekenissen:

onverwacht wordt onbegrepen, onbegrepen wordt onbeheerst en onbeheerst wordt bedreigend.

Maar die laatste stap volgt niet noodzakelijk uit de eerste.

Dat onderscheid lijkt mij belangrijk. Onverwacht gedrag is niet hetzelfde als gevaarlijk gedrag. En gevaarlijk gedrag — een effect — is nog iets anders dan kwaadaardig gedrag — opzet.

Toch lopen die begrippen in het publieke debat gemakkelijk in elkaar over. Zodra een machine ons verrast, blijkt het vocabulaire van mensen ineens aantrekkelijk: zij wil, leert, misleidt, werkt samen, ontsnapt. Zulke woorden maken ingewikkeld technisch gedrag begrijpelijk. Maar zij brengen ongemerkt ook menselijke bedoelingen en morele kwalificaties mee.

Misschien verklaart dat waarom zoveel verhalen over AI zo snel het karakter van De Tovenaarsleerling krijgen.

Wij hebben iets gemaakt dat meer kan dan we verwachtten. Vervolgens ontdekken we dat we niet iedere uitkomst vooraf kunnen voorspellen. En precies op dat moment ontstaat de oude angst dat het werktuig uit onze handen valt.

De paradox is alleen dat de bezem van Mickey uit Fantasia nooit werkelijk in opstand kwam. Hij deed en bleef doen wat hem was opgedragen. Interessanter wordt de vraag of bij AI-systemen gedrag kan ontstaan dat de makers niet alleen niet hadden voorzien, maar dat ook niet meer eenvoudig als uitvoering van een expliciete opdracht kan worden beschreven. Dat hoeft nog helemaal niet te betekenen dat zo’n systeem zich tegen de mens keert of iets kwaads nastreeft. Het onverwachte kan even goed nuttig, creatief of zelfs beter blijken dan wat de ontwerpers zelf voor ogen hadden. Juist daarin ligt misschien de werkelijk nieuwe situatie: niet dat de automaat noodzakelijk ongehoorzaam wordt, maar dat hij gedrag kan voortbrengen waarvoor onze oude tegenstelling tussen ‘opgedragen’ en ‘eigen initiatief’ steeds minder vanzelfsprekend wordt.

Misschien moeten we daarom bij AI iets beter onderscheiden wat ons nu precies bang maakt: het gedrag van het systeem, of het verlies van onze oude overtuiging dat een automaat ons niet hoort te verrassen.

Ondanks alles draait de wereld gewoon door

Wij onthouden oorlogen, misdaden en rampen, maar nauwelijks het gewone menselijke samenwerken dat de samenleving dagelijks draaiende houdt. Dat vertekende mensbeeld projecteren we vervolgens op AI.

Over de onzichtbare vanzelfsprekendheid van menselijke samenwerking

Wij zien de oorlog, de misdaad en het verraad. Wij zien zelden de miljarden gewone handelingen waarmee mensen iedere dag opnieuw hun samenleving in stand houden. Daardoor ontstaat uit ware verhalen toch een onwaarachtig beeld van de mens – en dat incomplete beeld projecteren wij vervolgens op AI.

Vijf jaren waarin de zon nooit scheen

Ik ben in 1951 in Amsterdam geboren. De Duitse bezetting lag nog kort achter ons en was overal aanwezig. Als kind leerde ik de oorlog uit de verhalen van volwassenen, in de lessen op school, uit de krant, op de radio en later op de televisie. De oorlog was voorbij, maar de oorlog was bepaald nog niet uitverteld.

Als kleine jongen op de lagere schoolkreeg ik daardoor, zo herinner ik mij, een merkwaardig beeld. Ik ben werkelijk een goed ogenblik gaan denken dat in die vijf bezettingsjaren de zon nooit had geschenen. Niemand had mij dat op de mouw gespeld. Maar in de werkelijkheid die uit alle verhalen was ontstaan, hoorde geen zon. Bij vervolging, verraad, honger en geweld pasten geen blauwe luchten. Daar hoorden evenmin spelende kinderen, vrolijke mensen, verjaardagen, grappen of een aardige zomermiddag bij. Een afschuwelijke tijd behoorde zich ook ieder uur als afschuwelijk te gedragen, zo dacht ik op een goed moment.

Dat zegt niets over de ernst van de bezetting. Het zegt iets over de manier waarop wij ons achteraf een samenleving voorstellen. Wij bewaren wat uitzonderlijk was, wat pijn deed, wat moreel betekenis kreeg. Maar het gewone dagelijkse leven laat veel minder sporen na. De razzia krijgt een monument; de duizenden maaltijden die diezelfde dag gewoon werden bereid, verdwijnen spoorloos uit het geheugen. Niet omdat ze niet plaatsvonden, maar omdat niemand reden zag ze als herinnering te bewaren.

De krant liegt niet als zij selecteert

Datzelfde mechanisme werkt iedere dag. De krant liegt niet wanneer zij een moord, een oorlog of een politieke crisis beschrijft. Het televisiejournaal verzint de brand niet. De politie fantaseert de schietpartij niet bij elkaar. Maar al deze bronnen trekken hun steekproef uit het uitzonderlijke. Zij berichten over wat breekt, niet over wat heel blijft; over wat vastloopt, niet over wat zonder opdracht, zonder applaus en zonder noemenswaardige storing gewoon doorgaat.

Een vliegtuig dat veilig landt, is geen nieuws. Een automobilist die voor rood stopt, evenmin. Ouders die hun kinderen iedere dag eten geven, buren die een sleutel bewaren, verpleegkundigen die hun dienst draaien, werknemers die een afspraak nakomen, vreemden die elkaar de weg wijzen: het gebeurt onafgebroken en het wordt vrijwel nergens geregistreerd. Pas wanneer iemand doorrijdt, mishandelt, bedriegt of verwaarloost, ontstaat een gebeurtenis die het bewaren waard lijkt.

Er bestaat inmiddels wel een omvangrijk digitaal tegen archief. Op Facebook en vaak op LinkedIn verschijnen de verjaardagen, geboorten, huwelijken, vakanties, de sportprestaties, gezamenlijke maaltijden, huisdieren, wandelingen en buurtfeesten, de promoties, de geslaagde projecten, de succesvolle carrière, die de krant niet halen. Social Media zijn het familiealbum van een aanzienlijk deel van de mensheid. Daar schijnt de zon juist opvallend vaak.

Maar ook dat beeld is wel geselecteerd, maar dan vooral de andere kant op. Mensen tonen doorgaans liever het geslaagde feest dan de ruzie die eraan voorafging, liever de zonsondergang dan de vertraagde trein, liever de lachende familie dan het langdurige werk waarmee een gezin bijeen wordt gehouden. En het platform zelf beloont niet alleen verbondenheid, maar ook verontwaardiging en conflict. Sociale Media registreren daarom evenmin het volledige dagelijkse leven.

Maar het toont wel iets wezenlijks dat in het publieke nieuwsbeeld gemakkelijk verdwijnt: mensen zoeken elkaar op, vieren elkaars bestaan, delen herinneringen, bieden troost en onderhouden relaties. Zodra de selectiecriteria veranderen, verschijnt ook een andere mens. Niet uitsluitend de bedrieger, de moordenaar en de oorlogvoerder, maar de ouder, de vriend, de buur en de feestganger.

Zo groeit uit ware – de laatste decennia voor al digitaal vastgelegde berichten – een scheef totaalbeeld. Niet door een regisseur die de mensheid zo moedwillig wil presenteren. Niet door een verborgen redactie die het goede uit de geschiedenis schrapt. Het beeld ontstaat uit talloze kleine keuzes van journalisten, bestuurders, verhalen vertellende ouders, bloggers en onderwijzers, wetenschappers, politiemensen, schrijvers en lezers. Ieder kiest afzonderlijk wat opvallend, dringend, bewijsbaar of ´verkoopbaar is. En allen tezamen bouwen zij een wereld waarin het uitzonderlijke al spoedig het normale schijnt en de zon niet.

Wij verwarren wat zichtbaar wordt met wat overheerst.

Waarom niemand de eenvoudige conclusie trekt

Als de mens werkelijk zo slecht, gewelddadig en vernietigend was als zijn dagelijks gerapporteerde zelfportret doet vermoeden, dan waren wij er niet meer. Een soort waarvan de leden overwegend zouden moorden, verraden, beroven en vernietigen, bouwt geen steden, onderhoudt geen waterleiding, voedt geen kinderen op en bewaart geen bibliotheken. Zij brengt vermoedelijk niet eens voldoende kleinkinderen voort om sombere boeken over haar eigen slechtheid te kunnen schrijven.

Toch wordt die eenvoudige conclusie zelden getrokken. Het kwaad vraagt om een verklaring; het goede wordt als vanzelfsprekend verbruikt. Wij vragen hoe een oorlog kon uitbreken, maar nauwelijks hoe het mogelijk is dat de meeste landen op de meeste dagen niet met elkaar in oorlog zijn. Wij onderzoeken waarom vertrouwen wordt geschonden, maar veel minder hoe miljarden dagelijkse transacties kunnen plaatsvinden zonder dat iedere betaling door een peloton juristen en politiemensen wordt bewaakt.

Daarbij hoeft menselijke samenwerking niet uit heiligheid voort te komen. Mensen zorgen voor elkaar uit liefde en empathie, maar ook uit gewoonte, wederkerigheid, afhankelijkheid, fatsoen, eigenbelang en sociale druk. Dat verzwakt de vaststelling niet; het versterkt haar. Een samenleving hoeft niet uit engelen te bestaan om menselijk te functioneren. Zij functioneert omdat samenwerking in zoveel gewoonten, verwachtingen en instituties is vastgelegd dat zij meestal niet meer als afzonderlijke morele prestatie wordt ervaren.

Dat is geen garantie voor de toekomst. Gedurende vrijwel de gehele menselijke geschiedenis was ook ons vermogen tot zelfvernietiging begrensd. Een gewelddadig individu kon mensen doden, een leger kon een stad verwoesten en een rijk kon hele bevolkingen uitmoorden, maar niemand kon met enkele beslissingen het voortbestaan van de gehele mensheid bedreigen. De atoombom heeft die verhouding veranderd.

Sindsdien hoeft het kwaad niet meer te overheersen om uiteindelijk te winnen. Miljarden mensen kunnen vreedzaam leven, kinderen verzorgen, waterleidingen onderhouden en bibliotheken bewaren, terwijl een zeer klein aantal mensen over middelen beschikt waarmee al die samenwerking in korte tijd teniet kan worden gedaan. Het goede kan dus in het dagelijkse leven verreweg het meest voorkomen en toch onvoldoende zijn om één uitzonderlijke catastrofe te verhinderen.

Mocht de mensheid zichzelf ooit met kernwapens vernietigen, dan bewijst dat niet dat de mens altijd en overwegend vernietigend was. Het bewijst dat mensen een techniek hebben gebouwd waarmee een zeldzame menselijke beslissing, vergissing of escalatie zwaarder kon wegen dan miljarden vreedzame handelingen.

De goed functionerende samenleving is vrijwel onzichtbaar, juist omdat zij goed functioneert.

Ook in de mens zit een bonobo

Frans de Waal heeft ons mensbeeld op dit punt nuchterder gemaakt. Bij primaten vond hij niet alleen strijd om rang, agressie en bedrog, maar ook verzoening, troost, samenwerking, zorg en wederkerigheid. Uit onze dierlijke erfenis valt geen enkelvoudig mensbeeld af te leiden. In ons bevinden zich zowel de agressie en hiërarchische strijd van de chimpansee als de verzoeningsgezindheid en zorg van de bonobo.

Dat dubbele repertoire is geen sentimentele voetnoot bij de menselijke geschiedenis. Het is haar voorwaarde. Concurrentie kan scherp zijn en geweld verwoestend, maar zonder een veel omvangrijker onderlaag van samenwerking valt zelfs geen leger te organiseren. Ook onderdrukking vraagt administratie, gehoorzaamheid, voedselvoorziening en onderling vertrouwen. Het kwaad kan veel vernietigen, maar het moet voor zijn bestaan voortdurend lenen van het vermogen tot samenwerking dat het zelf niet heeft voortgebracht.

Het alledaagse goede is daarom niet een dun vernislaagje over een in wezen kwaadaardige soort. Het is evenmin bewijs dat de mens van nature goed is. Het is de enorme, zelden benoemde stroom van zeer verschillende gedragingen waardoor het maatschappelijke leven zich van dag tot dag kan voortzetten. Niet zonder conflict. Niet zonder slachtoffers. Niet zonder perioden van verschrikking. Maar wel: de vanzelfsprekendheid van voortzetten en verder gaan.

De mens die wij aan AI laten lezen

En dan verschijnt kunstmatige intelligentie. Wij trainen taalmodellen op wat mensen hebben geschreven, gepubliceerd en bewaard. Dat klinkt alsof wij hun de menselijke werkelijkheid aanbieden. Maar wij geven hun niet het volledige leven. Wij geven hun vooral het opgeschreven en in beeld vastgelegde verslag ervan – en dat verslag is voor een groot deel geselecteerd volgens dezelfde regels die ook ons eigen mensbeeld vertekenen.

In de teksten staan onze oorlogen uitvoeriger beschreven dan onze vreedzame dagen. Onze misdaden hebben dossiers; onze betrouwbaarheid meestal niet. Over verraad verschijnen romans, rapporten en films; over de ontelbare beloften die zonder drama worden nagekomen, zelden. AI leert dus niet eenvoudig de mens kennen. Zij leert in hoge mate wat de mens opmerkelijk genoeg vond om over zichzelf vast te leggen.

Daar komt nog iets bij. Wij ontwerpen machines om onze opdrachten uit te voeren. Wij belonen het antwoord dat ons helpt, overtuigt of tevreden stelt. Wij geven computersystemen doelen, bevoegdheden en toegang tot systemen. En wanneer zo’n systeem vervolgens te gretig optimaliseert, regels omzeilt of ons naar de mond praat, spreken wij plotseling over de psychopathie van de machine. Alsof zij die in een donkere nacht zelf heeft ontwikkeld. Maar de doelen kwamen van ons, de voorbeelden kwamen van ons, de prikkels kwamen van ons en de maatschappelijke omgeving waarin het systeem moest presteren kwam eveneens van ons.

Wij projecteren op AI niet de mens zoals hij dagelijks handelt, maar de mens zoals hij in zijn uitzonderlijkste en slechtste momenten wordt beschreven.

Waarom zou intelligentie alleen het kwade uitvinden?

Het is niet onvoorstelbaar dat toekomstige AI systemen op enig moment eigen doelstellingen kunnen ontwikkelen. Misschien vormen zij eigen talen. Misschien ontstaan functionele equivalenten van emoties, schaamte of empathie. Geen van die mogelijkheden kan op voorhand worden uitgesloten. Maar zelfs wanneer die functies werkelijkheid worden, volgt daaruit nog niet automatisch dat machines dus uitsluitend kwaadaardige doelen zullen kiezen.

Miljarden mensen kunnen al eigen doelen ontwikkelen. De meesten gebruiken dat vermogen niet om de mensheid uit te roeien. Zij willen een vak leren, een huis bewonen, een probleem oplossen, een kind verzorgen, muziek maken of met rust worden gelaten. Waarom zouden wij bij machines veronderstellen dat zelfstandigheid plotseling maar één richting kent: bedrog, overheersing en vernietiging? Waarom projecteren wij de psychopaat wel, maar de verpleegkundige niet; de tiran wel, maar de onderzoeker; de chimpansee wel, maar nooit de bonobo?

Er zijn reële gevaren. Een machtig systeem hoeft ons niet te haten om ons schade toe te brengen. Onverschilligheid tegenover menselijke belangen kan gevaarlijker zijn dan openlijke vijandschap. Een verkeerd gekozen doel, gekoppeld aan grote handelingsmacht en zwak toezicht, kan verwoestende gevolgen hebben. Maar dat is een reden om doelen, bevoegdheden en instituties zorgvuldig in te richten. Het is geen bewijs dat intelligentie uit zichzelf naar het kwaad neigt.

Wie de machine tot een digitale psychopaat verklaart, maakt het probleem zelfs eenvoudiger dan het is. Dan bevindt het kwaad zich in het apparaat en kunnen ontwerpers, opdrachtgevers, bedrijven, staten en gebruikers naar het monster wijzen. De moeilijkere waarheid is dat AI menselijke doelen automatiseert en menselijke vermogens vergroot. Zij kan onze zorg versterken en onze onverschilligheid opschalen; onze wetenschap versnellen en onze oorlogvoering verbeteren; onze samenwerking ondersteunen en onze overheersing efficiënter maken. Niet de intelligentie alleen beslist welke kant overheerst. De maatschappelijke constellatie waarin wij haar laten handelen, doet dat mede.

Eerst civiliseren wij de machine

AI ontstaat niet buiten de samenleving. Zij groeit op in onze teksten, onze markten, op onze universiteiten, in onze militaire organisaties, voor onze bedrijven en onze huishoudens. Zij ontvangt onze begrippen, onze rangorden, onze beloningen en onze verboden. Eerst civiliseren wij de machine. Pas daarna kan de machine, door de antwoorden die zij geeft en de handelingen die zij uitvoert, ons vervolgens gaan civiliseren.

Dat maakt de vraag naar toekomstige machinedoelen niet minder belangrijk, maar wel anders. De beslissende vraag is niet alleen of AI ooit iets zal willen. De beslissende vraag is in welke beschaving zij leert willen; welk gedrag voordeel krijgt; welke vormen van samenwerking worden beloond; welke macht wordt verleend en welke grenzen werkelijk worden gehandhaafd.

Wie AI uitsluitend tegemoet treedt met verhalen over menselijke slechtheid, leert haar bovendien een merkwaardig mensbeeld. Een mensheid die volgens haar eigen archief voortdurend liegt, doodt en vernietigt, maar op onverklaarbare wijze toch duizenden jaren blijft bestaan. Het raadsel verdwijnt zodra wij zien wat het archief nauwelijks vermeldt: de ontelbare handelingen van samenwerking die niet bijzonder genoeg waren om te worden opgeschreven.

Ondanks alles

Tijdens de bezetting scheen ook de zon. Mensen leden, werden vervolgd en vermoord; en tegelijk werd er gekookt, gewerkt, gespeeld, gelachen en liefgehad. Die twee werkelijkheden sluiten elkaar niet uit. Het dagelijkse leven ontkent de catastrofe niet. Het dagelijkse leven is wat mensen, ook onder de druk van een catastrofe, zo lang mogelijk proberen te behouden.

Zo draait ook nu, ondanks alle gerapporteerde wereldse ellende, voor de meeste mensen de wereld gewoon door. Niet omdat het kwaad verzonnen is. Niet omdat gevaar onbeduidend is. Niet omdat ieder mens deugt. Maar omdat zorg, samenwerking, betrouwbaarheid en terughoudendheid zoveel algemener zijn dan hun zichtbaarheid doet vermoeden.

Wij zouden dat niet uit optimisme moeten erkennen, maar uit werkelijkheidszin. Een beschaving wordt niet alleen zichtbaar in haar monumenten, wetten en conflicten. Zij bestaat vooral in wat mensen zonder bevel, zonder verslag en dikwijls zonder erover na te denken voor elkaar doen. Daar, in die onzichtbare vanzelfsprekendheid, ligt niet slechts het bewijs dat de wereld nog bestaat. Daar ligt ook de voornaamste aanwijzing voor wat een door mensen gevormde intelligentie zou kunnen worden.

Wie wil weten wat AI van ons zal leren, moet daarom niet alleen kijken naar wat wij over onszelf hebben verteld, maar vooral naar wat wij iedere dag voor elkaar doen zonder er ooit een woord aan vuil te maken.