Donald Trump heeft besloten dat Artificial Intelligence voortaan beter Super Intelligence kan heten. Tijdens zijn rede voor de Algemene Vergadering van de Verenigde Naties legde hij uit waarom. Het woord artificial zou intelligentie volgens hem “fake” laten klinken, terwijl AI juist verbazingwekkend echt en belangrijk is. Daarom kondigde hij aan dat Amerikaanse overheidsdocumenten voortaan van Superintelligence, kortweg SI, zouden spreken. Vervolgens koppelde hij dat aan een geopolitieke wedstrijd: wie AI — of voortaan SI — wint, “wins”. De Verenigde Staten moeten daarin voor China blijven en de ontwikkeling vooral niet verstikken.
Daar gaat taalkundig al iets merkwaardigs mis.
Artificial betekent bij kunstmatige intelligentie niet vals, nep of onecht. Het zegt iets over de oorsprong ervan: deze vorm van intelligent gedrag wordt kunstmatig voortgebracht. Kunstlicht is ook geen namaaklicht en een kunsthart pompt geen nep-bloed omdat het niet in een baarmoeder is gegroeid.
Door artificial te vervangen door super verandert Trump bovendien ongemerkt van categorie. Artificial zegt iets over de wijze waarop iets tot stand komt; super zegt iets over de veronderstelde kwaliteit of omvang ervan. In de bestaande AI-terminologie heeft superintelligence bovendien al een specifieke betekenis: het verwijst doorgaans naar hypothetische systemen waarvan de cognitieve vermogens die van mensen zeer breed zouden overtreffen. Dat is iets anders dan de verzamelnaam voor de huidige AI-technologie. Ook deskundigen die hierover door de BBC werden geraadpleegd wezen erop dat Trumps nieuwe naam daarom waarschijnlijk niet vanzelf in de vakwereld zal worden overgenomen.
Maar toen ik vervolgens de reactie van de Amerikaanse schrijver Leo Hohmann las, werd het pas echt interessant.
Hohmann is bepaald geen bewonderaar van Trump. In zijn artikel “WARNING: Did Trump just tip his hand as to who he considers to be his god?” vat hij Trumps uitspraken over AI samen en vraagt vervolgens wat Trump eigenlijk bedoelt met het “winnen” van de AI-race. Gaat het om economische macht? Militaire superioriteit? Wereldwijde politieke dominantie? Trump preciseert dat inderdaad niet. Hohmann redeneert vervolgens verder: als Amerika AI wint, zou het die technologische voorsprong volgens hem kunnen gebruiken om andere landen te onderwerpen. Hij plaatst de uitspraak daarmee in zijn veel bredere kritiek op Amerikaanse militaire en economische macht.
Tot zover kun je zijn vragen onderzoeken. Wat bedoelt een politicus precies wanneer hij zegt dat een land AI moet “winnen”? Welke technologie moet dan gewonnen worden, tegen wie, en wanneer is de overwinning bereikt? Dat zijn redelijke vragen bij een nogal ruime politieke metafoor. Maar vervolgens gebeurt bij Hohmann iets dat minstens zo interessant is als bij Trump.
Uit Trumps keuze voor het woord super concludeert hij dat Trump AI blijkbaar ziet als een intelligentie die niet meer werkelijk kunstmatig en door mensen gemaakt is, maar als iets hogers en superieurs. Vervolgens schrijft hij dat Trump AI “god-like powers” zou toekennen en misschien verwacht dat die technologie hem bijna bovennatuurlijke macht over zijn tegenstanders zal verschaffen. Aan het einde wordt die interpretatie opgenomen in Hohmanns religieuze wereldbeeld: AI komt terecht tussen “false christs”, “false messiahs” en de verwachting van de wederkomst van Christus.
En dan zien we twee vrijwel tegengestelde interpretaties die op één punt verrassend veel op elkaar lijken. Trump zegt ongeveer: Artificial klinkt als nep. Deze intelligentie is echt en geweldig. Laten we haar daarom Super Intelligence noemen. Hohmann hoort vervolgens: Als Trump haar super noemt, beschouwt hij haar kennelijk als een superieure, bijna goddelijke intelligentie die hem macht over de wereld kan geven.
Beiden behandelen AI daarmee alsof intelligentie één eigenschap is waarvan een systeem simpelweg weinig, veel of heel veel kan bezitten. Maar misschien is juist dát een verkeerde bril.
Welke intelligentie?
Een taalmodel kan in enkele seconden een tekst analyseren waarvoor een mens uren nodig zou hebben en vijf minuten later een ongelooflijke fout maken in een eenvoudige feitelijke redenering. Een AI-schaakprogramma kan blijkbaar nu iedere menselijke grootmeester verslaan maar begrijpt niets van het feit dat de winnaar na afloop misschien naar huis moet om zijn kinderen van school te halen. Dat is niet noodzakelijk een paradox. Het wordt pas een paradox wanneer wij intelligentie behandelen als één algemene ‘substantie’.
AI bestaat uit systemen met bepaalde vermogens onder bepaalde omstandigheden. Sommige daarvan overtreffen menselijke prestaties spectaculair. Andere niet. En dezelfde systemen kunnen indrukwekkend presteren én ernstige fouten maken.
Daarom zegt een fout van een AI-systeem op zichzelf even weinig over “de intelligentie van AI” als een neergestort vliegtuig bewijst dat vliegtuigen niet sneller kunnen reizen dan mensen.
Hohmann voert bijvoorbeeld recente militaire incidenten aan om te laten zien dat AI helemaal niet zo “super” is. Daarbij verwijst hij onder meer naar berichtgeving over een foutief AI-gegenereerd inlichtingenrapport dat tot een riskante militaire situatie zou hebben bijgedragen. Of zo’n incident ernstig is, staat los van de veel algemenere vraag of AI “superieur” is. Het relevante probleem is daar veel concreter: welk systeem werd waarvoor gebruikt, hoe betrouwbaar was het, welke menselijke controle bestond er en welke verificatieprocedures faalden? Hohmann gebruikt zulke incidenten echter als argument tegen het veel vagere idee van een superieure intelligentie.
Daarmee doet hij vreemd genoeg precies wat hij Trump verwijt: een ingewikkelde verzameling technologieën terugbrengen tot één groot begrip. Trump maakt van AI SI. Hohmann maakt van SI vervolgens bijna een bovennatuurlijke actor.
AI zonder metafysica
Misschien is dat uiteindelijk de eenvoudigste conclusie uit de redeneringen van beide heren. Trump maakt van kunstmatige intelligentie iets wat vooral super zou zijn. Hij presenteerde AI in zijn VN-rede zelfs als Superintelligence en koppelde daar de gedachte aan dat wie AI of SI “wint”, ook de strategische wedloop wint. Hohmann leest daarin vervolgens bijna het tegenovergestelde gevaar: een bovenmenselijke, mogelijk goddelijke macht die door politieke leiders kan worden ingezet om anderen te overheersen.
Beiden maken AI daarmee groter en geheimzinniger dan aan de orde is. De een verheft haar, de ander demoniseert haar. Maar misschien moeten we juist een hele andere kant opkijken.
Niet vragen of AI echt intelligent is, of superieur, of bijna goddelijke vermogens bezit. En ook niet of zij als een zelfstandig wezen uiteindelijk goed of kwaad zal blijken te zijn. Laten we veel eenvoudiger kijken naar wat er werkelijk voor ons staat: technische systemen met bepaalde vermogens en beperkingen, die onder bepaalde omstandigheden bepaald gedrag vertonen en door mensen voor bepaalde, zeer verschillende, doelen worden gebruikt.
Dan worden ook de vragen beter. Wat kan zo’n systeem werkelijk? Waarin presteert het beter dan mensen en waarin niet? Welke fouten maakt het? Hoe betrouwbaar is het bij deze toepassing? Wie gebruikt het, voor welk doel, met welke controle en met welke gevolgen? Daarover kun je onderzoek doen, argumenteren en van mening verschillen zonder eerst te moeten besluiten wat AI in wezen is.
Daar hoort ook een andere kant van de huidige ontwikkeling bij die in veel sombere verhalen gemakkelijk uit beeld raakt. AI is een opvallende technologische revolutie, en technologische revoluties hebben vaker vermogens die aanvankelijk schaars, duur of voorbehouden aan specialisten waren binnen het bereik van veel grotere groepen mensen gebracht. De drukpers gaf veel meer mensen toegang tot teksten, de auto gaf gewone burgers een mobiliteit die vroeger ondenkbaar was en het internet maakte informatievoorziening en publicatie mogelijk zonder dat daar nog noodzakelijk een uitgever, omroep of bibliotheek tussen hoefde te staan.
AI doet iets vergelijkbaars. Een individuele burger kan inmiddels teksten vertalen en analyseren, software schrijven, gegevens ordenen, beelden maken, ingewikkelde onderwerpen laten uitleggen en werkzaamheden uitvoeren waarvoor vroeger gespecialiseerde kennis, veel tijd of betaalde hulp nodig was. Dat betekent niet dat iedereen daardoor plotseling deskundig wordt, evenmin als de auto van iedere bestuurder een automonteur maakte. Maar het vergroot wel zijn handelingsmogelijkheden.
En juist daarom is het verloop van deze technologische revolutie niet volledig het product van wat Trump, Hohmann, OpenAI, een regering of wie dan ook ervan vindt. Zij kunnen haar ontwikkeling bevorderen, afremmen, reguleren, verbieden, subsidiëren of proberen een bepaald verhaal erover ingang te doen vinden. Maar zodra een nieuwe technologie bruikbare vermogens in handen legt van miljoenen mensen, gaan die mensen er zelf iets mee doen. Nieuwe toepassingen ontstaan, oude beroepen veranderen, organisaties passen zich aan, onverwachte mogelijkheden worden ontdekt en sommige machtsverhoudingen verschuiven.
Dat proces kent geen centrale regisseur.
Misschien versterkt AI uiteindelijk bepaalde bestaande machtsconcentraties. Grote bedrijven en staten beschikken immers over middelen, infrastructuur en gegevens waar een individu niet over beschikt. Maar het omgekeerde kan tegelijkertijd gebeuren. Een kleine ondernemer kan werkzaamheden uitvoeren waarvoor vroeger een afdeling nodig was. Een burger kan informatie analyseren waarvoor hij eerder afhankelijk was van een deskundige. Een schrijver kan publiceren zonder redactie, een programmeur kan dingen bouwen waarvoor voorheen een team nodig was, en nieuwe bedrijven kunnen ontstaan omdat de toetredingsdrempel tot bepaalde kennis en vaardigheden daalt.
Misschien zal AI ons dus niet alleen afhankelijker maken van haar machtige eigenaren, zoals in veel verhalen wordt verondersteld. Zij kan mensen op onderdelen ook minder afhankelijk maken van instituties die kennis, deskundigheid en productiecapaciteit tot dusver juist monopoliseerden. Welke van die bewegingen uiteindelijk zwaarder zal wegen, kunnen we nu nog niet weten.
En Trump noch Hohmann kan dat eenvoudig voor ons beslissen. Trump kan AI Superintelligence noemen en verklaren dat Amerika de wedstrijd moet winnen. Hohmann kan daarin de aankondiging van een gevaarlijke nieuwe macht herkennen. Maar miljoenen mensen, bedrijven en organisaties zullen ondertussen de technologie gebruiken voor doelen die geen van beiden heeft bedacht. Daaruit zullen weer nieuwe toepassingen, belangen, problemen en mogelijkheden ontstaan.
Niet omdat AI een eigen historische wil bezit, maar omdat technologische verandering eenmaal in de samenleving doorwerkt via het handelen van ontelbare mensen. Geen van hen beheerst afzonderlijk de uiteindelijke uitkomst.
Dat is misschien veel interessanter dan de vraag of AI goddelijk, kwaadaardig of super is. Weg dus van de metafysica. Kijk naar wat de systemen feitelijk kunnen, wie die mogelijkheden gebruikt en welke nieuwe handelingsmogelijkheden daardoor ontstaan.
Misschien krijgen we dan niet alleen AI beter in de kijker, maar ook de revolutie die zich ondertussen gewoon voltrekt.