Tag: technologische revolutie

Tweehonderd deskundigen willen de samenleving voorbereiden op AI. Maar de burger komt in hun verklaring nauwelijks voor. Misschien gaat hun alarm daarom niet alleen over onze toekomst, maar ook over hún positie daarin.

Opnieuw is er alarm over kunstmatige intelligentie. Meer dan tweehonderd economen, AI-onderzoekers en technologieleiders hebben een verklaring ondertekend met een titel die weinig ruimte laat voor kalm beraad:

De verklaring is opmerkelijk kort. AI kan volgens de ondertekenaars de komende tien jaar radicaal krachtiger worden. Dat zou een economische transformatie kunnen veroorzaken die groter is dan de Industriële Revolutie, maar zich in veel kortere tijd voltrekt. Er dreigt grootschalig banenverlies, terwijl tegelijk grote welvaartsstijging mogelijk is. Daarom moeten economen, beleidsmakers en technologieleiders nu handelen en de prikkels, vangrails en instituties bouwen waarmee AI in de gewenste richting kan worden gestuurd.

Op het eerste gezicht klinkt dat verstandig. Een ingrijpende technologie verdient onderzoek, maatschappelijk debat en politieke voorbereiding. Maar wie de verklaring nauwkeurig leest, ontdekt een merkwaardige leegte. De burger ontbreekt in hun verhaal. Mag die misschien ook iets vinden?

Een samenleving zonder burgers

Volgens de verklaring zijn er drie groepen die handelend moeten optreden:

• economen;
• beleidsmakers;
• technologieleiders.

De rest van de mensheid komt slechts indirect voor. Mensen kunnen hun baan verliezen, profiteren van een hogere levensstandaard of moeten worden beschermd door nieuwe regels en instituties. Zij zijn het voorwerp van beleid, maar niet de makers ervan.

De gebruiker van AI wordt niet genoemd. De werknemer evenmin. De kleine ondernemer niet. De docent, journalist, kunstenaar, verpleegkundige, ambtenaar of burger evenmin. Kennelijk zijn zij wel in staat de gevolgen van AI te ondergaan, maar niet geschikt genoeg geacht om mee te denken over de richting waarin die technologie zich moet ontwikkelen.

Dat is geen klein taalkundig foutje. Het onthult een politieke opvatting. De deskundigen stellen de diagnose. De bestuurders ontwerpen de behandeling. De technologieleiders leveren het instrumentarium. De burger mag vervolgens hopen dat de operatie slaagt. Hier spreekt niet zozeer de democratie als wel het bestuurdersmodel van de samenleving: wij weten wat er gebeurt, wij weten wat er nodig is en wij zullen bepalen hoe de toekomst moet worden ingericht.

De bevolking wordt geacht te worden beschermd — volgens hún opvattingen — maar wordt over die bescherming niet geraadpleegd.

De vaste melodie van het AI-alarm

Deze verklaring staat niet op zichzelf. Zij is de nieuwste aflevering in een inmiddels lange reeks waarschuwingen over de verschrikkelijke gevolgen van AI.

In maart 2023 riepen duizenden wetenschappers en technologen op tot een pauze van ten minste zes maanden bij het trainen van systemen die krachtiger waren dan GPT-4. Wanneer de laboratoria daar niet vrijwillig toe bereid waren, moesten overheden volgens de brief een moratorium instellen.

Enkele maanden later volgde een nog dramatischer verklaring. Het beperken van het risico dat AI tot het uitsterven van de mensheid leidt, moest volgens de ondertekenaars wereldwijd dezelfde prioriteit krijgen als pandemieën en kernoorlog.

Daarna verschenen voortdurend berichten dat AI:

• miljoenen banen zou vernietigen;
• de democratie zou ondermijnen;
• verkiezingen zou manipuleren;
• de waarheid onherkenbaar zou maken;
• het onderwijs zou ruïneren;
• menselijke creativiteit zou vernietigen;
• discriminatie zou automatiseren;
• cybercriminaliteit en oorlogvoering zou versterken;
• en uiteindelijk de mens zelf overbodig zou kunnen maken.

Sommige zorgen zijn zondemeer reëel. Technologie kan banen verdringen, machtsverschillen vergroten en bestaande instituties ontregelen. Het IMF schatte dat bijna 40 procent van de werkgelegenheid wereldwijd op enigerlei wijze aan AI wordt blootgesteld. Maar ‘blootgesteld’ is niet hetzelfde als ‘verdwenen’, en aanvulling is niet hetzelfde als vervanging.

Het probleem is dat zulke voorwaardelijke analyses in de publieke berichtgeving gemakkelijk veranderen in een vaststaand toekomstbeeld: AI komt eraan, de gevolgen zijn ongekend en deskundigen moeten onmiddellijk ingrijpen.

De onzekerheid staat meestal in de kleine letters. Het alarm staat altijd in de kop.

Van mogelijkheid naar noodtoestand

Ook de nieuwe verklaring volgt dat patroon. De redenering bestaat uit drie stappen:

AI kan radicaal krachtiger worden.

Dat zou kunnen leiden tot een economische omwenteling die groter is dan de Industriële Revolutie.

Daarom moeten wij nu handelen.

De eerste twee beweringen zijn mogelijkheden. De derde is een bevel.

Tussen mogelijkheid en bevel ontbreekt echter een groot deel van de redenering. Hoe waarschijnlijk is het beschreven scenario? Welke alternatieven bestaan er? Welke onderdelen van de economie veranderen het eerst? Welke beroepen verdwijnen, welke veranderen en welke ontstaan? Welke maatregelen zijn effectief? Wat zijn de kosten van ingrijpen? En minstens zo belangrijk: wie krijgt de bevoegdheid om de technologie te ‘sturen’?

De verklaring geeft daarop geen antwoord.

Dat kan ook moeilijk in 88 woorden. Maar juist daarom is het misleidend deze tekst te presenteren als het gezamenlijke wetenschappelijke oordeel van honderden deskundigen. Het is een politieke oproep die gezag ontleent aan de namen eronder. Maar veel Nobelprijswinnaars maken een bewering niet automatisch waar. Zelfs tweehonderd buitengewoon intelligente mensen kunnen een petitie ondertekenen waarin de beslissende vragen buiten beeld blijven.

AI begon niet in 2022

Het grootste historische mankement van het huidige AI-alarm is dat AI wordt voorgesteld als een plotselinge breuk.

Alsof de mensheid rustig onderweg was en enkele jaren geleden onverwacht werd overvallen door ChatGPT.

In werkelijkheid bevinden wij ons al veel langer in een technologische omwenteling. Je kunt het begin rond 1900 leggen, bij elektrificatie, telefonie, massaproductie, moderne chemie en gemotoriseerd vervoer. Je kunt ook 1951 kiezen, toen commerciële computers zichtbaar begonnen te maken dat niet alleen spierkracht, maar ook informatieverwerking kon worden gemechaniseerd.

Daarna volgden de transistor, de geïntegreerde schakeling, de microprocessor, software, computernetwerken, internet, zoekmachines, mobiele communicatie, sociale platforms, cloudcomputing, enorme databestanden en machinaal leren. Al die stappen veranderden productie en arbeid, maar maakten de bevolking per saldo niet brodeloos. Integendeel: de welvaart steeg, terwijl werk telkens van vorm veranderde. Generatieve AI is daarvan niet het begin.

Zij is de meest recente — en waarschijnlijk buitengewoon ingrijpende — fase van een digitale revolutie die al minstens driekwart eeuw gaande is. Het bijzondere van deze fase is dat steeds meer menselijke denk- en taalvaardigheden technisch reproduceerbaar en breed beschikbaar worden: niet alleen rekenen en opslaan, maar ook zoeken, vergelijken, vertalen, schrijven, ontwerpen, programmeren, herkennen, samenvatten en adviseren.

Daarom raakt deze revolutie niet alleen de fabrieksarbeider, zoals de Industriële Revolutie aanvankelijk deed. Zij raakt juist ook groepen die hun maatschappelijke positie ontlenen aan opleiding, informatievoorsprong, taalvaardigheid en institutionele deskundigheid. En precies daar wordt het politiek interessant.

Technologische revoluties vervangen niet alleen werktuigen

De grote technologische revoluties uit de geschiedenis veranderden telkens meer dan de productie.

De landbouwrevolutie maakte permanente vestiging, bezit, belastingheffing en bestuurlijke hiërarchie mogelijk. Maritieme scheepvaart en internationale handel versterkten kooplieden tegenover lokale en feodale machthebbers. De boekdrukkunst verzwakte het monopolie van kerk, universiteit en vorst op kennis en interpretatie. De stoommachine schiep industriëlen, stedelijke arbeiders, vakbonden en massapolitiek.

Technologische veranderingen brengen daarom vroeg of laat maatschappelijke en politieke verschuivingen voort. Niet omdat een machine automatisch een revolutie veroorzaakt. Wel omdat nieuwe technieken veranderen:

• wie nu ook toegang heeft tot kennis;
• wie nu ook kan produceren en publiceren;
• wie arbeid organiseert;
• wie economische meerwaarde ontvangt;
• welke vaardigheden schaars blijven;
• en wie nog geloofwaardig kan beweren dat alleen hij het ultieme overzicht bezit.

De oude elite verdwijnt niet noodzakelijk onmiddellijk. Meestal probeert zij de nieuwe technologie eerst in haar bestaande orde op te nemen. Zij koopt de machines, schrijft de regels, beheert de infrastructuur en benoemt zichzelf tot deskundige toezichthouder.

Soms lukt dat. Maar soms ontstaat een nieuwe elite. Nieuwe technologie kan ook nieuwe politieke ideeën en maatschappelijke organisaties voortbrengen: de drukpers was een voorwaarde voor Reformatie en Verlichting; de industrialisering vormde de voedingsbodem voor socialisme, vakbeweging en massademocratie. Wanneer kennis en handelingsmogelijkheden breder worden verspreid, kunnen bestaande gezagsverhoudingen onhoudbaar worden. Een technologische revolutie kan dan uitlopen op een maatschappelijke en politieke revolutie — en dat laat zich door de oude elite niet eenvoudig tegenhouden.

De deskundigen zijn geen buitenstaanders

Daarmee krijgt de verklaring We Must Act Now een dubbelzinnig karakter.

De ondertekenaars spreken alsof zij buiten de ontwikkeling staan en de mensheid waarschuwen voor een naderende storm. Maar velen van hen behoren tot de economische, wetenschappelijke en technologische bovenlaag die deze ontwikkeling mede veroorzaakt, financiert en bestuurt.

Onder de ondertekenaars bevinden zich topeconomen, Nobelprijswinnaars, voormalige en huidige leidinggevenden uit de technologiesector en vertegenwoordigers van bedrijven die zelf aan de ontwikkeling en commercialisering van AI werken.

Dat maakt hun zorgen niet per definitie onoprecht. Het zou goedkoop zijn te veronderstellen dat alle tweehonderd bewust samenspannen om hun macht te behouden. Velen zullen oprecht bezorgd zijn over werkloosheid, ongelijkheid en maatschappelijke ontregeling. Maar hun eigen maatschappelijke positie moet wel in de analyse worden betrokken.

Wie zegt dat nieuwe instituties noodzakelijk zijn, heeft een goede kans die instituties mede te gaan bevolken. Wie vooral deskundigheid nodig acht, vergroot het gezag van deskundigen. En wie AI wil sturen, behoort vaak al tot de kleine groep met kapitaal, rekenkracht, kennis en toegang tot beleidsmakers.

Hun oproep heeft daardoor een institutioneel voorspelbare uitkomst:

1. AI wordt voorgesteld als een uitzonderlijke dreiging.
2. De samenleving wordt onvoldoende voorbereid verklaard.
3. Nieuwe regels, instituten en toezichthouders worden noodzakelijk.
4. De bestaande deskundige en bestuurlijke elite krijgt daarin een centrale rol.
5. De burger blijft degene namens wie wordt gehandeld.

Dat is geen complottheorie. Het is een elementaire analyse van macht en belangen.

Bescherming als machtsaanspraak

De politiek kent een oud mechanisme: wie een gevaar overtuigend definieert, maakt zichzelf kandidaat om het te beheersen. Dat geldt bij oorlog, terrorisme, pandemieën en financiële crises. Het geldt ook bij AI.

De taal van bescherming is daarbij bijzonder effectief. Niemand wil immers tegen veiligheid, menselijkheid of maatschappelijke welvaart zijn. Maar zodra een elite zegt dat zij ‘de samenleving’ wil beschermen, moeten ten minste drie vragen worden gesteld:

1. Tegen welk concreet gevaar?
2. Met welke aantoonbaar effectieve middelen?
3. En wie controleert de beschermers?

In de nieuwe verklaring blijven die vragen onbeantwoord. De ondertekenaars willen ‘incentives, guardrails and institutions’ ontwerpen om AI zo te sturen dat deze de mens aanvult en de samenleving ten goede komt. Maar ‘de samenleving’ heeft geen enkelvoudig belang. Het algemeen belang is niet eenduidig op ons vanzelfsprekend neergedaald.

Een AI-toepassing kan voordelig zijn voor consumenten en nadelig voor een bestaande beroepsgroep. Zij kan de productiviteit verhogen en tegelijk de onderhandelingsmacht van werknemers verzwakken. Zij kan burgers toegang geven tot deskundige kennis en tegelijk het verdienmodel van professionele poortwachters aantasten.

De vraag wat de samenleving ‘ten goede komt’, is daarom geen technisch vraagstuk. Het is politiek.

En politieke vragen mogen niet exclusief worden afgehandeld door degenen die zichzelf op grond van hun vermeende deskundigheid tot zaakwaarnemer van de mensheid benoemen.

Misschien vreest de elite niet alleen banenverlies

Het gebruikelijke verhaal is dat AI vooral laaggeschoolde of routinematige arbeid bedreigt. Maar juist moderne AI tast vooral het exclusieve karakter aan van vaardigheden waarop hoogopgeleide beroepsgroepen hun positie hebben gebouwd.

Een burger kan nu zonder tussenkomst van een specialist juridische teksten laten uitleggen, medische vragen structureren, rapporten samenvatten, computerprogramma’s schrijven, beleidsstukken analyseren en argumentaties toetsen. Dat betekent niet dat de expert overbodig is. Wel dat zijn kennis minder voor niet ingewijden ontoegankelijk wordt.

De maatschappelijke betekenis daarvan kan groter zijn dan het verdwijnen van een aantal afzonderlijke functies. Een elite ontleent haar positie immers niet alleen aan bezit of formele macht, maar ook aan de overtuiging dat zij beter dan anderen begrijpt wat er moet gebeuren.

Wanneer burgers toegang krijgen tot instrumenten waarmee zij informatie kunnen analyseren, argumenten kunnen controleren en zelf complexe producten kunnen maken, vermindert de afstand tussen deskundige en leek.

AI kan een nieuw middel tot centralisering worden: grote ondernemingen en staten kunnen er ongekende controle mee uitoefenen. Maar AI kan kennis, deskundigheid en handelingsmogelijkheden óók veel breder onder burgers verspreiden.

Dat emancipatoire effect krijgt in de alarmverklaringen opvallend weinig aandacht. Misschien omdat het gemakkelijker is te spreken over bedreigde banen dan over bedreigde gezagsverhoudingen.

Geen paniek

De voorspelling dat nieuwe technologie op grote schaal banen zal vernietigen, is niet nieuw. Bij vrijwel iedere technologische omwenteling werd gewaarschuwd dat machines de mens overbodig zouden maken. Veel beroepen en werkzaamheden verdwenen inderdaad, maar het werk als zodanig verdween niet.

Ben Rogmans schreef daar in 2018 het boek Geen paniek! Maar ook jouw baan gaat eraan over. Zijn boodschap was niet dat er niets verandert. Integendeel: werk verdwijnt en mensen moeten zich blijven ontwikkelen. Maar paniek over het definitieve einde van menselijke arbeid is historisch slecht gefundeerd. Het grotere gevaar is dat mensen en instituties zich onvoldoende aanpassen.

Dat onderscheid is ook bij AI essentieel. Banen zijn tijdelijke bundelingen van werkzaamheden, passend bij de technologie en arbeidsverdeling van een bepaalde periode. AI kan zulke bundelingen openbreken: sommige taken verdwijnen, andere worden eenvoudiger en weer andere ontstaan. Dat kan voor afzonderlijke mensen zeer pijnlijk zijn, zonder dat de samenleving als geheel zonder werk komt te zitten.

De alarmisten tellen vooral het werk dat een technologie kan overnemen, maar niet de nieuwe activiteiten en de menselijke aanpassing die daardoor ontstaan. Zij zien de verdwijnende boekhouder, vertaler of administrateur, maar nog niet de beroepen waarvoor onze woordenboeken eenvoudig nog geen namen bevatten.

De burger ondergaat niet alleen — hij leert en organiseert zich

Wanneer de alarmisten stellen dat AI grotere gevolgen zal hebben en sneller zal verlopen dan de Industriële Revolutie, gebruiken zij die revolutie vooral als schrikbeeld. Zij vergeten wat er na de eerste ontwrichting gebeurde.

De burgers die de industrialisering overkwam, moesten die aanvankelijk grotendeels ondergaan. Zij verloren bestaanszekerheid, kwamen terecht in ongezonde steden en waren overgeleverd aan fabriekseigenaren die nauwelijks door wetten werden begrensd. De maatschappelijke ellende was enorm.

Maar de bevolking bleef geen passief slachtoffer. Arbeiders organiseerden zich in vakbonden, coöperaties en politieke partijen. Zij bevochten arbeidsrecht, onderwijs, sociale zekerheid en kiesrecht. Dat ging langzaam en met veel conflicten, maar een groot deel van de bevolking kwam uiteindelijk sterker uit de industriële omwenteling tevoorschijn — mede ten koste van de machtspositie van oude elites.

Waarom zou bij AI alleen de ontwrichting historisch vergelijkbaar zijn, maar niet het menselijke aanpassingsvermogen?

Ook de cybernetische en AI-revolutie zal burgers tot aanpassing dwingen. Beroepen zullen verdwijnen, veranderen en ontstaan. Tegelijk krijgen burgers toegang tot kennis- en productiemiddelen die vroeger waren voorbehouden aan grote organisaties en hoogopgeleide professionals. Zij zijn gebruiker, werknemer, ondernemer, gegevensproducent én kiezer: geen hulpeloos materiaal waarop technologie inwerkt, maar mede vormgever van haar maatschappelijke betekenis.

De geschiedenis geeft daarom niet alleen reden voor bezorgdheid, maar ook om rekening te houden met emancipatie.

Wie de Industriële Revolutie aanhaalt, moet beide kanten van de vergelijking aanvaarden: technologische revoluties brengen ellende en machtsconcentratie voort, maar kunnen ook nieuwe vormen van burgermacht scheppen en oude elites ondermijnen.

De alarmisten zien de snelheid en kracht van AI, maar onderschatten de snelheid en kracht waarmee mensen leren, samenwerken en nieuwe instituties vormen.

De kern kan nog scherper worden samengevat:

De historische fout van de alarmisten is dat zij AI als revolutionair beschouwen, maar de burger als onveranderlijk.

Dat is misschien wel de fundamenteelste denkfout in hun verklaring.

Het werkelijke alarm

De ondertekenaars hebben op één punt waarschijnlijk gelijk: AI kan tot een zeer ingrijpende maatschappelijke verandering leiden. Maar zij stellen de verkeerde hoofdvraag.

Niet alleen: hoe beschermen wij de samenleving tegen AI? Maar vooral: wie krijgt door AI meer handelingsvermogen, wie verliest macht en wie mag daarover beslissen?

De geschiedenis leert dat een technologische revolutie zelden netjes wordt bestuurd door de elite die bij het begin ervan aan de macht was. Oude instituties proberen de nieuwe mogelijkheden in hun eigen structuren onder te brengen. Oude beroepsgroepen verdedigen hun exclusiviteit. Oude machthebbers presenteren hun belangen als het algemeen belang.

Daarom moeten we het alarm van de tweehonderd deskundigen serieus nemen — maar niet noodzakelijk zoals zij bedoelen.

Het gevaar is niet alleen dat AI banen vernietigt of dat algoritmen ons gaan overheersen. Het gevaar is ook dat een kleine groep bedrijven, bestuurders en deskundigen de maatschappelijke betekenis van AI vooraf definieert, de spelregels opstelt en vervolgens uit naam van onze bescherming de zeggenschap over de technologie monopoliseert.

De kernvraag luidt daarom:

Hoe beschermen burgers hun democratische handelingsvrijheid tegen een elite die AI wil beheersen — en daarmee ook de samenleving?

Misschien is er inderdaad reden voor alarm. Maar dan vooral omdat in een verklaring over de toekomst van de hele economie de belangrijkste politieke actor eenvoudig is vergeten: de burger zelf.