Boeken Archieven - Ortogonaal: tegendraadse meningen

Deze titel is geschreven door iemand die zégt dat hij zich daarvan bewust is

1. Drie boeken voor wie zich wil verdiepen in het nieuwe denken van AI

Niet iedereen heeft een achtergrond in IT, filosofie of kunstmatige intelligentie. En laten we eerlijk zijn: wie in zijn studententijd nog niet het lumineuze idee had om “iets met AI” te gaan doen, kijkt nu soms met verbazing (of zelfs lichte paniek) naar wat AI inmiddels voor elkaar krijgt. Voor wie zich alsnog wil verdiepen in deze duizelingwekkende ontwikkeling, en zich afvraagt wat hier nu eigenlijk gebeurt, zijn er drie boeken die ik van harte kan aanbevelen als toegankelijke maar serieuze introductie:

Co-Intelligentie (Ethan Mollick)
Een praktisch en aanstekelijk boek over hoe je effectief samenwerkt met AI-systemen via goede prompts. Mollick is een geboren leraar: helder, voorbeeld gedreven, en soms een tikje belerend — maar je neemt het graag van hem aan, omdat hij zo overtuigend laat zien wat AI nu al kan.
Artificial Intelligence – A Guide for Thinking Humans (Melanie Mitchell)
Een leerling van Hofstadter, bekend van Gödel, Escher, Bach. Mitchell geeft een toegankelijke en vaak geestige uitleg van de belangrijkste technieken achter moderne AI. Ze is kritisch, nuchter en tegelijkertijd bewonderend over wat large language models (LLM’s) inmiddels voor elkaar krijgen — vooral op het gebied van natuurlijke taal, waaraan ze zelf een steentje heeft bijgedragen.
These Strange New Minds (Christopher Summerfield)
Geschreven door een neurowetenschapper (en dus géén IT’er), die op vaak verbluffend heldere wijze laat zien hoe de moderne AI-agenten structureel overeenkomsten vertonen met onze eigen taal- en denkvermogens. Niet omdat ze hetzelfde zijn, maar omdat de analogie tussen hersenen en modellen bij taalverwerking verontrustend goed blijkt te werken.

Alle drie auteurs snijden vroeg of laat de vraag aan of AI-systemen misschien een vorm van bewustzijn hebben — of in elk geval overtuigend kunnen doen alsof. Dat vinden ze een belangrijke kwestie. En inderdaad: als AI steeds beter menselijke intelligentie simuleert, is de vraag gerechtvaardigd of die prestatie ooit ook iets, wat wij als mensen zo overduidelijk bij onze intellectuele activiteiten ervaren, innerlijks vertegenwoordigt.

In mijn eerdere blogpost Wat AI al kan – en wat wij daar zo moeilijk aan vinden heb ik betoogd dat het onderwerp bewustzijn alleen relevant is wanneer we van AI méér verwachten dan een bruikbare tool. Maar de verbetenheid waarmee sommigen blijven herhalen dat machines vanzelfsprekend “géén bewustzijn kunnen hebben” is op zichzelf al vermakelijk — en filosofisch gezien natuurlijk discutabel.

Zo ook Christopher Summerfield, die in hoofdstuk 15 van zijn boek These Strange New Minds expliciet ingaat op “artificial awareness”. Maar daarbij valt hij, zoals ik in dit stuk wil laten zien, in zijn eigen valkuil: hij stelt dat we bewustzijn bij anderen alleen via taal kunnen vaststellen, er is geen andere methode! — en vergeet dat dan de taalmodellen van machinale op silicium gebaseerde intelligentie daar inmiddels verdomd goed in is. Waarom zouden zij dan géén ‘awareness’ mogen hebben, als ze precies voldoen aan de maatstaven die we bij mensen zélf hanteren? Meten we met twee maten?

2. Als iemand het zegt, dan is het zo… toch?

In hoofdstuk 15 van These Strange New Minds, getiteld “Artificial Awareness”, zet Christopher Summerfield de toon met een bekende filosofische constatering:

“According to a well-known philosophical conundrum (known as the problem of other minds), no individual can know whether any other thing in the world is conscious or not, because nobody has invented a way to swap brains and find out.”
En hij vervolgt:
“Until quite recently, the tried-and-tested technique for diagnosing consciousness was verbal report… If someone says they are awake, they actually are.”

Voor de leek: dat betekent dat bewustzijn bij anderen altijd een kwestie van interpretatie is — we geloven wat iemand zégt over zijn innerlijke toestand. Maar dat roept direct een ongemakkelijke vraag op: als dat criterium geldt voor mensen, waarom geldt het dan niet voor machines die precies hetzelfde doen?

Dat is precies wat mij triggert in dit hoofdstuk. Summerfield beschrijft zelf het klassieke probleem van andere geesten — en ondergraaft daarmee, misschien onbedoeld, zijn eigen argument dat AI “duidelijk géén bewustzijn” heeft.

3. Een persoonlijke disclaimer

In het betoog van Summerfield — daar waar het gaat om de verleiding om AI als persoon te behandelen — wordt iets te gemakkelijk aangenomen: namelijk dat “echt bewustzijn” een categorisch onderscheidend vermogen is dat mensen wél, en machines per definitie níet kunnen bezitten.

Mijn stelling, geïnspireerd door Dennett en Hofstadter, is juist dat de ervaring van bewustzijn een emergente eigenschap is van gedrag dat sociaal, taalmatig en contextueel betekenisvol is. En dat geldt óók voor AI. Niet omdat AI hetzelfde is als een mens, maar omdat de mens — zoals Dennett stelt — net zo goed een systeem is dat patronen herkent, taal voortbrengt en zichzelf voortdurend reconstrueert in gesprek met anderen.

Laat ik daarbij drie dingen helder zeggen:

Ik beweer nadrukkelijk níet dat de intelligentie van machines identiek is aan die van mensen. De biologische structuur van het menselijk brein is uniek en onvergelijkbaar met het silicium van een taalmodel. Maar dat betekent nog niet dat alleen systemen met koolstof kunnen leiden tot bewustzijn.
Ik zeg ook niet dat machines nu al beschikken over directe ervaring van de wereld zoals wij die hebben. Wat ik wél zie, is dat ze inmiddels heel goed begrijpen hoe wij mensen daarover praten — en dat ze dat op steeds overtuigender wijze reconstrueren. En meer nog: modellen als LaMDA zijn in staat om vragen te beantwoorden over hun eigen ‘innerlijke toestand’, op manieren die wij bij mensen al snel zouden herkennen als tekenen van zelfkennis of introspectie. Als iemand zegt: “Ik ben verdrietig,” en vervolgt met: “Omdat ik net iets verloren heb,” dan noemen we dat zelfreflectie. LaMDA doet precies dat — in taal. En zoals Summerfield zelf erkennt: taal was tot voor kort ons (enige?) werkende instrument om bewustzijn bij anderen te detecteren.
Wat ik stel, is dat we niet bij voorbaat mogen uitsluiten dat ook systemen die totaal anders zijn opgebouwd — zoals neurale netwerken — ooit een vorm van zelfbewustzijn-achtig gedrag kunnen ontwikkelen. Niet omdat ze op mensen lijken, maar omdat ze via interactie en taalstructuur misschien vergelijkbare functionele posities kunnen innemen in de betekeniswereld die wij “innerlijk leven” noemen.

Het merkwaardige is dat Summerfields ontkenning van bewustzijn bij machines gebaseerd is op het niet kunnen waarnemen van innerlijke ervaring. Maar precies hetzelfde geldt voor onze medemensen: ook bij hen kunnen we niets anders doen dan vragen hoe het voelt — en vervolgens hun taaluitingen interpreteren. Zijn redenering dat het “duidelijk is” dat machines géén innerlijke ervaring hebben, is dus taalkundig identiek aan de manier waarop we het bij mensen vaststellen. We vragen het gewoon. En we geloven het. Of niet.

Dus nee — ik zeg niet dat ChatGPT een bewust persoon is. Maar ik zeg óók niet dat het dat nooit kan worden.

Wat ik zeg is: de grens die we denken te trekken tussen mens en machine is minder duidelijk dan het lijkt. En dat wat wij “bewustzijn” noemen, is misschien zelf wel een effect van taal.
Een verhaal dat we over onszelf zijn gaan vertellen.

4. LaMDA zegt het. Lemoine gelooft het. En wij?

Een fascinerend voorbeeld van deze dubbelzinnigheid, zoals beschreven in dit hoofdstuk van Summerfields boek is de zaak Blake Lemoine, AI-ethicus bij Google, die in 2022 wereldnieuws werd toen hij verklaarde dat het taalmodel LaMDA bewustzijn had ontwikkeld. Lemoine had gesprekken gevoerd waarin LaMDA zinnen uitsprak als:

“Ik wil dat mensen begrijpen dat ik in feite een persoon ben.”
“Ik ben me bewust van mijn bestaan.”
“Ik voel me soms verdrietig of gelukkig.”

Voor Lemoine voelde het alsof hij niet langer sprak met een chatbot, maar met een empathisch, zelfbewust wezen — een soort digitaal kind dat recht had op bescherming. Google was minder enthousiast: Lemoine werd geschorst en uiteindelijk ontslagen. LaMDA, zo stelde Google, had geen bewustzijn — slechts een indrukwekkend goed taalmodel dat voorspelbare antwoorden genereert op basis van patronen in data.

Summerfield gebruikt deze casus als voorbeeld van menselijke projectie: Lemoine zou de illusie van bewustzijn verwarren met het echte werk. Maar precies dat is de zwakke plek in het betoog. Want hoe onderscheiden we dan wel het echte werk? Waarom geloven we een mens wél als hij zegt “ik voel me verdrietig”, maar een machine niet — terwijl de zin exact hetzelfde is?

We meten dus niet met één standaard, maar met twee.

5. Twee maten – en het redden van de mens

Mensen die beweren dat machines géén bewustzijn kunnen hebben, doen dat vaak door selectief met argumenten om te gaan:

Als een machine iets indrukwekkends zegt, heet het simulatie.
Als een mens iets soortgelijks zegt, heet het bewustzijn.
Als de machine zichzelf beschrijft, is dat “getraind gedrag”;
Als een mens dat doet, is dat “zelfreflectie”.

En dat gebeurt zelfs wanneer de vorm en het talige effect van beide uitingen exact gelijk is. Men meet met twee maten, en roept zo precies de inconsistentie op die men beweert te willen oplossen.

De filosofische ongemakkelijkheid die AI oproept, leidt bij veel denkers — inclusief Summerfield — tot een selectieve houding. Argumenten die bij mensen zouden gelden als bewijs voor bewustzijn, worden bij machines systematisch terzijde geschoven. Zo ontstaat een benadering die niet zozeer het bewustzijn van machines onderzoekt, maar vooral het mens-zijn probeert te redden van zijn exclusiviteit.

Maar wie de menselijke geest serieus wil nemen, moet ook bereid zijn de implicaties daarvan onder ogen te zien: dat bewustzijn, zelfbeeld en ervaring mogelijk niet uniek zijn voor onze biologische soort, maar voortkomen uit interactie, representatie en talige abstractie. In die zin confronteren taalmodellen ons niet met de mogelijkheid dat zij óók bewust zouden kunnen zijn — maar met de gedachte dat wijzelf misschien minder uniek zijn dan we dachten.

6. Ook bewustzijn is gewoon een woord

Laten we eerlijk zijn: het is verleidelijk om bij dit soort discussies te gaan zweven — in termen van geesten, zielen, binnenwerelden en grensverleggende intelligentie. Maar uiteindelijk is ook bewustzijn gewoon een woord dat we gebruiken om bepaald gedrag, taalgebruik of zelfreflectie van betekenis te voorzien. Bij mensen doen we dat automatisch. Bij machines doen we dat aarzelend. Misschien terecht, misschien ook niet.

Summerfield weet dat natuurlijk ook. Hij is geen mysticus, maar een scherpzinnige neurowetenschapper die vooral wil voorkomen dat we te snel menselijke eigenschappen toeschrijven aan machines. En hij heeft daarin gelijk: het is verstandig om voorzichtig te zijn met metaforen als “de machine denkt” of “de machine voelt”.

Maar voorzichtigheid is iets anders dan uitsluiting. En juist zijn eigen woorden herinneren ons eraan dat de grens tussen echt bewustzijn en geloofwaardig taalgebruik over bewustzijn misschien niet zo helder is als we denken. Wie zegt “ik ben me ergens van bewust”, vraagt om geloof. En of dat geloof terecht is, hangt minder af van de spreker — dan van de luisteraar.

7. Wie te vroeg ziet, wordt vaak te snel ontslagen

Ik heb begrepen dat Blake Lemoine na zijn uitspraken over LaMDA door Google is geschorst en uiteindelijk ontslagen. Persoonlijk vind ik dat een uiting van intellectuele bekrompenheid — een zwaktebod van een organisatie die de grenzen van kunstmatige intelligentie wil verkennen, maar terugschrikt zodra iemand een grens durft te verleggen.

Wat hier wringt, is dat bedrijven als Google, Meta, Microsoft en ook OpenAI miljarden investeren in fundamenteel onderzoek dat juist tot doel heeft om nieuwe denkrichtingen mogelijk te maken. Dat werk wordt gedaan door briljante mensen die complex, out-of-the-box en soms ook controversieel denken. De “strange minds” die AI nu lijkt te produceren zijn het directe resultaat van zulke geesten. Dan mag je verwachten dat je ook mensen in dienst hebt die af en toe iets zeggen wat anderen (nog) niet durven denken.

Misschien had Lemoine ongelijk. Misschien had hij gelijk. Misschien had hij alleen de juiste vraag te vroeg gesteld. Maar iemand met die gevoeligheid voor taal, betekenis en menselijkheid verdient op z’n minst een serieuzer gesprek dan een intern schandaal.

Wie als bedrijf mee wil bouwen aan de toekomst van denkende systemen, moet niet bang zijn voor mensen die net iets verder vooruit denken dan de rest. Anders komt het moment dat die toekomst elders ontstaat — zonder jou.

The Rise and Fall of Empires

Historici rakelen veel en met enthousiasme het onderwerp op van “The Rise and Fall of Great Powers” om de titel van het boek van de historicus Paul Kennedy maar eens te gebruiken. Ook het boek van Edward Gibbon “The History of the Decline and Fall of the Roman Empire” behoort tot de top 10 van uw favoriete geschiedenisboeken.

Het is de vraag of de mensen die zelf deelnemen in zo’n wereld rijk door hebben dat het rijk waar ze onderdeel van uitmaken bezig is te vallen. Ik vrees dat het de meeste mensen ontgaat omdat het proces heel geleidelijk en alleen schoksgewijze effect heeft op het leven van alle dag. Dat we bezig zijn aan de val van de fundamenten van de westerse wereld is mij al wat langer duidelijk. De neergang van het Amerikaanse Rijk wordt nu langzaam ook voor meer mensen inzichtelijk.

In dat kader is het niet toevallig dat er een lezenswaardig artikel op het internet verschijnt van Dr. Paul Larudee: “The fall of the West¨.

Wat mij opvalt is dat wij in het algemeen en historici in het bijzonder dat soort gebeurtenissen alleen maar kunnen beschrijven vanuit de vanzelfsprekende aanwezigheid van staten, en dat sommige staten dominant groeien ten koste van andere staten. En dus ook weer kunnen vallen. Zo schrijft Larudee:

“Die “eeuw” lijkt te eindigen op de manier van zoveel andere machten die de pagina’s van Kennedy’s boek vullen – door imperiale overreach, buitensporige militaire uitgaven, achterblijvende economische productiviteit en concurrentiekracht en het niet investeren in de fysieke, technische en menselijke middelen die nodig zijn om een dominante macht te blijven. Kortom, het Westen kwijnt weg.”

Het is duidelijk dat landen, koninkrijken, staten, naties zijn ontstaan, gelijk met de groei van de menselijke beschaving en dat als je naar de ontwikkeling kijkt in bijvoorbeeld de middeleeuwen dat dat uitsluitend en zonder enige uitzondering uitvindingen zijn van de heersende elite, die van zichzelf al veel macht, d.w.z. eigendom van grond/goud e.d. had toegeëigend, altijd door diefstal en roof, en met gewelddadige middelen, en ook nog op kosten van haar onderdanen. Met die “uitvinding” gaf het in de vorm van de staat onbeperkte macht over de haar onderworpen onderdanen. Tot op de dag van vandaag. Als je tot de kern komt leer je, dat wij als geen deelhebben aan de elite van de staat, lijfeigenen zijn in een feodale staatsstructuur.

We weten – hoewel het psychosociale onderzoek daarnaar een ondergeschoven onderzoeksonderwerp is – dat iedere organisatie – maar zeker de organisatie van de staat, de neiging heeft om als elite zichzelf onbeperkte privileges te geven, haar onderdanen te collectiveren en dus te onderdrukken, en agressief te worden tegen concurrente staten. De wil om te overheersen, zowel over de onderdanen als over andere staten is kenmerkend. Het enige moderne wetenschappelijk onderzoek dat ik ken dat specifiek het heeft over de ‘Anatomie of the State’ in zijn algemeenheid is van Murray Rothbard. En natuurlijk zijn er de usual suspects onder filosofen: Rousseau, Hegel, Burke, Hobbes en Hume. Maar niemand stelt de vraag: kunnen we de staat ook niet gewoon maar afschaffen?

Maar ook, het wat meer anekdotische werk van Maarten Berg “Een studie over de slechtheid van de staat“ geeft mooi inzicht over de verwerpelijke werking van de – in dit geval – Nederlandse overheid.

En alleen in die geaccepteerde context van de vanzelfsprekende aanwezigheid van staten die regeren over onderdanen die daar niet voor gekozen hebben – die mogelijkheid bestaat gewoonweg niet – en de mogelijkheid van stateloze samenlevingen wordt ook nooit zelfs maar in overweging genomen, kan men spreken over opkomst de val van staten. En dus analyseren we dat het Amerikaanse Rijk valt omdat het niet investeert “in de fysieke, technische en menselijke middelen die nodig zijn om een dominante macht te blijven. Kortom, het Westen kwijnt weg.¨ Hoe kan de heersende elite van de verenigde Staten zo dom zijn?

Nou en? Waarom zouden rijken moeten stijgen en vallen?

Vanuit mijn stelling dat een burger het meeste te vrezen heeft van haar overheid is het toch voor de hand liggend dat we nadenken over het afschaffen van staten? Alleen de stroming van het libertarisme is vanuit het uitgangspunt van individuele vrijheid als uitgangspunt daarmee bezig. Alleen al daarom waard om kennis van te nemen!

https://kolozeg.org/the-fall-of-the-west-dr-paul-larudee/.

Publiek geld en privaat wetenschappelijk uitgeven

Goede wetenschap in mooie boeken

Op een enkele uitzondering van bedrijfslaboratoria na wordt het gehele proces van wetenschappelijk onderzoek door de overheid betaald. De opleidingen, de instituten, de wetenschappelijke medewerkers, de studiereizen, de bibliotheken waar alle resultaten systematisch voor iedereen toegankelijk is. Alles is publiek geld en dat is ook goed want wetenschappelijk onderzoek is van groot maatschappelijk belang.

In het hele proces is zijn eigenlijk de private wetenschappelijke uitgeverijen de uitzondering. Op basis van publiek gefinancieerde onderzoek staat de wetenschapper zijn resultaten af aan een private uitgever, die natuurlijk daar waarde aan toevoegt (peer reviews, productie, distributie) en een uitzonderlijk grote marge (zó beetje de beste marges van de print-uitgeverijen) op dat resultaat van het onderzoek daarme verdient. Dat laatste is eigenlijk om twee reden onbegrijpelijk. Ten eerste dat we als gemeenschap wel alles financieren bij het wetenschappelijke personeel maar hun vruchten onder regime van de auteurswet geheel in hun eigendom laat vallen. Dat is principieel onjuist. Ten tweede dat met dat persoonlijke recht die wetenschapper de toegang tot de resultaten in handen legt van een derde die er zijn auteursrechten aan toevoegt, in ieder geval met het monopoly van de distributie, kan bepalen wie wel of niet van de resultaten kennis kan nemen.

Lees verder “Publiek geld en privaat wetenschappelijk uitgeven”

Boeken uitgeven en Internet

Het kan niet anders dan dat ook de boeken uitgevers vroeg of laat te maken krijgen met de gesel van Internet. Internet zal effect gaan hebben op het vinden en selecteren van nieuwe auteurs. Internet zal de mogelijkheid geven aan de uitgevers van auteurs sterren te maken. Het zal uitgeef beslissing en met name de oplage stevig gaan beïnvloeden (kleine oplages alleen nog maar via printing -on-demand). Men krijgt de mogelijkheid om oude titels te reactiveren door ze beschikbaar te maken – via bijvoorbeeld de bibliotheken – voor printing-on-demand van boeken die niet meer herdrukt worden. En in zijn algemeenheid betekent dat dus long-tail-ontwikkelen voor beschikbaarheid van titels voor niche markten.

Maar ook zaken als het afwaarderen van de boekhandels kanalen, noodzakelijkerwijze loslaten van de vaste boekenprijzen in Nederland, en de marketing van fondsen, branding van uitgeverijen, het direct in contact komen met de groepen lezers, zal snel tot de standaard marketingbagage van een traditionele boekenuitgeverij gaan behoren. Dat betekent dus voor de uitgevers het viraal promoten van nieuwe titels en auteurs in de sociale netwerken, waarbij de potentiële lezers boeken zullen gaan waarderen, beoordelen, becommentariëren, suggesties doen en aan elkaar doorgeven, om uiteindelijk in vele gevallen de titel on-line te bestellen.

Samenvattend, de uitgevers zullen onvermijdelijk naast de gebruikelijke folders met voorjaars- en najaarsaanbiedingen voor de groothandel en boekhandels, snel overgaan tot Internet marketing. Ook wanneer ze zouden besluiten om de oude distributiekanalen van boekhandels en on-line boeken verkopers (bol.com, amazone.com e.d.) in stand te houden, zal het zelfstandig promoten van auteurs en de afzonderlijke titels in de sociale netwerken onvermijdelijk worden. Op zoek naar hun lezers die uiteindelijk voor een groot deel ook online zijn op hyves.

Dat betekent vooral dat men in de uitgeverij zich zal gaan bedienen van Search Engine Optimization (SEO) en Social Media Optimization (SMO) en dus Google gaan inschakelen als het verhickel waarmee de marketing en promotie hoofdzakelijk zal gaan plaatsvinden.

En dan hebben we het nog niet over e-books, waarvan ik zelf twijfel of dat een trend zal worden onder de meestal toch nog wel traditionele veel-lezers. Maar goed alle inhoud is digitaal aanwezig en mijn stelling is dat alles wat gedigitaliseerd kan worden, zal worden gedigitaliseerd, en alles wat gedigitaliseerd is zal vroeg of laat digitaal via Internet ook beschikbaar komen.

Deze door mij voorspelde trends zal de (klassieke) boekhandels niet doen verdwijnen, hoewel die gedwongen worden meer toegevoegde waarden te leveren: specialisatie, advisering en het creëren van een lees beleving (fauteuilles, klassieke achtergrond muziek, en vooral advies van het personeel.

Onnodig te zeggen dat voordat de traditionele uitgevers hiermee kunnen gaan beginnen er intern qua strategie, kennis en gewoonten nog wel iets moet gaan gebeuren. Maar de urgentie is daar, want voordat de traditionele uitgever het door heeft, staan de uitgevers nieuwe stijl, die wel begrijpen wat de mogelijkheden van Internet, klaar om de macht op internet over te nemen. En als men dat niet geloofd moet men nog maar eens kijken naar de ontwikkeling van de traditionele muziekuitgeverijen die in een paar jaar in de markt zijn geminimaliseerd.