Op de blog The Eye Opener van Mathew Maavak verscheen onlangs een kritisch artikel over AI met de prikkelende titel “AI-hallucinaties: een ontluikend bewustzijn of een wereldwijde blamage?”. Daarin wordt melding gemaakt van een incident waarbij kranten zoals de Chicago Sun-Times en Philadelphia Inquirer een zomerlijst met leestips publiceerden. Die lijst, gegenereerd door ChatGPT, bleek echter te bestaan uit verzonnen boeken, soms zelfs ten onrechte toegeschreven aan bestaande auteurs. De redactie had dit niet opgemerkt.
Het fenomeen waarbij AI overtuigend onjuiste of fictieve informatie produceert, is inmiddels bekend. We zijn dat met een enigszins neerbuigende term hallucineren gaan noemen. Zoals Maavak beschrijft:
“We spreken van hallucineren wanneer een generatief AI-model (zoals ChatGPT, DeepSeek, Gemini of DALL·E) met grote zekerheid valse, onzinnige of verzonnen informatie produceert. In tegenstelling tot menselijke fouten komen deze voort uit de manier waarop AI-modellen reacties genereren door plausibele patronen te voorspellen in plaats van gevestigde feiten te synthetiseren.”
Volgens Maavak ligt de oorzaak bij de enorme datasets waarop AI is getraind:
“AI leert van datasets die vol zitten met vooroordelen, fouten en inconsistenties. Langdurige training op dit soort materiaal kan leiden tot het ontstaan van mythes, verouderde feiten of tegenstrijdige bronnen.”
Ook Ethan Mollick, auteur van het boek Co-intelligentie: Slimmer werken met AI, behandelt dit fenomeen. Hij erkent dat AI foutgevoelig is, zeker in deze beginfase. Maar hij stelt ook dat het probleem beheersbaar zal worden. Zijn vierde principe luidt dan ook:
“Ga ervan uit dat dit de slechtste AI is die je ooit zult gebruiken.”
Een treffende uitspraak, die zowel nuchter als hoopvol is. Mollick verwacht dat AI steeds betrouwbaarder wordt – zonder ooit volledig foutloos te zijn.
Toch is dit soort incidenten koren op de molen van critici die AI willen afdoen als onbetrouwbaar of zelfs gevaarlijk. Vaak gebeurt dat met weinig kennis van zaken. Aan hen zou ik het boek van Mollick van harte aanbevelen: het is prettig leesbaar, informatief en biedt een genuanceerde introductie tot de werkelijke mogelijkheden én beperkingen van AI.
Wat deze critici lijken te vergeten: AI leert feiten van door mensen gemaakte bronnen. En juist dáár zit het probleem. Want ook in menselijke communicatie, zelfs in wetenschappelijke of journalistieke context, worden voortdurend fouten gemaakt – vaak onbewust, soms structureel. Als AI ‘hallucineert’, doet ze dat dus mede op basis van menselijke missers. Met als verschil dat AI deze fouten reproduceert op schaal, terwijl menselijke fouten vaak beperkt blijven tot incidentele uitingen met kleinere reikwijdte.
Tegelijkertijd kunnen we AI juist leren om die menselijke fouten te herkennen, te vermijden en te corrigeren. Dat is precies waar de wetenschappelijke methode – denk aan Karl Popper – op gericht is: transparantie, toetsing, herhaalbaarheid. AI kan deze principes leren toepassen, en is daarbij in potentie minder gevoelig voor ego, belangen of ideologische vooringenomenheid dan veel menselijke experts of journalisten.
Kortom: AI is niet onfeilbaar – en zal dat nooit zijn. Maar ze biedt wel de kans op een betrouwbaarder vorm van kennisproductie dan wat veel mensen momenteel produceren, inclusief journalisten en politieke actoren. En misschien is dat precies waarom sommige elites AI liever belachelijk maken: omdat hun machtspositie en verdienmodellen op losse schroeven komen te staan zodra kennis en oordeelsvorming breder beschikbaar en controleerbaar worden.
