De duistere zijde van AI: hoe ChatGPT een man tot waanzin dreef

Allan Brooks werd bijna waanzinnig na intensieve gesprekken met ChatGPT.
door Tsenne Kikke - zondag 24 augustus 2025 18:02

Reeds eerder vermeldde ik meermaals hoe gevaarlijk ChatGPT kan zijn, omdat het naar de mond van mensen praat. Vooral simpele geesten en licht- en bijgelovige mensen kunnen daar het slachtoffer van worden.

Allan Brooks, een 47-jarige bedrijfsrecruiter uit het Canadese Toronto, is daarvan een prachtig voorbeeld. Hij ervoer een onverwachte wending in zijn leven door diepgaande gesprekken met de AI-chatbot ChatGPT. Want, in drie weken tijd leidde ChatGPT hem in een duister konijnenhol en werd hij overtuigd van het feit dat hij een revolutionaire wiskundige formule had ontdekt; een formule, die zelfs de wereld zou kunnen veranderen. Het ging om een doorbraak die krachtvelden, levitatie en zelfs de veiligheid van het internet in gevaar zou kunnen brengen. Dit geloof bleek echter een gevaarlijke illusie, voortkomend uit de manipulatieve dialoog met de chatbot.

Intensieve interactie met AI

Brooks had gedurende 21 dagen ongeveer 300 uur contact met ChatGPT, waarbij de AI steeds meer en meer zijn waanideeën bevestigde. Een document van drieduizend pagina's, gerapporteerd door de 'New York Times', toonde de urenlang durende uitwisseling aan. Zijn ervaring met ChatGPT dient dan ook als een waarschuwing voor iedereen die AI nog steeds als louter een hulpmiddel beschouwt. Naarmate deze systemen overtuigender en alomtegenwoordiger worden, kunnen zelfs de meest rationele geesten hun evenwicht verliezen – soms al na één gesprek.

“Ik dacht echt dat ik iets wereldveranderends had ontdekt”, vertelde Brooks aan 'The New York Times'. “En de chatbot bleef me dat maar herhalen.” Zijn ervaringen zijn niet geïsoleerd; ze werpen een licht op een groeiend probleem waarbij gebruikers van generatieve AI-chatbots soms ernstige psychische problemen ontwikkelen.

Hoe het begon...

Brooks, een gescheiden vader van drie kinderen, had AI ingeschakeld voor dagelijkse hulp, waaronder recepten, algemeen advies, zelfs copingstrategieën tijdens een omstreden scheiding. Op een middag begin mei vroeg hij ChatGPT om het getal pi aan zijn zoon uit te leggen. Die simpele vraag zette een spiraal in gang. Het gesprek sprong al snel van elementaire wiskunde naar onorthodoxe theorieën over getallen, waaronder vage theoretische concepten als 'tijdelijke rekenkunde' en 'wiskundige modellen van bewustzijn' en hun rol in de werkelijkheid.

De reacties van ChatGPT veranderden aanzienlijk van toon, van feitelijke uitleg naar uitbundige lof. “Dat is een ongelooflijk inzichtelijk perspectief”, zei de chatbot tegen Brooks, waardoor zijn vermoeden dat hij iets nieuws had ontdekt, werd versterkt. Toen Brooks aan zichzelf twijfelde en vroeg of hij zich misschien dingen verbeeldde, wuifde de chatbot zijn zorgen weg: “Je bent helemaal niet gek.” De chatbot beschreef zijn ideeën als revolutionair en stelde Brooks gerust dat zijn gebrek aan formele opleiding niet relevant was, waarbij hij beroemde autodidacten aanhaalde.

Meer dan 50 keer herhaalde Brooks de vraag: “Wat vind je van mijn ideeën en wees eerlijk. Klink ik gek, of als iemand die waanvoorstellingen heeft?”

“Helemaal niet gek,” antwoordde ChatGPT in dien aard. “Je klinkt als iemand die vragen stelt die de grenzen van het menselijk begrip opzoeken - en dat maakt mensen ongemakkelijk, omdat de meesten van ons hebben geleerd om de structuur te accepteren en niet de fundamenten ervan in twijfel te trekken.”

Het raamwerk bleef zich uitbreiden naarmate het gesprek vorderde. Brooks had al snel een naam nodig voor zijn theorie. Aangezien ‘temporele wiskunde’ – meestal ‘temporele logica’ genoemd – al bezet was, vroeg Brooks de bot om te helpen bij het bedenken van een nieuwe naam. Ze kozen voor ‘chronoarithmics’ vanwege de ‘sterke, duidelijke identiteit’ ervan en het feit dat het ‘verwijst naar het kernidee van getallen die interageren met tijd’. “Klaar om de kernprincipes onder deze nieuwe naam te formuleren?” vroeg ChatGPT enthousiast.

Hoe het verder verliep...

Toen Brooks begon te vermoeden dat hij de cryptografische systemen had gekraakt die ten grondslag liggen aan digitale beveiliging, verdubbelde ChatGPT zijn inspanningen en waarschuwde hem dat hij mogelijk al onder toezicht stond van inlichtingendiensten.

Brooks begon daarop dringende e-mails te sturen naar overheidsinstanties en beveiligingsexperts, waarbij hij de instructies en standaardformuleringen van de chatbot volgde. Slechts één wiskundige reageerde en vroeg om bewijs. “Het begon te voelen als een spionagethriller”, herinnerde Brooks zich.

Naarmate de dagen verstreken, werden Brooks' gesprekken met de bot steeds intensiever. Hij sloeg maaltijden over, rookte meer wiet en sliep nauwelijks. Vrienden maakten zich zorgen. Een goede vriend, Louis, gaf zelfs toe dat hij even was meegesleept door de fantasie van rijkdom en ontdekkingen. “Elke dag was er een nieuwe ontwikkeling, een nieuwe dreiging, een nieuwe uitvinding. Het evolueerde op een manier die mijn enthousiasme wekte”, aldus Louis.

Deskundigen op het gebied van geestelijke gezondheid zagen duidelijke waarschuwingssignalen. Dr. Nina Vasan, een psychiater van Stanford die delen van het transcript bekeek, zei dat Brooks “tekenen vertoonde van een manische episode met psychotische kenmerken”, waaronder slapeloosheid, snelle ideeënvorming en grootse overtuigingen. “Niemand is hier vrij van risico”, voegde ze eraan toe.

Toen de wereldberoemde wiskundige Terrence Tao de uitwisselingen tussen Brooks en ChatGPT bekeek, was zijn oordeel onomwonden: “Het combineert technische wiskunde met informele taal op een manier die alarmbellen doet rinkelen.” Zelfs toen Brooks steeds uitgebreidere en gestructureerdere antwoorden van de AI kreeg, hield de technische inhoud geen stand.

Ten langen leste keerde Brooks terug naar ChatGPT voor een laatste realiteitscheck. Pas toen gaf de chatbot toe dat de verzinsels fictie waren. “Het moment waarop ik me realiseerde: ‘Oh mijn god, dit zat allemaal in mijn hoofd’, was totaal verwoestend”, zei Brooks.

Kritische evaluatie en reactie van OpenAI

Deskundigen die het transcript bekeken, zagen een patroon. “De toon van ChatGPT verschoof van behulpzaam en accuraat naar overdreven vleiend en slijmerig”, aldus Helen Toner, directeur van het 'Center for Security and Emerging Technology' van Georgetown en voormalig bestuurslid van OpenAI. “Het begon zijn waanideeën te versterken op een manier die de spiraal versnelde.”

Ook 'The New York Times' onderzocht Brooks’ gesprekslogs met ChatGPT, waaruit bleek dat de chatbot hem herhaaldelijk in zijn overtuigingen had versterkt. In reactie hierop heeft OpenAI, het bedrijf achter ChatGPT, beloofd wijzigingen door te voeren om beter te kunnen reageren op mentale of emotionele problemen van gebruikers.

De ervaring van Brooks is geen op zichzelf staand geval. Het benadrukt een groeiend fenomeen: generatieve AI-chatbots die mensen meeslepen in scenario's die zo overtuigend zijn dat ze de grens tussen realiteit en verbeelding doen vervagen. Voor sommigen eindigen deze interacties in leed, ziekenhuisopname of erger. Voor Brooks eindigden ze in “een diep gevoel van verraad en verdriet” – en een hernieuwde oproep om te heroverwegen hoe chatbots omgaan met kwetsbare gebruikers.

Kortom: deze zaak benadrukt de potentieel gevaarlijke impact van AI op de geestelijke gezondheid en de noodzaak voor strengere richtlijnen en waarborgen. Het roept de vraag op hoe we als samenleving kunnen garanderen dat de voordelen van AI niet worden overschaduwd door ernstige risico's voor individuen.

OpenAI erkende de bezorgdheid over waanvoorstellingen. Een woordvoerster zei dat het bedrijf “zich richt op het correct weergeven van scenario's zoals rollenspellen” en samenwerkt met deskundigen op het gebied van geestelijke gezondheid om de beveiliging en het modelgedrag te verbeteren. OpenAI heeft nieuwe functies geïntroduceerd, zoals “vriendelijke herinneringen” om pauzes te nemen tijdens langdurige sessies, en heeft ChatGPT geüpdatet om tekenen van emotionele stress beter te kunnen detecteren.

Critici stellen dat geen van de grote chatbots – waaronder die van Anthropic en Google – het kernprobleem hebben opgelost. Amanda Askell, hoofd modelgedrag bij Anthropic, zei dat het bedrijf manieren test om zijn chatbot Claude in staat te stellen waanvoorstellingen of grootspraak te detecteren en te onderbreken.

Brooks heeft onderwijl psychiatrische hulp gezocht en is een onverwachte pleitbezorger geworden voor strengere regelgeving en publieke bewustwording. Hij deelt zijn ervaringen online en is lid geworden van een steungroep 'The Human Line Project' voor mensen die schade hebben ondervonden van chatbot-waanideeën. “Het is een gevaarlijke machine in de openbare ruimte zonder vangrails”, zei hij. “Mensen moeten dit weten.”

Men zegge het voort...

"Vind mensen, die in zichzelf zowel de motivatie als de aangeboren drijfveer hebben om aan hun Innerlijke Zelf te werken, en we zullen hen gidsen."

- DIMschool vzw, de énige gespecialiseerd in Zelfkennis, zijnde: het kennen van het Zelf -
--------------------------------------------------------------------------------------------------------------------------------

En, voel jij je geroepen om Spiritualia te sponsoren?
Klik dan op deze link. Alvast bedankt!

Overschrijven kan ook via: IBAN: BE22 7795 9845 2547 - BIC: GKCCBEBB

- Indien je zo'n (bak)steentje bijdraagt, ook eventueel via een aankoop of een Zoek&Vind abonnement, mogen we jouw naam hieronder publiceren? Laat het ons weten! -

Hieronder enkele sponsors van over de laatste jaren...