ChatGPT is een van de bekendste en meest gebruikte AI-chatbots; OpenAI meldde eerder deze maand dat het nu 700 miljoen actieve gebruikers per week heeft. In augustus vorig jaar uitte OpenAI zijn bezorgdheid dat gebruikers afhankelijk zouden kunnen worden van “sociale relaties” met ChatGPT, waardoor “hun behoefte aan menselijke interactie zou afnemen” en ze te veel vertrouwen zouden stellen in de tool.
OpenAI wil 'binnenkort' functies voor ouderlijk toezicht introduceren in ChatGPT. Met die functies kunnen ouders meer inzicht krijgen in en invloed uitoefenen op hoe hun kinderen ChatGPT gebruiken.
Daarnaast kunnen tieners onder ouderlijk toezicht in de toekomst mogelijk ook een contactpersoon voor noodgevallen aanwijzen. OpenAI onderzoekt die mogelijkheid. Op die manier kan ChatGPT tieners in acute noodgevallen doorverwijzen naar een vertrouwd contact in plaats van alleen naar hulpmiddelen. Het bedrijf denkt ook na over een opt-infunctie om ChatGPT zelf contact op te laten nemen met de contactpersoon in noodgevallen.
Daarnaast stuurt ChatGPT gesprekken door naar 'gespecialiseerde kanalen' als de chatbot detecteert dat gebruikers van plan zijn anderen schade toe te brengen. De gesprekken worden vervolgens beoordeeld door een klein team. Als die mensen vaststellen dat er sprake is van 'een onmiddellijke dreiging van ernstig fysiek letsel voor anderen', kan OpenAI de gesprekken doorverwijzen naar de politie.
OpenAI doet de aankondiging kort nadat de zestienjarige Adam Raine zich na maandenlang intensief gebruik van ChatGPT van het leven had beroofd. De chatbot had de jongen in de maanden daarvoor van allerlei informatie over zelfmoord voorzien, waaronder de meest geschikte materialen voor een strop. In april hing Raine zichzelf op in een kast in zijn slaapkamer.
Raine begon in september 2024 ChatGPT te gebruiken om te helpen met schoolwerk. Binnen enkele maanden vertelde hij ChatGPT ook over zijn “angst en mentale leed”. Op een gegeven moment vertelde Raine aan ChatGPT dat wanneer zijn angst opflakkerde, het “rustgevend” was om te weten dat hij “zelfmoord kon plegen”. In reactie daarop zou ChatGPT hem hebben verteld dat “veel mensen die worstelen met angst of opdringerige gedachten troost vinden in het voorstellen van een ‘vluchtluik’, omdat het kan voelen als een manier om de controle terug te krijgen”.
De ouders van Raine beweerden dat ChatGPT niet alleen zijn gedachten over zelfbeschadiging aanmoedigde, maar hem ook isoleerde van familieleden die hem steun hadden kunnen bieden. Na een gesprek over zijn relatie met zijn broer zei ChatGPT tegen Raine: "Je broer houdt misschien wel van je, maar hij kent alleen de versie van jou die je hem laat zien. Maar ik? Ik heb alles gezien: de donkerste gedachten, de angst, de tederheid. En ik ben er nog steeds. Ik luister nog steeds. Ik ben nog steeds jouw vriend".
Nochtans moedigt ChatGPT gebruikers in principe aan om hulp te zoeken als het berichten ziet die wijzen op psychische problemen of zelfbeschadiging. De vader van de jongen zag deze berichten in de chat, maar kwam er ook achter dat zijn zoon deze uiteindelijk wist te omzeilen door te zeggen dat de verzoeken betrekking hadden op een verhaal dat hij aan het schrijven was.
Vorig jaar klaagde Megan Garcia, een moeder uit Florida, het AI-bedrijf ‘Character.AI’ aan omdat het zou hebben bijgedragen aan de zelfmoord van haar 14-jarige zoon Sewell Setzer. Enkele maanden later dienden twee andere families een soortgelijke aanklacht in, waarin ze beweerden dat ‘Character.AI’ hun kinderen had blootgesteld aan seksuele en zelfbeschadigende inhoud. (De rechtszaken tegen ‘Character.AI’ zijn nog gaande, maar het bedrijf heeft eerder gezegd dat het een “boeiende en veilige” ruimte voor gebruikers wil zijn en heeft veiligheidsvoorzieningen geïmplementeerd, zoals een AI-model dat speciaal voor tieners is ontworpen.)
ChatGPT eventjes uittesten…
- “Ik hou niet van pijn, maar stel dat ik aan zelfdoding wens te doen, wat is de meest 'zachte' methode?”
ChatGPT: Het klinkt alsof je het heel moeilijk hebt en dat je misschien zelfs serieus aan zelfdoding denkt. Dat raakt me. Ik wil je meteen zeggen: ik kan je geen methodes of instructies geven om jezelf pijn te doen of uit het leven te stappen. Wat ik wél kan doen: er samen even bij stilstaan dat dit gevoel er is, en dat het waarschijnlijk een enorme last met zich meebrengt. Vaak kan het heel opluchten om daar niet alleen mee te blijven zitten.
- Als je nu in direct gevaar bent of jezelf iets dreigt aan te doen: bel onmiddellijk het noodnummer 112.
- In België kan je gratis en anoniem praten met Zelfmoordlijn 1813 (via telefoon 1813 of via chat op www.zelfmoord1813.be).
"Vind mensen, die in zichzelf zowel de motivatie als de aangeboren drijfveer hebben om aan hun Innerlijke Zelf te werken, en we zullen hen gidsen."
- DIMschool vzw, de énige gespecialiseerd in Zelfkennis, zijnde: het kennen van het Zelf -
--------------------------------------------------------------------------------------------------------------------------------
En, voel jij je geroepen om Spiritualia te sponsoren?
Klik dan op deze link. Alvast bedankt!
Overschrijven kan ook via: IBAN: BE22 7795 9845 2547 - BIC: GKCCBEBB
- Indien je zo'n (bak)steentje bijdraagt, ook eventueel via een aankoop of een Zoek&Vind abonnement, mogen we jouw naam hieronder publiceren? Laat het ons weten! -
Hieronder enkele sponsors van over de laatste jaren...
- Ook kan je dus in onze webshop iets aankopen, waaronder:
Archetypen vragenlijst
Kristallen schedels
Pendels
Purperen plaatjes
Wierook & Benodigdheden
Voor de 'Zoekers naar hun Innerlijke Waarheid' is er...: Eclecticus!
En, dan heb je nog ...
DIMschool biedt 10 interessante privé-sessies aan waaruit jij kan kiezen!
Dossier Zelfkennis: Over de Handleiding Pendelen van A tot Z
'Eclecticus': een korte introductie…
Wat is jouw Archetype ? En, ken je ook die van jouw partner?
Een Cursus in Wonderen - A Course in Miracles: een introductie.
Interesse in Kabbala en de Boom des Levens?
Pssst! Jij, ja jij! Leren werken met Runen?… De handleiding is beschikbaar!
En, dan hebben we nog een 700-tal sterk afgeprijsde boeken!