ChatGPT heeft niet alleen te maken met mensen die gekke feitjes vragen en hulp willen bij hun werk: er zijn er ook bij die heel persoonlijke kwesties met de chatbot bespreken. OpenAI zegt dat zijn chatbot wekelijks duizenden mensen als psychotisch of manisch inschat.
In de psychologie zijn momenteel grote discussies gaande over de invloed van AI-chatbots op stoornissen. Creeren ze psychische problemen of is het slechts iets dat zorgt dat mentale problemen die er al waren boven komen borrelen? In ieder geval let ChatGPT meer op dit soort problematiek, mede nadat een jong persoon die hevig geïsoleerd was en bijna alleen nog maar met de chatbot sprak een einde aan zijn leven maakte.
ChatGPT ziet wekelijks bij duizenden gebruikers symptomen zoals zelfmoordgedachten, waanideeën en manisch gedrag. OpenAI heeft ChatGPT er zelfs op aangepast: het onderliggende GPT-5 heeft nu meer mogelijkheden om snel te reageren en dat is mede door de input van experts uit de psychologie. Het ziet hiermee dus ook eerder wanneer dit soort problemen mogelijk bij mensen spelen. De schatting is dus dat dit bij duizenden mensen voorkomt. Per week. Goed dat hier meer aandacht voor is, want overmatig gebruik van ChatGPT op dit soort meer persoonlijke manieren heeft al voor diverse scheidingen, levensbedreigende situaties en dus zelfs erger gezorgd.
De symptomen worden gezien bij 0,07 procent van de totale gebruikerspopulatie zijn op de AI-chatbot. Aangezien ChatGPT 800 miljoen wekelijks actieve gebruikers heeft, zijn dat er zo’n 560.000. 0,15 procent heeft gesprekken die richting suïcidale gedachten gaan: dat zijn er 2,4 miljoen (!). En het lijkt erop dat een deel van deze mensen hun problemen wel aan ChatGPT vertellen, maar niet aan de mensen die van ze houden. Niet dat ChatGPT er helemaal mee aan de slag gaat. Het toont empathie voor de mensen, maar stuurt ze zoveel mogelijk door naar organisaties ter preventie van zelfmoord.
GPT-5 zou minder ongewenste antwoorden geven dan voorganger GPT-4o, die wat medelevender bekend staat. Toch komen al deze cijfers wel met de nodige disclaimers. ChatGPT kan wel iets gezien hebben en iets aanraden, maar hoe effectief dat advies is en of mensen echt hulp zoeken, dat is een tweede, schrijft Wired. Ook is het niet duidelijk hoe ChatGPT dan vaststelt dat er mogelijk psychische problemen in het spel zijn.
Er zijn veel variabelen, maar het feit dat zo verschrikkelijk veel mensen bij ChatGPT aankloppen is op zijn minst zorgelijk te noemen. Aan de andere kant is het ook de vraag of ChatGPT misschien juist een oplossing is voor mensen die zich niet tegen andere mensen uit durven spreken over hun gedachten. Andere mensen hadden dit misschien nooit van ze gehoord; nu is er nog een soort tussenvorm die kan helpen.
Wil je meer weten over AI en mentale gezondheid? Lees dan ook het artikel over AI-psychoses.
Kamp jij met suïcidale gedachten? Neem contact op met 113 Zelfmoordpreventie.
