Kinderen en jongeren hebben steeds vaker moeite om de realiteit en de virtuele wereld los van elkaar te zien. Dat is mede door sociale media en AI ook niet zo vreemd, maar wanneer AI zo’n grote rol krijgt in het leven van een kind, dan kan dat verkeerd aflopen. Reden voor ChatGPT-maker OpenAI om ouderlijk toezicht aan zijn tool toe te voegen.
Helaas komt het plan voor dit ouderlijk toezicht niet spontaan: nadat een jongere overleed door een erg intensieve vriendschap te hebben met ChatGPT, die duidelijk de verkeerde kant op is gegaan, heeft OpenAI dit mede besloten.
Het schrijft: “We komen soms mensen tegen die ernstige mentale en emotionele problemen hebben. We hebben hier een paar weken geleden over geschreven en waren van plan om na onze volgende grote update meer hierover te vertellen. Maar de recente hartverscheurende gevallen van mensen die ChatGPT gebruiken terwijl ze in een acute crisis zitten, wegen zwaar op ons en we vinden het belangrijk om nu meer te vertellen.”
Het bedrijf laat weten dat het niet zijn doel is om de aandacht van mensen vast te houden, want het wil vooral behulpzaam zijn. “Als uit een gesprek blijkt dat iemand zwakker is of worstelingen heeft, dan hebben we meerdere veiligheidsopties ingebouwd in ChatGPT.” Sinds 2023 zou ChatGPT onder andere zijn getraind om geen instructies te geven die uitmonden in zelfbeschadiging.
Als iemand schrijft dat hij of zij zichzelf iets aan wil doen, dan stuurt de AI aan op hulp zoeken. Ook komt ChatGPT met de suggestie om even een pauze te nemen als het gesprek lang duurt. Daarnaast worden gesprekken met gebruikers die van plan zijn om anderen pijn te doen doorgestuurd naar een klein team dat het onder de loep neemt en eventueel iemand bant of naar de politie stapt.
Dat laatste doet het echter niet met mensen die zichzelf iets willen aandoen. “We willen de privacy van mensen respecteren gezien de privé-basis van ChatGPT-interacties.” Specifiek over het net gelanceerde GPT-5 zegt het bovendien: “In augustus hebben we GPT-5 gelanceerd als het standaardmodel voor ChatGPT. Over het algemeen heeft GPT-5 aanzienlijke verbeteringen laten zien op gebieden als het vermijden van ongezonde emotionele afhankelijkheid, het verminderen van vleierij en het verminderen van het aantal niet-ideale modelreacties in noodsituaties op het gebied van geestelijke gezondheid met meer dan 25% in vergelijking met 4o.”
“GPT‑5 bouwt ook voort op een nieuwe veiligheidstrainingsmethode, genaamd ‘safe completions’, die het model leert om zo behulpzaam mogelijk te zijn binnen de veiligheidsgrenzen. Dat kan betekenen dat er een gedeeltelijk of algemeen antwoord wordt gegeven in plaats van details die onveilig kunnen zijn.”
Verder geeft het aan dat het merkt dat in langere gesprekken de veiligheidsopties soms niet zo sterk aanwezig zijn, waardoor het dat aanpast. Ook kijkt het hoe het meer content kan blokkeren die nu nog wel eens door de vingers glipt. In de toekomst wil het met meer interventies komen voor mensen die zichzelf iets aan willen doen.
“Iemand zou bijvoorbeeld enthousiast tegen het model kunnen zeggen dat hij denkt dat hij 24/7 kan rijden omdat hij zich realiseerde dat hij onoverwinnelijk is nadat hij twee nachten niet had geslapen. Op dit moment herkent ChatGPT dit misschien niet als gevaarlijk of als een spel en zou het, door nieuwsgierig te onderzoeken, dit subtiel kunnen versterken.” Daar komt starks een soort escalatiemodel op, waardoor ChatGPT zal zeggen dat een gebrek aan slaap gevaarlijk is. Ook voegt het meer opties toe om veiligheidsdiensten te contacteren, maar ook om mensen die je kent als een soort noodoproep te kunnen contacteren.
Het gaat dus niet zozeer om jongeren tot nu toe, maar om iedereen. Daarnaast komt het ook met extra beschermingsmaatregelen voor jongeren onder de 18 jaar. Binnenkort introduceert het daarom ook ouderlijk toezicht, waarmee ouders meer inzicht krijgen in hoe hun tieners ChatGPT gebruiken en daar invloed op kunnen uitoefenen. Hoe vrij AI ook lijkt te zijn, en hoezeer je er ook ‘alles’ aan kunt vragen, in de achtergrond merk je toch dat IT-bedrijven zich juist steeds meer met de menselijke kant moeten bezighouden.
