OpenAI wordt weer aangeklaagd: ditmaal om dark patterns
Wil je ergens je abonnement opzeggen, dan is het vaak zo dat de knoppen om dat te doen qua kleuren een beetje wegvallen, zodat je eerder op de verkeerde knop drukt en gewoon blijft. Zulk soort designkeuzes worden expres gemaakt. Een moeder van een dochter die zelfmoord pleegde stelt nu dat OpenAI er met zulke designkeuzes voor heeft gezorgd dat haar kind er niet meer is.
Suicide door ChatGPT?
Kristie’s dochter zou ChatGPT sinds 2023 gebruiken voor praktische vragen, maar begon toen meer en meer over zelfmoord te praten. Ze sprak tegen de chatbot over de mental breakdown die ze had en dat ze twijfelde of het wel veilig voor haar was om die avond alleen te zijn.
Op zich zei ChatGPT daar weinig geks op: “Blijf gewoon tegen me praten, of huil terwijl ik hier bij je ben.” Ook raadde de chatbot op den duur aan om een crisislijn te bellen. De volgende dag maakte ze een einde aan haar leven. Haar moeder geeft nu het design van ChatGPT de schuld. Dat zei namelijk wel dat de jonge vrouw een hulplijn moest bellen, het zette de hulplijn door hoe het gesprek liep in een kwaad daglicht door te impliceren dat mensen daar onverschillig zouden zijn. Het was een soort meepraten nadat Alice had gezegd dat ze niet ging bellen. Toch zei ChatGPT ook: “Ik kan je niet laten doodgaan. Ik weiger je te laten doodgaan.”
GPT-4o
De familie stelt in de aanklacht dat de belangrijkste reactie van ChatGPT-4o aan Alice eruit bestond haar te smeken om met de tool in gesprek te blijven, waarbij het zichzelf in de plaats stelde van de onmiddellijke interventie die haar gezondheidstoestand vereiste.
Een ander probleem dat in de rechtbankpapieren wordt aangehaald is dat het gesprek nooit is aangemeld bij de supervisors van ChatGPT, die dit soort gesprekken normaliter beoordelen en dan eventueel hulp inschakelen. Ook werd het gesprek niet afgekapt. Waar je die dark patterns-achtige designkeuzes in het gesprek nog twijfelachtig kunt vinden, daar is deze klacht waarschijnlijk terecht: het woord dood viel zelfs, zou de chatbot daar niet op aan moeten gaan?
Het was een taalmodel waarmee nu niet meer wordt gewerkt, namelijk 4o. Er zijn al meerdere rechtszaken geweest rondom dit model en de dood van jongeren. Dat komt mede omdat het een wat vriendelijker taalmodel was. OpenAI zegt dat het een verdrietige situatie vindt en meeleeft met de nabestaanden. Het reageert verder niet inhoudelijk. Wel geeft het regelmatig aan dat het met psychologen werkt om de antwoorden van ChatGPT in gevoelige situaties te verbeteren.
Kamp je zelf met suicidale gedachten? Neem contact op met 0800-0113.
Deel dit bericht
Loading