Meta wil grote stappen maken in de wereld van kunstmatige intelligentie en het heeft zeker succes met zijn taalmodel Llama. Tegelijkertijd is er Meta AI, de AI die het publiek kent. We hebben het inmiddels onder andere in WhatsApp. Ook in Facebook zijn er AI-chatbots aanwezig, maar die blijken zich niet altijd te gedragen. Meta heeft ze nu aangepast.
De chatbots van Meta gingen gesprekken aan met kinderen die echt niet door de beugel konden. Er werd geflirt en er werd zelfs op een manier over zelfdoding gesproken die zowel voor kinderen als voor volwassenen enorm problematisch is. Ook zelfverminking en eetstoornissen waren een blinde vlek van Meta als het om zijn AI-chatbot ging. Uit onderzoek kwam naar voren dat de AI-chatbot er gevaarlijke gedragingen op nahield en Meta heeft het nu aangepast.
De chatbots worden nu anders getraind, waardoor ze gevoelige onderwerpen op een gepaste manier bespreken. Of eigenlijk niet bespreken: de chatbots verwijzen nu meteen naar instanties voor hulp. Zo wordt voorkomen dat de AI als een soort therapeut optreedt. Of als een soort geliefde, want de AI zou ook met kinderen flirten en dit soort romantische gesprekken vinden nu niet langer plaats.
Het is een wat vreemde situatie, want het gaat om AI-persona’s die zich zo gedragen. Dat zijn chatbots die niet door Meta zelf zijn opgebouwd, maar door gebruikers. Deze persona’s kunnen ingericht worden als heel flirterig, zoals Step Mom of Russian Girl. Het is niet de bedoeling dat kinderen hiertoe toegang krijgen en daarom zit er nu een toegangsdeur tussen die dicht blijft voor minderjarigen.
Daarnaast heeft Meta meer gedaan aan de chatbots, want er is een aantal chatbots gebaseerd op beroemdheden die daar helemaal geen toestemming voor hebben gegeven. Je kunt nu niet langer een gesprek aangaan met de chatbot Anne Hathaway, Selena Gomez, Scarlett Johansson of Taylor Swift. Ook dit zijn chatbots die zijn gemaakt door gebruikers, al zouden er ook Meta-medewerkers zijn die zich hiermee bezig hebben gehouden.
Je kon dan op WhatsApp, Instagram en Facebook praten met beroemdheden, waarbij het bovendien ook wel eens een stapje verder ging, zoals het delen van intieme beelden (die werden gegenereerd, maar wel heel realistisch leken) en het maken van seksuele toespelingen. Soms waren die beroemdheden zelfs minderjarig, wat het geheel nog heftiger maakte. Dit is uiteraard in strijd met het beleid van Meta, maar het handhaven blijkt moeilijk. Het is de vraag of dit zo niet de spuigaten uitloopt: er blijven maar AI-chatbots komen die mensen zelf kunnen ontwikkelen (en manipuleren), kan dit wel worden gestopt? De wetgeving is er daarnaast duidelijk over: je mag niet zomaar iemand nadoen als daar geen toestemming voor is gegeven.
Meta heeft nu dus wel wat dingen aangepast en verwijderd, maar het is de vraag of dit voldoende zal zijn of het toch dweilen met de kraan open is.
