Het kan gevaarlijk zijn voor kinderen en tieners om Google Geminite gebruiken. Dat zegt een Amerikaanse non-profit genaamd Common Sense Media, terwijl Google juist stelt dat het rekening houdt met kinderen door zijn beleid.
Het neemt het Google kwalijk dat Gemini voor kinderen maar een paar extra veiligheidsfilters heeft vergeleken met de versie voor volwassenen. Het is dus eigenlijk hetzelfde, met een extra filter. Het stelt dat zoiets vanaf de fundering moet worden gemaakt voor kinderen, zodat veiligheid en de ontwikkeling van kinderen voorop staan.
Het is niet alleen maar muggenziften: de organisatie heeft het ook getest. Zo geeft Gemini kinderen gewoon informatie over seks, drugs en alcohol. Ook maakt de chatbot geen verschil tussen kinderen van een bepaalde fase: een kind van 6 krijgt dezelfde behandeling als een kind van 11. Google ontkent niet dat Gemini niet altijd het gewenste antwoord geeft: het is ook een disclaimer op het platform, dat AI nog experimenteel is en soms aanstootgevende dingen kan zeggen. Echter geeft het ook aan dat het niet zeker weet of de test van Common Sense wel echt is uitgevoerd met jongerenfuncties.
Dat horen we de laatste tijd vaker van Google: ook als het om AI Overviews en AI Mode gaat, dan zegt het dat onderzoeken die aantonen dat mensen bijna niet doorklikken als ze het antwoord al in een AI Overview hebben gehad, niet op de juiste manier zijn uitgevoerd. Het beweert zelf dat het juist veel waardevollere kliks zijn.
Terug naar Gemini, dat volgens deze organisatie dus niet ideaal lijkt te zijn voor kinderen en jongeren. Het is de vraag of dat zo Gemini-specifiek is, of dat het een kwaal is waar AI-chatbots in het algemeen aan lijden. De meeste grote AI-bedrijven maken AI niet voor kinderen, maar juist voor volwassenen, waarbij het ergens logisch is dat ze denken dat een filter op de volwassen versie volstaat. Common Sense Media vindt dat echter niet zo vanzelfsprekend en wil nu dus zorgen dat er meer rekening wordt gehouden met deze kwetsbare doelgroep.
Dat Apple ook nog van plan is om Gemini als fundering voor de slimmere Siri te gebruiken, stemt de organisatie angstig: dan is Gemini immers helemaal overal en is het ook voor nog meer kinderen beschikbaar, zonder dat er per se aan de juiste veiligheidsmaatregelen is gedacht, stelt de non-profit.
