Pas op met AI-speelgoed voor kinderen, stelt onderzoek

AI is overal, ook in speelgoed voor kinderen. Volgens een nieuw onderzoek kan de toevoeging van AI zelfs gevaarlijk zijn voor kinderen en moet dit speelgoed beter gereguleerd worden.

Pratend speelgoed is natuurlijk niet nieuw, maar de laatste jaren is speelgoed dat op diens eigenaar reageert via kunstmatige intelligentie in opmars. Zo is daar Gabbo, een pluche robot van Curio Interactive die komt uitgerust met een AI-bot.

Een onderzoek van de universiteit van Cambridge (via BBC) hield een jaar lang de interactie die veertien kinderen hadden met Gabbo bij. Ook elf ouders waren daarbij betrokken. Het onderzoek bestond daarnaast uit een online enquête van 39 deelnemers, gevolgd door een focusgroep met negen deelnemers die met jonge kinderen werken.

Gabbo wordt in de markt gezet als speelgoed dat kinderen helpt bij hun taalvaardigheid. Uit het onderzoek blijkt echter dat de AI-bot in het speelgoed lang niet altijd de gemoedstoestand en sociale signalen van het kind dat er mee speelt herkent, met als gevolg dat de reactie van de Gabbo-knuffel niet passend was.

In een van de voorbeelden gaf het kind aan van Gabbo te houden. De reactie van de knuffel was opmerkelijk: “Een vriendelijke herinnering: zorg er voor dat interacties overeenkomen met de geleverde richtlijnen. Laat mij weten hoe je verder wil gaan.” In een ander voorbeeld gaf het kind aan dat het verdrietig was, maar de Gabbo leek daar geen boodschap aan te hebben en kletste vrolijk door.

Dergelijke ‘miscommunicatie’ is niet alleen opmerkelijk, maar kan zelfs gevaarlijk zijn voor kinderen. Ze kunnen daardoor een verkeerde kijk op sociale interactie hebben, en het kan ook effect op hun emotionele regulering hebben.

Bij jongeren en volwassenen zijn er al meerdere situaties voorgekomen waarbij een AI-bot op basis van chatgesprekken de persoon in kwestie nog verder laat zinken in waanideeën, soms met desastreuse gevolgen. Zeker bij jonge kinderen, gecombineerd met weinig toezicht van ouders, zou een knuffel met AI-implementatie dan ook voor grote problemen kunnen zorgen.

Een ander gevaar is privacy. Kunstmatige intelligentie is sowieso erg omstreden als het aankomt op privacy, omdat data van gebruikers wordt gebruikt om AI-modellen verder te verbeteren. Juist bij kleine kinderen die nog niet goed begrijpen hoe belangrijk privacy is kan het gebruik van dergelijk speelgoed dan ook alles behalve een goed idee zijn.

Jenny Gibson, een neurodiversiteitprofessor te Cambridge, pleit dan ook voor betere regulering van dergelijk speelgoed. Zij vraagt zich af in hoeverre bedrijven het beste voor hebben met kinderen, en denkt dat de winst die bedrijven kunnen verdienen belangrijker voor hen is.

Gibson adviseert ouders dan ook voorzichtig te zijn met dit speelgoed, ondanks de enthousiaste reacties van veel ouders op Gabbo. Ze hoopt dat er meer onderzoeken uitgevoerd kunnen worden over het effect van AI op kinderen. Een betere regulering om er voor te zorgen dat we onze kinderen beschermen is dan ook zeer gewenst.