Instagram krijgt er van zijn eigen toezichthouder van langs om erotische AI-deepfakes

Instagram moet echt iets aan gaan doen aan de erotische AI-deepfakes die op het platform verschijnen. Dat is de mening van het Meta Oversight Board, de toezichthouder van Meta. Het gaat om een interne groep die toetst of wat Meta doet wel oke is: een soort ombudsman. De deepfakes moeten worden verboden en familie en vrienden van een slachtoffer van dit soort deepfakes moeten ook meldiing kunnen maken.

AI-gegenereerde identiteitsvervalsing vindt eigenlijk altijd plaats zonder toestemming, naast dat het ook bijna altijd om meisjes en vrouwen gaat, stelt de Oversight Board. De gevolgen voor slachtoffers kunnen enorm groot zijn en dat wordt ook nog eens moeilijker gemaakt omdat slachtoffers vaak hun account opheffen en dan is het niet mogelijk om het misbruik te melden. Als familie en vrienden dat namens iemand kunnen doen, of voor iemand, dan is de kans groter dat het account dat de AI-beelden deelt wordt geband.

Het balletje kwam aan het rollen omdat er een AI-deepfake was gemaakt van een vrouw die bijna volledig naakt te zien was. Instagram stelde dat het niet duidelijk was dat het een echt persoon was en dat er geen toestemming was verleend: het verwijderde de beelden dan ook niet. Dat is natuurlijk vrij bizar voor een slachtoffer. Het overkomt je al dat iemand je zoiets aandoet, en dan gelooft een platform je ook niet.

Meerdere mensen hebben door dit soort deepfakes enorm heftige beslissingen genomen die zelfs niet iedereen kan navertellen. Dat Instagram nu dus door zijn eigen team op de vingers wordt getikt is maar goed ook. Hoe snel het actie zal ondernemen is onbekend. Als het het lang genoeg rekt, dan hoeft het er niks mee te doen, want het zou na 2028 met deze Oversight Board willen stoppen. De financiering is al flink minder geworden en het zou dan ook een financiële keuze zijn om ermee te stoppen. Ondertussen wordt het salaris van Mark Zuckerberg geschat op 25 miljoen dollar per jaar. Officieel is het 1 dollar, maar hij hoeft geen droog brood te eten. In totaal is hij naar schatting 2,3 miljard dollar waard.