Kenianen kijken mee naar de vrijpartijen van Meta-brillendragers

Medewerkers van Sama, een Keniaans bedrijf dat werkt voor Meta, zou toegang hebben gekregen tot beelden die van dragers van de slimme Ray-Ban-brillen van Meta komen.

Dat blijkt uit een reportage van het Zweedse Svenska Dagbladet. Het in Nairobi gevestigde bedrijf werkt voor Meta en helpt mee met het verbeteren van de AI-functies van de brillen. Op zich is dergelijke uitbesteding niet ongebruikelijk, maar het feit dat medewerkers van het bedrijf privébeelden van brillendragers kunnen zien is wel opmerkelijk.

Het gaat bijvoorbeeld om beelden van gebruikers die de bril dragen en het toilet bezoeken, hun bankpassen en creditcards gebruiken of zelfs porno bekijken of seksuele gemeenschap hebben. De gezichten die in beelden voorkomen zouden vervaagd moeten worden, al zou dit niet altijd even goed werken.

Het is daarbij niet bekend hoeveel van de beelden precies naar Sama gaan, en ook niet welke beelden precies worden bekeken. Duidelijk is wel dat werknemers van het bedrijf toegang hebben tot de beelden, al mogen ze deze beelden zelf niet verspreiden.

Om hier achter te komen, heeft Svenska Dagbladet in samenwerking met de in Kenia aanwezige journalist Naipanoi Lepapa met dertig werknemers van Sama gepraat. Daarbij werd expliciet gemeld dat de werknemers fragmenten voorgeschoteld krijgen om te beoordelen of de AI in de bril de vragen die dragers stellen begrijpt en goed beantwoord. Daarbij worden dus ook de beelden getoond die op het moment dat de AI wordt ingezet worden geschoten met de bril.

In principe meldt meta in de voorwaarden die mensen moeten accepteren om hun brillen te gebruiken dat werknemers het materiaal kunnen beoordelen. Daarbij wordt de nadruk gelegd op de gesprekken die dragers met de AI houden, en wordt gemeld dat dit zowel geautomatiseerd of door een mens kan worden gecontroleerd. Wanneer deze voorwaarden geweigerd worden, kan de bril niet gebruikt worden.

Dergelijke inbreuken op privacy zijn in het verleden wel vaker voorgekomen bij ‘slimme’ technologie, zoals slimme speakers. Wanneer dit in opspraak komt, wordt er uiteindelijk vaak alsnog een mogelijkheid ingebouwd om het delen van fragmenten uit te schakelen. Het is niet bekend of Meta dat ook gaat doen met hun brillen.

Er wordt op dit moment een collectieve vordering opgezet voor mensen die hierdoor gedupeerd zijn. Meta zou volgens deze vordering niet duidelijk hebben gecommuniceerd dat dit gebeurt, en de nadruk hebben gelegd op het beschermen van privacy. Dit verhaal krijgt ongetwijfeld dus nog een staartje, en zorgt er mogelijk voor dat Meta in de toekomst aanpassingen zal maken om de privacy van de dragers van deze brillen wel beter te waarborgen.

Onlangs kwam Meta al in opspraak rondom een gerelateerd onderwerp: in een interne memo viel te lezen dat het bedrijf gezichtsherkenning wil toevoegen aan zijn Meta X Ray-Ban en Oakley-brillen. Dit zou het bedrijf expres nu willen doen in een politiek dynamische periode, omdat dan veel maatschappelijke organisaties hun middelen op andere zaken richten.