​Facebook labelt zwarte mannen als ‘primaten’ en zegt sorry

​Facebook labelt zwarte mannen als ‘primaten’ en zegt sorry

Vorig artikel Volgend artikel

Het komt niet vaak voor dat Facebook excuses maakt, maar het heeft het nu -zeer terecht- wel gedaan. De kunstmatige intelligentie van het social medium labelde een video met zwarte mensen namelijk als.. primaten. Facebook noemt het zelf onacceptabel. Dat is het ook, maar het legt wel de vinger op de zere plek.

Discriminatie door AI

We weten inmiddels al vele jaren dat kunstmatige intelligentie enorm last heeft van discriminatie. Is het niet de HR-recruitmentbot van Amazon die alleen maar mannen op gesprek laat komen, dan is het wel een Face-ID die aanzienlijk minder goed blijkt te werken als je een zwarte huidskleur hebt.

Kunstmatige intelligentie wordt in zodanig witte werelden ontwikkeld, dat de technologie veel te veel witte beelden te verwerken krijgt. Hierdoor gaat het soms mis wanneer iemand zwart is. Dat ligt overigens niet alleen aan de beelden die in machine learning gevoed zijn: het heeft ook te maken met de lichtval. Een witte huid ziet er bij elk licht nagenoeg hetzelfde uit, terwijl een zwarte huid meer schakeringen kent of minder goed zichtbaar is in een minder goed verlichte ruimte.

Niet gewoon een foutje

Hoewel er zeker technologiebedrijven zijn die zich over de kwestie buigen, gebruiken we kunstmatige intelligentie al volop. Zo ook Facebook, dat het handig vindt om mensen te helpen bij het labelen van content. Zo kon het echter gebeuren dat een video met zwarte mannen als label ‘primaten’ kreeg aangeraden. Facebook noemt het niet gewoon een foutje: het vindt het een onacceptabele fout en het gaat onderzoeken hoe het kan zorgen dat dit nooit meer voorkomt.

Dat is een goed plan, maar als je echt wil dat dit zo snel mogelijk niet zal gebeuren, dan kun je deze AI beter even offline halen, toch? Je wil niet dat mensen dit zien en vervolgens krijgen: “Wil je meer video’s over primaten bekijken?” Gelukkig realiseerde Facebook dit ook, waardoor het inderdaad de optie offline heeft gehaald. Het weet dat zijn AI niet perfect is, dus zelfs als het straks weer online komt dan kan er alsnog gender- of rassendiscriminatie plaatsvinden.

Facebook moet oppassen

Hoewel het nooit tof is om iemand een aap te noemen, lijkt het door kunstmatige intelligentie vaker voor te komen bij zwarte mensen. Google’s Photos-app noemde zwarte mensen in 2015 nog gorilla’s. De Federal Trade Commission in Amerika houdt het scherp in de gaten. Want, zo stelt het: “Maak jezelf verantwoordelijk, anders doen wij het voor je.” En zo is het maar niet: kunstmatige intelligentie ‘denkt’ misschien wel zelf, het kan dat alleen doen door wat wij mensen het hebben geleerd.

Laura Jenny

Is ze niet aan het tikken, dan reist ze rond in de wondere wereld van entertainment of op een toffe plek in de echte wereld. Mario is de man van haar leven,...

Reageren is uitgeschakeld omdat er geen cookies opgeslagen worden.

Cookies toestaan Meer informatie over cookies