AI spreekt onze taal en heeft dus ook onze vooroordelen

AI spreekt onze taal en heeft dus ook onze vooroordelen

Je krijgt er uit wat je er in stopt

Vorig artikel Volgend artikel

Kunstmatige intelligentie (AI) neemt onze menselijke vooroordelen over, zo roepen de koppen die refereren aan het onderzoek aan de Universiteiten van Bath en Princeton die AI hebben onderworpen aan een impliciete associatietest (IAT). Tijdens die test komen er normaal gesproken woorden op een scherm te staan de snelheid waarmee proefpersonen die woorden met elkaar verbinden geeft aan waar er onderbewuste associaties zitten bij een bepaald woord. Voorbeeld?

Voorbeeld: Je krijgt een aantal woorden en een aantal plaatjes, bijvoorbeeld zwarte en witte mensen en positieve en negatieve woorden. Daarna worden beide categorieën onder een knop op je toetsenbord gezet en moet je drukken als je het woord of de mens in kwestie ziet. Probeer het anders even, er zijn een hoop verschillende smaakjes van de test.

racebreakdown

Wat is een woord voor een AI?

Een vergelijkbare test is gedaan met een aantal kunstmatige intelligenties. Nu hebben die geen (meetbare) verschillen in reactietijd zoals wij mensen hebben om te meten waar je voorkeuren stiekem liggen, dus dat moest anders opgelost worden. Lang verhaal kort: de definities van woorden in de database van een AI bestaan uiteindelijk uit cijfers en woorden met ongeveer dezelfde betekenis hebben ook cijfers die dicht bij elkaar liggen.

Nu blijkt dat de namen Brett en Allison dichter bij woorden als 'liefde' en 'lachen' lagen, terwijl namen als Alonzo en Shaniqua dichter bij woorden als 'kanker' en 'falen'. Het vooroordeel is ook bij AI gewoon ingebakken.

Meneer de dokter

De reden laat zich raden: AI leert taal door zo veel mogelijk geschreven woord tot zich te nemen, en alle vooroordelen die in die woorden opgesloten zitten leert een AI gewoon mee. Als bij het woord 'dokter' in bijna alle lektuur het voornaamwoord 'hij' erbij staat moet je niet raar opkijken dat een kunstmatige intelligentie in eerste instantie denkt dat 'dokter' een mannelijk beroep is.

Fotolia_138972731_Subscription_Monthly_M

Kunstmatig

Het laat voornamelijk zien dat die intelligentie nog echt heel kunstmatig is en voornamelijk woorden aan elkaar knoopt omdat het blijkbaar de norm is om woorden zo aan elkaar te knopen.

Zo lang AI geen conclusies kan trekken over wat taal zou moeten betekenen zullen ze alleen maar na-apen wat wij er als mensen in stoppen. Nadat Microsoft's zelflerende chatbot Tay binnen 24 uur tot racistisch monster was omgetoverd door de interactie met mensen hoeven we ons geen illusies te maken over hoe fair en neutraal AI zal zijn, althans tot ze zelf beslissingen gaan maken.

[Afbeelding © Laurent - Fotolia]

Patrick Smeets

Game-enthousiast, tech blogger en presentator. Was ooit rockster. Local celebrity in Limburg maar ziet graag veel van de wereld. Er zijn niet genoeg kattenGIFjes...

Reageren is uitgeschakeld omdat er geen cookies opgeslagen worden.

Cookies toestaan Meer informatie over cookies