Een verbod op gezichtsherkenning in openbare ruimtes is dichterbij dan je denkt

De Europese Commissie bekijkt of het mogelijk is om een verbod op gezichtsherkenning in openbare ruimten door te voeren. Dit meldt de Wall Street Journal en dat is inderdaad een Amerikaanse krant. Opmerkelijk, want de invoering zou grote gevolgen hebben voor Europese burgers. Vorig jaar gaf de EC een groep van 52 experts de opdracht om te onderzoeken op welke wijze kunstmatige intelligentie op een veilige manier toegepast kan worden binnen de Europese Unie.

Europa loopt achter op China en de Verenigde Staten

In Europa zijn we nog lang niet zover met Artificial Intelligence (AI) als in China en de VS. Juist om die reden wil de EC dat hierin flink geïnvesteerd wordt, maar de commissie plaatst ook veel vraagtekens bij het ethische gebruik van AI. Onder de experts die bij het onderzoek betrokken waren bevinden zich academici, maar ook vertegenwoordigers van grote bedrijven zoals Google. Het onderzoek heeft geleid tot een rapport met 33 adviezen en werd op 26 juni al gepresenteerd. Conclusie? We moeten waakzaam zijn op de fundamentele rechten van de mens.

Gevaren van identificering en tracking

De onderzoekers vinden dat het effect over de toepassing van gezichtsherkenning door overheden niet moet worden onderschat. Cameratoezicht bij openbare ruimtes kan zorgen voor onrechtvaardige identificering en tracking als systemen door AI aangestuurd worden. Bovendien waarschuwt het rapport voor een AI-systeem zonder menselijke interventie en toezicht. De inzet ervan moet altijd op voorhand ‘evidence based’ zijn.

Gezichtsherkenning Nederlandse politie

Ook in Nederland maakt de politie al gebruik van gezichtsherkenning voor het opsporen van verdachten. De gezichtendatabase bevat foto’s van 1,3 miljoen mensen die in ons land van een misdrijf verdacht worden. Sinds 2016 gebruikt de politie de database en een foto wordt toegevoegd als iemand wordt verdacht van een misdrijf waar minimaal vier jaar cel voor staat. En die foto verdwijnt niet zomaar uit de database: afhankelijk van de ernst van het misdrijf kan deze tot wel dertig jaar blijven staan.

Lokaal doet de politie proeven met ‘real-time’ gezichtsherkenning. Camera’s maken dan een match met de database om verdachten op die manier op te kunnen sporen. Er schuilen behoorlijk wat gevaren in deze wijze van gezichtsherkenning, zo bleek begin juli in het Verenigd Koninkrijk. Uit onderzoek is gebleken dat in meer dan vier op de vijf gevallen de software onschuldige mensen koppelt aan een misdrijf. In een aantal steden in de Verenigde Staten wordt gezichtsherkenning in publieke ruimtes door de overheid verboden.

Europese besluitvorming

Het kan nog wel even duren voordat er daadwerkelijk maatregelen doorgevoerd worden of zelfs wetten ingevoerd. De EC neemt de adviezen uit het rapport in overweging. We weten dat Europese besluitvorming wel even op zich kan laten wachten, maar het kan wel een eerste stap zijn in het verbieden van gezichtsherkenning in openbare ruimtes.