Hoe krijgen we algoritmen die gebruikt worden door de overheid zo eerlijk mogelijk

Hoe krijgen we algoritmen die gebruikt worden door de overheid zo eerlijk mogelijk

CBS onderzoekt

Vorig artikel Volgend artikel

De komende jaren zal Artificial Intelligence (AI) door overheidsorganisaties meer en meer worden ingezet bij het aanpakken van grote maatschappelijke opgaven, zoals bij armoedebeleid, de stikstofcrisis, de energietransitie of het tegengaan van ondermijning.

Tobias van der Knaap, masterstudent Archival & Information Studies aan de Universiteit van Amsterdam, deed er onderzoek naar bij het Centraal Bureau voor de Statistiek (CBS).

Zijn onderzoek valt binnen het CBS-project ‘Eerlijke algoritmen’ dat in 2018 werd gestart. ‘Als technologie de menselijke beslissing overneemt, is verantwoording extra belangrijk.

Eerlijke data en eerlijke algoritmes

Data staan altijd aan de basis van AI; algoritmes moeten immers getraind worden met data. Om een eerlijk algoritme te krijgen moet de trainingsdata representatief zijn. Het algoritme weerspiegelt de patronen in de data en het is daarom essentieel er voor te zorgen dat de data eerlijk zijn. Met de data die het CBS in huis heeft kan daar meer inzicht in worden verkregen. Dit illustreert hoe het CBS kan bijdragen aan het toepassen van eerlijke algoritmes door de overheid. Daarbij is het voor de maatschappelijke acceptatie van het gebruik van AI door overheden wezenlijk dat algoritmes transparant zijn en uitlegbaar. Dat geldt ook voor de algoritmes die het CBS gebruikt.

Algoritmen in maatschappelijk perspectief zetten

Tobias van der Knaap dook de literatuur in: ,,Ik kijk niet naar de technische details van algoritmen, maar kies het perspectief van de maatschappij. Welke gevolgen heeft het voor mensen als gemeenten algoritmen inzetten? Welke risico’s kleven daaraan? Wat vinden mensen belangrijk om te weten en te borgen?"

Ook het wettelijk kader werd bestudeerd: de Archiefwet, de AVG en de aankomende Wet Open Overheid, de opvolger van de Wet Openbaarheid Bestuur. Van der Knaap: ,,Bovendien heb ik gekeken naar het Europese beleid. De Europese Unie is op zoek naar een manier om op een goede manier om te gaan met de mogelijkheden van kunstmatige intelligentie. De Nederlandse aanpak zou daarop aan moeten sluiten."

Privacy staat hoog in het vaandel

Privacy staat in het werk van het CBS altijd centraal. De samenleving vertrouwt het CBS met haar data omdat er vertrouwen is in de wijze waarop er mee wordt omgegaan. Het CBS werd in 1899 opgericht vanuit de behoefte aan onafhankelijke, betrouwbare informatie om maatschappelijke vraagstukken te begrijpen.

Vooruitdenken over wat er moet gebeuren

Er moet nog het nodige gebeuren, concludeert Van der Knaap op basis van zijn onderzoek. ,,Het blijkt dat nog weinig vooraf wordt nagedacht over hoe je op een goede manier informatie kunt archiveren. Daardoor kunnen gaten ontstaan, in het proces en in de data die nodig zijn om een goede verantwoording achteraf mogelijk te maken. Het komt bijvoorbeeld voor dat vergunningen niet meer terug te vinden zijn. Ik hoorde ook de andere kant van het verhaal: dat projectmedewerkers pas na afloop van een project door het archief benaderd worden met de vraag om documenten aan te leveren. Dat is te laat: als je van te voren goed nadenkt over welke informatie nodig is, is het veel gemakkelijker om die goed op te slaan en te organiseren."


Complex om conclusie te trekken

Over het gebruik van algoritmen is het lastig conclusies trekken, geeft Van der Knaap aan: ,,Gemeenten zitten vaak nog in de testfase. Je ziet wel: algoritmen zijn erg complex om te maken. Gemeenten schakelen daar vaak gespecialiseerde bedrijven voor in. Dan kan een probleem ontstaan omdat niet altijd goede afspraken gemaakt worden over hoe die bedrijven met de gegevens van de gemeente omgaan. Ook zien we - en dat probleem speelt ook in andere landen - dat bedrijven hun intellectueel eigendom willen beschermen en geen inzicht geven in de werking van hun systemen. Dat staat de transparantie in de weg."

Floyd Aanen

Floyd is journalist en al jarenlang als razende reporter werkzaam in de (landelijke) media. Daarnaast een passievolle podcastmaker en hij staat graag voor...