​Hoe zetten managers AI ethisch in?

Nederland ICT presenteerde in maart van dit jaar de ‘Ethische Code Artificial Intelligence’. Hiermee kunnen ICT-bedrijven op een ethische manier AI-toepassingen ontwikkelen en implementeren. Een positieve ontwikkeling, vindt Marc Teerlink, bij SAP Global Vice President voor Intelligent Enterprise Solutions en Artificial Intelligence. Maar de gebruikers van de toepassingen kunnen zelf ook een steentje bijdragen.

AI is inmiddels overal aanwezig. Binnenkort zelfs in de McDrive van McDonald’s. De fastfoodketen maakte onlangs bekend dat het werkt aan dynamische menuschermen. Het getoonde is dan afhankelijk van bijvoorbeeld het weer, het tijdstip en de verkeerssituatie.

Een ander voorbeeld komt van het Jeroen Bosch Ziekenhuis. Zij gebruiken AI om in te schatten of verdichtingen in de longen goed- of kwaadaardig zijn. Het Bossche ziekenhuis werkt hiervoor samen met het Radboudumc en de eveneens in ’s-Hertogenbosch gevestigde Jheronimus Academy of Data Science (JADS).

Ongewenste uitkomsten

Helaas is AI ook negatief in het nieuws, bijvoorbeeld als een algoritme tot ongewenste resultaten leidt. Zo staakte Amazon een experiment met een sollicitatierobot toen bleek dat het algoritme een voorkeur had voor mannen. De robot was namelijk getraind met de cv’s die Amazon sinds 2004 had ontvangen. De meeste daarvan waren afkomstig van mannen, waardoor de robot ‘leerde’ dat mannen de voorkeur moeten krijgen.

SAP’er Marc Teerlink – een Nederlander die al jaren in de Verenigde Staten woont – noemt het de ‘unintended consequences’. “Als ik Siri de opdracht geef ‘text my wife I love her’, krijgt mijn vrouw de boodschap ‘I love her’. En de eerste keer belde ze me meteen ‘and who is she?’. Niet volledig de intentie van mijn boodschap. Dat is na jaren training van het algoritme nog steeds niet opgelost.” En zo kan het volgens de Global VP ook gebeuren dat een bank onterecht een lening weigert omdat de aanvrager toevallig woont in een postcodegebied, of in een appartementencomplex, met veel wanbetalers. “Dan ben je schuldig door associatie.”

Corrigerende rol

Volgens Teerlink hebben onder andere overheden en de IT-branche een corrigerende rol. Overheden moeten regelgeving, richtlijnen en standaarden stimuleren die zorgen voor een hogere datakwaliteit en transparantie, zodat duidelijk is hoe een algoritme tot een uitkomst komt. De branche kan richtlijnen voor een ‘ethische AI’ opstellen zoals Nederland ICT die heeft neergelegd in zijn Ethische Code Artificial Intelligence.

Maar volgens Teerlink hebben bedrijven zelf ook een taak. “Hoe ga je als manager om met AI en ethiek?” Hij geeft enkele tips:

1. Blijf kritisch op de data

“Welke data gebruiken we om een algoritme te trainen? Hebben we daar harde regels voor? En zijn die regels in lijn met wet- en regelgeving zoals de Algemene verordening gegevensbescherming? Als duidelijk is welke data worden gebruikt, is het ook eenvoudiger om vast te stellen of data bijvoorbeeld een voorkeur in zich hebben, of zelfs discriminerend zijn.”

2. Beoordeel technologie op transparantie

Teerlink pleit niet alleen voor ‘harde regels’ voor de data die worden gebruikt om een algoritme te trainen, maar ook voor de technologie die een organisatie aanschaft. “Stel jezelf de vraag: biedt de beoogde technologie de transparantie waar zowel wij als onze klanten behoefte aan hebben? Is het te achterhalen hoe een algoritme tot een bepaalde conclusie komt?”

3. Controleer de uitkomsten

“Met AI kun je veel handmatige taken automatiseren. Dat voordeel heeft ook een keerzijde: een business-specialist die met AI werkt, zal weliswaar 30 tot 40 procent tijd besparen, maar ook vijf procent van de tijd weer moeten opofferen aan het controleren van de uitkomsten. Aan deze vorm van risicobeheersing is niet te ontkomen. Vergelijk het met de arts die dagelijks zijn ronde doet om te controleren of de co-assistenten het goed doen met de patiënten. Dat wordt ook van de business-specialist verlangd.”

4. Leg eigendom en aansprakelijkheid vast

“Het is leuk voor je pr-afdeling om te roepen dat je iets met AI en ethiek doet, maar klanten moeten daar ook iemand op kunnen aanspreken. Het liefst een man of vrouw op senior niveau, of daaraan rapporterend, die vanuit een businessperspectief verantwoordelijk is voor het onderwerp ‘data, AI en ethisch gebruik’. Zodat een klacht ook echt wordt behandeld en de klant een terugkoppeling krijgt. En als je alleen met het onderwerp AI aan ethiek doet, en dit niet toepast op de 99 procent van de andere beslissingen die niet door AI ondersteund worden, dan denk je niet echt aan ethiek, je denkt gewoon aan pr.”

5. Beschouw data als een asset

Data vormen de ‘grondstof’ voor AI. “Toch zien de meeste bedrijven data nog niet als een belangrijke asset. Hoe kunnen we dan verwerkingen van data als belangrijk zien? En consequenties verbinden aan de ‘unintended consequences’? We moet ook data als een asset zien, dat is echt de basis.”

[Fotocredits © santiago silver – Adobe Stock]