Technology03.10.2018

​Oordelen over vooroordelen in AI


Ik had van het weekend voor het eerst de openhaard weer aan. Knetterend haardvuur vermengde zich met de geur van rode wijn. Op de achtergrond hoorde ik de muziek van George Michael “Listen without Prejudice!” Typisch iets menselijks om bevooroordeeld ergens mee bezig te zijn dacht ik nog en mijn gedachten dwaalden gelijk af naar de uitdaging waar wij mensen voor staan; Hoe zorgen wij ervoor dat er betrouwbare AI systemen kunnen worden ontwikkelt en kunnen verklaren hoe AI-systemen tot bepaalde keuzes zijn gekomen? Op welke wijze maken wij de keuzes transparant en kunnen we de resultaten vertrouwen en onderbouwen?

Blackbox

Veel mensen ervaren AI als een blackbox. Voor de meeste mensen is het onduidelijk wat er gebeurd binnen een AI-systeem. Normaliter zou een Data Scientist een eind komen maar helaas hebben wij als gewone stervelingen niet allemaal deze kennis voorhanden. Hoe komt een zelflerend systeem aan zijn resultaten, op basis van welke databronnen, modellen, criteria en algoritmen. Kunnen de resultaten zonder tussenkomst van mensen worden gebruikt voor wettelijke compliance (GDPR) of andere beslissingen in een goedkeuring proces? Hoe betrouwbaar, volledig en accuraat is het AI-systeem. Zijn de systemen zonder vooroordelen getraind gebruikmakend van verschillende machine-learning technieken zoals Supervised, Un-Supervised en/of Deep-Learning technologie.

Vooroordelen

Maar waar komen deze vooroordelen vandaan? Er zijn ongeveer 180 verschillende menselijke vooroordelen geïdentificeerd. De brongegevens waarvan AI-algoritmen afhankelijk zijn, zijn vaak de oorzaak van het probleem. Met behulp van algoritmen voor het leren van machines zijn ze opgeleid met behulp van historische gegevens en doorgaans zijn gegevens gemaakt van historische menselijke beslissingen die op dezelfde manier tot stand zijn gekomen. Het kan ook ontstaan doordat de enorme hoeveelheden data-algoritmen die worden opgeleid, niet altijd voldoende divers zijn.

Soms hebben de menselijke beslissingen sporen van een vooroordeel of dat impliciet of expliciet is om verschillende redenen. Dus als het machine-learning model is getraind op basis van deze bevooroordeelde getrainde datasets, zal het die vooroordelen erven en repliceren. Met alle gevolgen van dien.

Detecteren en verhelpen

We zijn gelukkig nu in staat om vooroordelen te detecteren in Runtime. We noemen dit “Trust and Transparency” services, zie: Trust and Transparency for AI on the Cloud.

Het verklaard hoe het AI systeem tot bepaalde resultaten gekomen is ook op basis van welke factoren. Het detecteert vooroordelen in de datamodellen wanneer beslissingen worden genomen en detecteert oneerlijke uitkomsten. Daarnaast geeft het ook aan welke databronnen additioneel gebruikt moet worden om het trainingsmodel opnieuw te trainen om de vooroordelen eruit te krijgen.

Het kan gebruikt worden voor verschillende Machine Learning Frameworks zoals: Tensorflow, SparkML, AWS Sagemaker, AzureML en IBM Watson. Een goede stap naar betrouwbare AI systemen die gebruikt kunnen worden om ons mensen te ondersteunen bij het nemen van complexe beslissingen. Hierdoor ben je dus in staat om Ethische principes te vertalen naar praktische oplossingen.

Nationale AI-agenda

Bovenstaande zou een zeer belangrijk onderdeel moeten worden in de nog op te zetten Nationale AI agenda. In deze agenda moeten alle aspecten rondom kunstmatige intelligentie aan de orde komen, zoals onderzoek, onderwijs, publiek-private samenwerking, nationale educatie, regelgeving en ethiek. We moeten zorgen dat we als B.V. Nederland aan de top mee kunnen blijven draaien op zowel Europees als Wereldwijd niveau. De eerste stappen worden hierin gezet.

[Afbeelding © Sikov – Adobe Stock]

​Innovaties die ons leven helpen veranderen binnen 5 jaar​Cognitief ondernemen in een denkende maatschappijAI spreekt onze taal en heeft dus ook onze vooroordelen
Gerard Smit

Gerard Smit is Chief Technology Officer van IBM Benelux onderdeel van de Europese CTO Office, IBM Distinguished Engineer en lid van de IBM Academy of Technology. Gerard is nieuwgierig naar nieuwe technologische ontwikkelingen en houdt ervan om creatief en buiten de kaders naar oplossingen te zoeken. Hij is sterk verbonden met onderzoeksinstellingen, trendwatchers, analisten en andere externe innovatie instellingen.

Deel dit artikel
...

Verder lezen over IBM

Wat is een quantumcomputer en waarom is het interessant?

Er is een grote doorbraak geweest in de wereld van kwantumcomputers, maar de kans is groot dat je daar niets over hebt gehoord. Het is namelijk niet echt een wereld waarvan grote aantallen mensen op de hoogte zijn. Wat e...

Technology10.02.2023

Wat is een quantumcomputer en waarom is het interessant?
​De toekomst van computers?

Zou het mogelijk zijn als we de intelligentie van Einstein, de context van Gandhi en het geheugen van de gehele mensheid geconsolideerd kunnen aanbieden op een hybride computerplatform? Zijn we in staat, in de nabije toe...

Technology04.05.2020

​De toekomst van computers?
Google bevestigt doorbraak in kwantumcomputerkracht

Google heeft laten weten dat het bedrijf een nieuwe doorbraak in kwantumkracht heeft bereikt in een artikel dat is gepubliceerd in het wetenschappelijke tijdschrift: Nature. De aankondiging komt precies een maand nadat...

Technology25.10.2019

Google bevestigt doorbraak in kwantumcomputerkracht
​Zijn wij drenkelingen op een houten vlot?

De technologische ontwikkelingen in onze maatschappij volgen zich in quantum snelheid op. We krijgen dagelijks zoveel informatie op ons af waardoor we steeds meer ondersteuning nodig hebben van intelligente systemen die...

Technology23.09.2019

​Zijn wij drenkelingen op een houten vlot?
IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Microsoft heeft veel voor LinkedIn betaald toen ze die in 2016 kochten voor meer dan 26 miljard dollar, maar dat kan niet op tegen de 34 miljard dollar (in cash!) die IBM heeft gespendeerd aan het kopen van Red Hat. Dit...

Technology29.10.2018

IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Techreus koopt ander model voor de toekomst
Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

IBM Research is in de geurtjes gegaan. Ze zijn namelijk gaan samenwerken met Symrise, een van de grootste bedenkers van smaken en geuren. Daar is een AI uitgekomen die Philyra heet, naar de Griekse godin van de geur. Die...

Technology25.10.2018

Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

'Eau d'intelligence artificielle'
Call for code: kan jouw code helpen bij natuur- en klimaatrampen?

We hebben het al eerder gehad over Call for Code, een competitie die ontwikkelaars uitdaagt om technische oplossingen te vinden die voor, tijdens of na klimaat- en natuurrampen kunnen helpen. Maar wat kun je bedenken dat...

Technology07.07.2018

Call for code: kan jouw code helpen bij natuur- en klimaatrampen?
Jouw code kan levens redden – en IBM wil je daarbij helpen

IBM heeft zich aangesloten bij de David Clark Cause om een nieuw project op te starten: het Call for Code Global Initiative'. Dat heeft zich tot taak gesteld om de wereld beter te wapenen tegen klimaat- en andere natuurr...

Online02.07.2018

Jouw code kan levens redden – en IBM wil je daarbij helpen

Verder lezen over Kunstmatige Intelligentie

Wees niet bang voor Yahoo boys, maar voor deepfake lovers

Kinderen worden erdoor gechanteerd, Taylor Swift nagedaan, maar er is nu nog een nieuwe variant: de deepfake lover.

Artificial Intelligence25.10.2024

Wees niet bang voor Yahoo boys, maar voor deepfake lovers

Van Yahoo boy naar Yahoo bot
Wat als een tiener zijn leven beëindigt door een AI-chatbot?

In veel gevallen gaat het goed en kunnen we er veel uithalen, maar er zijn momenten waarop AI onze grote vijand is. Bijvoorbeeld bij een tiener in de Verenigde Staten.

Artificial Intelligence24.10.2024

Wat als een tiener zijn leven beëindigt door een AI-chatbot?
Eerste Europese vonnis over gebruik van afbeeldingen in generatieve AI: is er sprake van auteursrechtinbreuk?

Een uitspraak van de rechtbank in Hamburg op 27 september 2024 vormt een nieuwe mijlpaal in de discussie rondom AI (kunstmatige intelligentie) en auteursrecht. Kort gezegd draait deze zaak om de vraag of door het gebruik van foto’s in generatieve AI-programma’s inbreuk wordt gepleegd op het auteursrecht van de betreffende fotograaf.

Artificial Intelligence23.10.2024

Eerste Europese vonnis over gebruik van afbeeldingen in generatieve AI: is er sprake van auteursrechtinbreuk?
Je nieuwe collega’s zijn autonome AI-agents in Microsoft Copilot

Microsoft voegt nieuwe, AI-agents toe aan Copilot. Ze zijn geheel zelfwerkend, dus ze verrichten allerlei taken die werk uit handen nemen van menselijke medewerkers.

Artificial Intelligence22.10.2024

Je nieuwe collega’s zijn autonome AI-agents in Microsoft Copilot
Logitech: “AI kan de digitale werkplek veel menselijker maken”

Veel mensen hadden het voor corona nooit zien aankomen: hoe belangrijk de virtuele werkplek zou worden. Delphine Donné, General Manager Logitech Personal Workspace Solutions, heeft er inmiddels zelfs haar werk van gemaakt. Die virtuele werkplek is wat haar betreft pas echt handig als je er AI aan toevoegt. We spraken haar erover.

Artificial Intelligence22.10.2024

Logitech: “AI kan de digitale werkplek veel menselijker maken”
Was alles op Tesla’s We, Robot-event nep?

Als je een presentatie houdt in een Hollywood-studio, dan weet je dat de kans groot is dat je met veel neppigheid te maken krijgt. Of niet, Tesla?

Events22.10.2024

Was alles op Tesla’s We, Robot-event nep?
Adobe verrast met tool om platte tekeningen 3D te maken

Adobe heeft het nog niet ingebouwd in tool, maar het is gemaakt voor Illustrator. De tool heet nu nog Project Turntabel en het laat mensen versteld staan van wat de computer allemaal kan bedenken.

Artificial Intelligence21.10.2024

Adobe verrast met tool om platte tekeningen 3D te maken
Meta introduceert AI-model dat het werk van andere AI checkt

Meta is bekend van het AI-model Llama, maar het maakt nog veel meer modellen. Waaronder nu AI die AI controleert.

Artificial Intelligence21.10.2024

Meta introduceert AI-model dat het werk van andere AI checkt

Verder lezen over Toekomst

Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst
Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee
In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen
Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis
De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go
Terugleverkosten bij zonnepanelen: zo verminder je ze

De slimste manier om je terugleverkosten laag te houden, is door zoveel mogelijk van je eigen energie zelf te gebruiken. Wat je immers zelf gebruikt, hoef je niet terug te leveren. En kost je dus niets extra’s. Zo houd je grip op je energierekening.

Technology13.06.2024

Terugleverkosten bij zonnepanelen: zo verminder je ze

Houd je energierekening laag