Technology03.10.2018

​Oordelen over vooroordelen in AI


Ik had van het weekend voor het eerst de openhaard weer aan. Knetterend haardvuur vermengde zich met de geur van rode wijn. Op de achtergrond hoorde ik de muziek van George Michael “Listen without Prejudice!” Typisch iets menselijks om bevooroordeeld ergens mee bezig te zijn dacht ik nog en mijn gedachten dwaalden gelijk af naar de uitdaging waar wij mensen voor staan; Hoe zorgen wij ervoor dat er betrouwbare AI systemen kunnen worden ontwikkelt en kunnen verklaren hoe AI-systemen tot bepaalde keuzes zijn gekomen? Op welke wijze maken wij de keuzes transparant en kunnen we de resultaten vertrouwen en onderbouwen?

Blackbox

Veel mensen ervaren AI als een blackbox. Voor de meeste mensen is het onduidelijk wat er gebeurd binnen een AI-systeem. Normaliter zou een Data Scientist een eind komen maar helaas hebben wij als gewone stervelingen niet allemaal deze kennis voorhanden. Hoe komt een zelflerend systeem aan zijn resultaten, op basis van welke databronnen, modellen, criteria en algoritmen. Kunnen de resultaten zonder tussenkomst van mensen worden gebruikt voor wettelijke compliance (GDPR) of andere beslissingen in een goedkeuring proces? Hoe betrouwbaar, volledig en accuraat is het AI-systeem. Zijn de systemen zonder vooroordelen getraind gebruikmakend van verschillende machine-learning technieken zoals Supervised, Un-Supervised en/of Deep-Learning technologie.

Vooroordelen

Maar waar komen deze vooroordelen vandaan? Er zijn ongeveer 180 verschillende menselijke vooroordelen geïdentificeerd. De brongegevens waarvan AI-algoritmen afhankelijk zijn, zijn vaak de oorzaak van het probleem. Met behulp van algoritmen voor het leren van machines zijn ze opgeleid met behulp van historische gegevens en doorgaans zijn gegevens gemaakt van historische menselijke beslissingen die op dezelfde manier tot stand zijn gekomen. Het kan ook ontstaan doordat de enorme hoeveelheden data-algoritmen die worden opgeleid, niet altijd voldoende divers zijn.

Soms hebben de menselijke beslissingen sporen van een vooroordeel of dat impliciet of expliciet is om verschillende redenen. Dus als het machine-learning model is getraind op basis van deze bevooroordeelde getrainde datasets, zal het die vooroordelen erven en repliceren. Met alle gevolgen van dien.

Detecteren en verhelpen

We zijn gelukkig nu in staat om vooroordelen te detecteren in Runtime. We noemen dit “Trust and Transparency” services, zie: Trust and Transparency for AI on the Cloud.

Het verklaard hoe het AI systeem tot bepaalde resultaten gekomen is ook op basis van welke factoren. Het detecteert vooroordelen in de datamodellen wanneer beslissingen worden genomen en detecteert oneerlijke uitkomsten. Daarnaast geeft het ook aan welke databronnen additioneel gebruikt moet worden om het trainingsmodel opnieuw te trainen om de vooroordelen eruit te krijgen.

Het kan gebruikt worden voor verschillende Machine Learning Frameworks zoals: Tensorflow, SparkML, AWS Sagemaker, AzureML en IBM Watson. Een goede stap naar betrouwbare AI systemen die gebruikt kunnen worden om ons mensen te ondersteunen bij het nemen van complexe beslissingen. Hierdoor ben je dus in staat om Ethische principes te vertalen naar praktische oplossingen.

Nationale AI-agenda

Bovenstaande zou een zeer belangrijk onderdeel moeten worden in de nog op te zetten Nationale AI agenda. In deze agenda moeten alle aspecten rondom kunstmatige intelligentie aan de orde komen, zoals onderzoek, onderwijs, publiek-private samenwerking, nationale educatie, regelgeving en ethiek. We moeten zorgen dat we als B.V. Nederland aan de top mee kunnen blijven draaien op zowel Europees als Wereldwijd niveau. De eerste stappen worden hierin gezet.

[Afbeelding © Sikov – Adobe Stock]

​Innovaties die ons leven helpen veranderen binnen 5 jaar​Cognitief ondernemen in een denkende maatschappijAI spreekt onze taal en heeft dus ook onze vooroordelen
Gerard Smit

Gerard Smit is Chief Technology Officer van IBM Benelux onderdeel van de Europese CTO Office, IBM Distinguished Engineer en lid van de IBM Academy of Technology. Gerard is nieuwgierig naar nieuwe technologische ontwikkelingen en houdt ervan om creatief en buiten de kaders naar oplossingen te zoeken. Hij is sterk verbonden met onderzoeksinstellingen, trendwatchers, analisten en andere externe innovatie instellingen.

Deel dit artikel
...

Verder lezen over IBM

Wat is een quantumcomputer en waarom is het interessant?

Er is een grote doorbraak geweest in de wereld van kwantumcomputers, maar de kans is groot dat je daar niets over hebt gehoord. Het is namelijk niet echt een wereld waarvan grote aantallen mensen op de hoogte zijn. Wat e...

Technology10.02.2023

Wat is een quantumcomputer en waarom is het interessant?
​De toekomst van computers?

Zou het mogelijk zijn als we de intelligentie van Einstein, de context van Gandhi en het geheugen van de gehele mensheid geconsolideerd kunnen aanbieden op een hybride computerplatform? Zijn we in staat, in de nabije toe...

Technology04.05.2020

​De toekomst van computers?
Google bevestigt doorbraak in kwantumcomputerkracht

Google heeft laten weten dat het bedrijf een nieuwe doorbraak in kwantumkracht heeft bereikt in een artikel dat is gepubliceerd in het wetenschappelijke tijdschrift: Nature. De aankondiging komt precies een maand nadat...

Technology25.10.2019

Google bevestigt doorbraak in kwantumcomputerkracht
​Zijn wij drenkelingen op een houten vlot?

De technologische ontwikkelingen in onze maatschappij volgen zich in quantum snelheid op. We krijgen dagelijks zoveel informatie op ons af waardoor we steeds meer ondersteuning nodig hebben van intelligente systemen die...

Technology23.09.2019

​Zijn wij drenkelingen op een houten vlot?
IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Microsoft heeft veel voor LinkedIn betaald toen ze die in 2016 kochten voor meer dan 26 miljard dollar, maar dat kan niet op tegen de 34 miljard dollar (in cash!) die IBM heeft gespendeerd aan het kopen van Red Hat. Dit...

Technology29.10.2018

IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Techreus koopt ander model voor de toekomst
Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

IBM Research is in de geurtjes gegaan. Ze zijn namelijk gaan samenwerken met Symrise, een van de grootste bedenkers van smaken en geuren. Daar is een AI uitgekomen die Philyra heet, naar de Griekse godin van de geur. Die...

Technology25.10.2018

Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

'Eau d'intelligence artificielle'
Call for code: kan jouw code helpen bij natuur- en klimaatrampen?

We hebben het al eerder gehad over Call for Code, een competitie die ontwikkelaars uitdaagt om technische oplossingen te vinden die voor, tijdens of na klimaat- en natuurrampen kunnen helpen. Maar wat kun je bedenken dat...

Technology07.07.2018

Call for code: kan jouw code helpen bij natuur- en klimaatrampen?
Jouw code kan levens redden – en IBM wil je daarbij helpen

IBM heeft zich aangesloten bij de David Clark Cause om een nieuw project op te starten: het Call for Code Global Initiative'. Dat heeft zich tot taak gesteld om de wereld beter te wapenen tegen klimaat- en andere natuurr...

Online02.07.2018

Jouw code kan levens redden – en IBM wil je daarbij helpen

Verder lezen over Kunstmatige Intelligentie

ChatGPT heeft nu een kerstmannenmodus om mee te praten

Je vindt de kerstman in de browserversie en de app-versie van ChatGPT. Het is een van de stemmen die je kunt kiezen als je op het spraak-icoon tikt.

Online13.12.2024

ChatGPT heeft nu een kerstmannenmodus om mee te praten
10 voorspellingen voor 2025 van SAP: 
het is vooral AI dat de klok slaat

Wat kunnen bedrijven in 2025 verwachten op het gebied van technologie en innovatie? Volgens SAP staat het komende jaar in het teken van de doorbraak van AI, cloud-first-strategieën en datatransparantie als drijvende krachten achter succesvolle bedrijfsvoering.

Technology13.12.2024

10 voorspellingen voor 2025 van SAP: 
het is vooral AI dat de klok slaat
AI-bedrijf adverteert in San Francisco: ‘Neem geen mensen meer aan’

Wij vinden het bijdehand, maar in de Verenigde Staten wordt er minder positief op gereageerd.

Advertising11.12.2024

AI-bedrijf adverteert in San Francisco: ‘Neem geen mensen meer aan’
Sora de toekomst van AI-videocreatie

De introductie van Sora, de nieuwste AI-tool van OpenAI, markeert een mijlpaal in de wereld van videoproductie. Wat begon als een tool om tekst om te zetten naar video, heeft zich ontwikkeld tot een complete AI-videobewerkingssuite die innovatie en toegankelijkheid naar een nieuw niveau tilt.

Technology10.12.2024

Sora de toekomst van AI-videocreatie

Een baanbrekende introductie
DS Automobiles ontvangt award voor ChatGPT-integratie

DS Automobiles heeft de prestigieuze SMARTBEST 2025 Award in de wacht gesleept voor de baanbrekende integratie van ChatGPT in hun voertuigen. Deze prijs, toegekend door de onafhankelijke jury van AUTOBEST, erkent innovatieve technologieën die een significante impact hebben op de automotive sector en de gebruikerservaring.

Automotive10.12.2024

DS Automobiles ontvangt award voor ChatGPT-integratie
Videotool Sora van OpenAI is nu officieel beschikbaar

OpenAI heeft in het kader van zijn 12 Days of Shipmas eindelijk Sora officieel beschikbaar gemaakt.

Video09.12.2024

Videotool Sora van OpenAI is nu officieel beschikbaar
Nieuwe AI Kersthit: ‘Christmas With You There’

Wat krijg je als je een radio-presentator en een AI-expert zonder enig muzikaal talent een Kersthit willen maken? Kees Dorresteijn (BNR Nieuwsradio) en Remy Gieling (ai.nl) hebben de handen ineengeslagen om met behulp van AI een nieuwe kerstervaring te creëren.

Entertainment09.12.2024

Nieuwe AI Kersthit: ‘Christmas With You There’
Google: Google Zoeken gaat volledig veranderen volgend jaar

Hij zei dat je zelfs al vroeg in 2025 heel nieuwe dingen kunt doen dan nu. Hij spreekt over een duidelijke shift en zegt dat er nog heel veel innovatie aankomt.

Search06.12.2024

Google: Google Zoeken gaat volledig veranderen volgend jaar

Verder lezen over Toekomst

De toekomst van leren: KLM en de impact van AI

Tijdens een Communitydag georganiseerd door NPULS sprak Timothy Druiventak van KLM.  Zijn lezing ging over over de rol van leren in het oplossen van zakelijke problemen bij KLM, met name in de context van technologie en kunstmatige intelligentie (AI).

Artificial Intelligence29.10.2024

De toekomst van leren: KLM en de impact van AI
Crikorama verkozen tot winnaar James Dyson Award 2024

Crikorama is een compact thuissysteem om zelf krekels te kweken. De levenscyclus van krekels kan volledig worden beheerd door het systeem waardoor het een duurzaam en milieuvriendelijk alternatief biedt voor vlees. De uitvinder van het systeem wint hiermee de James Dyson Award 2024 in Nederland.

Technology11.09.2024

Crikorama verkozen tot winnaar James Dyson Award 2024

zelf krekels kweken!
Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst

In de kassen van Wageningen University & Research in Bleiswijk zijn vijf teams van over de hele wereld begonnen aan de volgende fase van de Autonomous Greenhouse Challenge. De opdracht? Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst.

Technology04.09.2024

Challenge: Volledig autonoom dwergtomaten telen zonder menselijke tussenkomst
Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee
In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen
Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis
De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go