Technology03.10.2018

​Oordelen over vooroordelen in AI


Ik had van het weekend voor het eerst de openhaard weer aan. Knetterend haardvuur vermengde zich met de geur van rode wijn. Op de achtergrond hoorde ik de muziek van George Michael “Listen without Prejudice!” Typisch iets menselijks om bevooroordeeld ergens mee bezig te zijn dacht ik nog en mijn gedachten dwaalden gelijk af naar de uitdaging waar wij mensen voor staan; Hoe zorgen wij ervoor dat er betrouwbare AI systemen kunnen worden ontwikkelt en kunnen verklaren hoe AI-systemen tot bepaalde keuzes zijn gekomen? Op welke wijze maken wij de keuzes transparant en kunnen we de resultaten vertrouwen en onderbouwen?

Blackbox

Veel mensen ervaren AI als een blackbox. Voor de meeste mensen is het onduidelijk wat er gebeurd binnen een AI-systeem. Normaliter zou een Data Scientist een eind komen maar helaas hebben wij als gewone stervelingen niet allemaal deze kennis voorhanden. Hoe komt een zelflerend systeem aan zijn resultaten, op basis van welke databronnen, modellen, criteria en algoritmen. Kunnen de resultaten zonder tussenkomst van mensen worden gebruikt voor wettelijke compliance (GDPR) of andere beslissingen in een goedkeuring proces? Hoe betrouwbaar, volledig en accuraat is het AI-systeem. Zijn de systemen zonder vooroordelen getraind gebruikmakend van verschillende machine-learning technieken zoals Supervised, Un-Supervised en/of Deep-Learning technologie.

Vooroordelen

Maar waar komen deze vooroordelen vandaan? Er zijn ongeveer 180 verschillende menselijke vooroordelen geïdentificeerd. De brongegevens waarvan AI-algoritmen afhankelijk zijn, zijn vaak de oorzaak van het probleem. Met behulp van algoritmen voor het leren van machines zijn ze opgeleid met behulp van historische gegevens en doorgaans zijn gegevens gemaakt van historische menselijke beslissingen die op dezelfde manier tot stand zijn gekomen. Het kan ook ontstaan doordat de enorme hoeveelheden data-algoritmen die worden opgeleid, niet altijd voldoende divers zijn.

Soms hebben de menselijke beslissingen sporen van een vooroordeel of dat impliciet of expliciet is om verschillende redenen. Dus als het machine-learning model is getraind op basis van deze bevooroordeelde getrainde datasets, zal het die vooroordelen erven en repliceren. Met alle gevolgen van dien.

Detecteren en verhelpen

We zijn gelukkig nu in staat om vooroordelen te detecteren in Runtime. We noemen dit “Trust and Transparency” services, zie: Trust and Transparency for AI on the Cloud.

Het verklaard hoe het AI systeem tot bepaalde resultaten gekomen is ook op basis van welke factoren. Het detecteert vooroordelen in de datamodellen wanneer beslissingen worden genomen en detecteert oneerlijke uitkomsten. Daarnaast geeft het ook aan welke databronnen additioneel gebruikt moet worden om het trainingsmodel opnieuw te trainen om de vooroordelen eruit te krijgen.

Het kan gebruikt worden voor verschillende Machine Learning Frameworks zoals: Tensorflow, SparkML, AWS Sagemaker, AzureML en IBM Watson. Een goede stap naar betrouwbare AI systemen die gebruikt kunnen worden om ons mensen te ondersteunen bij het nemen van complexe beslissingen. Hierdoor ben je dus in staat om Ethische principes te vertalen naar praktische oplossingen.

Nationale AI-agenda

Bovenstaande zou een zeer belangrijk onderdeel moeten worden in de nog op te zetten Nationale AI agenda. In deze agenda moeten alle aspecten rondom kunstmatige intelligentie aan de orde komen, zoals onderzoek, onderwijs, publiek-private samenwerking, nationale educatie, regelgeving en ethiek. We moeten zorgen dat we als B.V. Nederland aan de top mee kunnen blijven draaien op zowel Europees als Wereldwijd niveau. De eerste stappen worden hierin gezet.

[Afbeelding © Sikov – Adobe Stock]

Gerard Smit

Gerard Smit is Chief Technology Officer van IBM Benelux onderdeel van de Europese CTO Office, IBM Distinguished Engineer en lid van de IBM Academy of Technology. Gerard is nieuwgierig naar nieuwe technologische ontwikkelingen en houdt ervan om creatief en buiten de kaders naar oplossingen te zoeken. Hij is sterk verbonden met onderzoeksinstellingen, trendwatchers, analisten en andere externe innovatie instellingen.

Verder lezen over IBM

Wat is een quantumcomputer en waarom is het interessant?

Er is een grote doorbraak geweest in de wereld van kwantumcomputers, maar de kans is groot dat je daar niets over hebt gehoord. Het is namelijk niet echt een wereld waarvan grote aantallen mensen op de hoogte zijn. Wat e...

Technology10.02.2023

Wat is een quantumcomputer en waarom is het interessant?

​De toekomst van computers?

Zou het mogelijk zijn als we de intelligentie van Einstein, de context van Gandhi en het geheugen van de gehele mensheid geconsolideerd kunnen aanbieden op een hybride computerplatform? Zijn we in staat, in de nabije toe...

Technology04.05.2020

​De toekomst van computers?

Google bevestigt doorbraak in kwantumcomputerkracht

Google heeft laten weten dat het bedrijf een nieuwe doorbraak in kwantumkracht heeft bereikt in een artikel dat is gepubliceerd in het wetenschappelijke tijdschrift: Nature. De aankondiging komt precies een maand nadat...

Technology25.10.2019

Google bevestigt doorbraak in kwantumcomputerkracht

​Zijn wij drenkelingen op een houten vlot?

De technologische ontwikkelingen in onze maatschappij volgen zich in quantum snelheid op. We krijgen dagelijks zoveel informatie op ons af waardoor we steeds meer ondersteuning nodig hebben van intelligente systemen die...

Technology23.09.2019

​Zijn wij drenkelingen op een houten vlot?

IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Microsoft heeft veel voor LinkedIn betaald toen ze die in 2016 kochten voor meer dan 26 miljard dollar, maar dat kan niet op tegen de 34 miljard dollar (in cash!) die IBM heeft gespendeerd aan het kopen van Red Hat. Dit...

Technology29.10.2018

IBM koopt Red Hat voor 34 miljard dollar – maar wat is Red Hat?

Techreus koopt ander model voor de toekomst
Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

IBM Research is in de geurtjes gegaan. Ze zijn namelijk gaan samenwerken met Symrise, een van de grootste bedenkers van smaken en geuren. Daar is een AI uitgekomen die Philyra heet, naar de Griekse godin van de geur. Die...

Technology25.10.2018

Deze AI zou wel eens je nieuwe favoriete parfum kunnen bedenken

'Eau d'intelligence artificielle'
Call for code: kan jouw code helpen bij natuur- en klimaatrampen?

We hebben het al eerder gehad over Call for Code, een competitie die ontwikkelaars uitdaagt om technische oplossingen te vinden die voor, tijdens of na klimaat- en natuurrampen kunnen helpen. Maar wat kun je bedenken dat...

Technology07.07.2018

Call for code: kan jouw code helpen bij natuur- en klimaatrampen?

Jouw code kan levens redden – en IBM wil je daarbij helpen

IBM heeft zich aangesloten bij de David Clark Cause om een nieuw project op te starten: het Call for Code Global Initiative'. Dat heeft zich tot taak gesteld om de wereld beter te wapenen tegen klimaat- en andere natuurr...

Online02.07.2018

Jouw code kan levens redden – en IBM wil je daarbij helpen

Verder lezen over Kunstmatige Intelligentie

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Van de 400 operaties die ze hebben verricht is er 98 procent volledig  goed gegaan. Leg je hart in robothanden.

Technology10.07.2024

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Dit is de nieuwe OPPO Reno12 Series

De langverwachte OPPO Reno12 Series is vanaf vandaag verkrijgbaar op de Nederlandse markt. Met de Reno12 en de Reno12 Pro introduceert OPPO twee gloednieuwe AI-telefoons met verschillende functies die de productiviteit en creativiteit verbeteren.

Mobile03.07.2024

Dit is de nieuwe OPPO Reno12 Series

Straks heb je elke dag een originele profielfoto op WhatsApp

Een Lensa-achtige functie komt nu van Meta zelf naar WhatsApp. Zo heb je elke dag een originele profielfoto, als je dat wil natuurlijk.

Social Media02.07.2024

Straks heb je elke dag een originele profielfoto op WhatsApp

Adform komt met op AI-gebaseerde contextual targeting

Adform kondigt een exclusieve samenwerking aan met Cognitiv, wereldwijd een van dé leveranciers van deep learning AI voor marketeers. Samen zullen zij Cognitivs GPT AI-gebaseerde contextuele targeting beschikbaar stellen in de belangrijkste Europese talen. Dankzij de samenwerking kunnen adverteerders in Europa nu voor het eerst gebruikmaken van GPT AI-gebaseerde contextual targeting.

Advertising02.07.2024

Adform komt met op AI-gebaseerde contextual targeting

Instagram noemt zijn AI-labels anders door boosheid gebruikers

Meta labelde allerlei posts die niet AI waren wel als kunstmatige intelligentie. Daar waren de daadwerkelijke fotografen niet over te spreken.

Social Media02.07.2024

Instagram noemt zijn AI-labels anders door boosheid gebruikers

Instagram introduceert influencer-chatbots met Nederlands grapje

Meta test op Instagram nu het maken van een AI-versie van influencers. Zo kun je DM’en met creators die je al jaren volgt.

Social Media28.06.2024

Instagram introduceert influencer-chatbots met Nederlands grapje

Veel zorginstellingen hebben last van DDoS-ransomware aanvallen

De behoefte aan gezondheidszorg neemt wereldwijd toe. Dit gaat gepaard met een groeiende behoefte aan moderne technologie ter ondersteuning van de patiëntenzorg. Uit nieuw onderzoek van SOTI blijkt dat 78% van Nederlandse zorgverleners vindt dat organisaties moeten investeren in nieuwe technologie.

Cybercrime27.06.2024

Veel zorginstellingen hebben last van DDoS-ransomware aanvallen

Verder lezen over Toekomst

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go

Terugleverkosten bij zonnepanelen: zo verminder je ze

De slimste manier om je terugleverkosten laag te houden, is door zoveel mogelijk van je eigen energie zelf te gebruiken. Wat je immers zelf gebruikt, hoef je niet terug te leveren. En kost je dus niets extra’s. Zo houd je grip op je energierekening.

Technology13.06.2024

Terugleverkosten bij zonnepanelen: zo verminder je ze

Houd je energierekening laag 
Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Industrie 5.0 staat voor schaalbaarheid met een doel: bedrijven groeien op een manier die zowel de samenleving als het milieu ten goede komt. Het introduceert systemen die menselijke creativiteit en machinale efficiëntie combineren om flexibele en veerkrachtige bedrijfsmodellen te ontwikkelen. 

Technology11.06.2024

Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers

Op 13 mei vond het Smart Health-webinar plaats, een hybride event georganiseerd door het Care Innovation Center West-Brabant en Slimmer Leven. De centrale vraag van deze bijeenkomst was hoe we AI kunnen ontwerpen zodat deze goed landt bij zowel zorgverleners als zorgvragers.

Events30.05.2024

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers