Hoe belangrijk gaat ethiek in AI zijn voor de toekomst?

Marc Teerlink, Global Vice President bij SAP Leonardo is het type hyperactief genie. De AI-goeroe is een veelgevraagd spreker als het gaat om kunstmatige intelligentie (AI) en waarom ethiek hierbij zo belangrijk is. SAP is het eerste bedrijf in Europa dat maatregelen neemt op dat gebied, mede door zijn inspanning.

AI is de belangrijkste ontwikkeling van de afgelopen jaren, zo zegt hij. De impact gaat ook astronomisch zijn volgens Teerlink, want het heeft de potentie om twee derde van het mentaal afstompende werk dat nodig is om zaken te doen uit mensenhanden weg te nemen. Dat is precies het soort werk waar AI goed voor is, want niet alleen raakt het niet gedemotiveerd als het steeds dezelfde dingen moet doen, maar het is ook uniek in staat om de grote stroom data waar we als bedrijven mee te dealen hebben te overzien. Teerlink zegt dat er geen mens is die 10.000 datapunten per minuut kan overzien, maar voor een AI is dat een fluitje van een cent.

Daarbij is het wel belangrijk om kunstmatige intelligentie goed te implementeren. Teerlink zegt dat er vaak nog een onrealistische verwachting is dat een AI een heel proces kan overnemen, maar dat is nog te veel gevraagd. Zijn insteek is simpel: neem een proces, pak er een stukje uit dat je irriteert of voor vertraging zorgt en maak dat beter door een AI in te zetten.

Ontwrichting tegengaan

Nu dat de implementatie van AI steeds makkelijker gaat betekent het ook dat steeds meer banen een andere invulling vereisen of zelfs volledig overbodig gaan worden. Teerlink: “Er is een grote herstructurering gaande, want technologie gaat op dit moment sneller dan onze organisatie en skills zich kunnen aanpassen.” Hij windt er ook geen doekjes om als hij zegt dat dit voor sommige mensen heel lastig wordt. “Het verhaal is dat mensen door AI de vrijheid krijgen om creatiever te werken en problemen op te lossen, maar de realiteit is dat niet iedereen die capaciteit heeft.”

Wat doe je dan met je werknemers? Weg er mee? Nee, zegt Teerlink. Bedrijven die met AI aan de slag zijn gegaan hebben volgens hem het meeste succes gehad met het hertrainen van hun mensen die semi-overbodig zijn geworden. Maar dan wel écht trainen, dus geen webinar van 20 minuten. Als er een aspect van je business is waar je in wilt investeren, train je mensen daar dan voor, want zo blijven ze gemotiveerd.

Hoe pas je ethiek in AI eigenlijk toe?

Terwijl de mensen een andere invulling van hun werk krijgen zal AI een steeds grotere rol gaan spelen. Vanaf het moment dat AI ook belangrijke beslissingen gaat maken wordt het heel belangrijk dat we als bedrijf kunnen terugzien hoe die beslissing tot stand is gekomen. Teerlink haalt als voorbeeld ‘The Trolley Problem‘ aan bij zelfrijdende auto’s maar buiten dat extreme voorbeeld moet je ook oppassen. Transparantie is belangrijk: als een AI een beslissing maakt wil SAP in elk geval dat je altijd kunt terugzien hoe het tot die beslissing is gekomen.

Daar zitten een aantal specifieke vragen aan verbonden. Wie heeft de AI getraind? Welke data is daar voor gebruikt? Wat is er gedaan om vooringenomenheid (bias) te voorkomen? Het zijn allemaal vragen die gesteld moeten worden en bij SAP’s eigen Leonardo zijn die ook makkelijk terug te vinden. Als je dat kunt doen wordt het makkelijker om een AI-proces ook met succes te implementeren.

Hij noemt als voorbeeld een proces waarin de veiligheid van een bouwbedrijf werd verbeterd in drie stappen. Daarbij werd AI ingezet om via objectherkenning te kijken of iedereen zijn veiligheidsmateriaal zoals helmen gebruikte. Stap één is dan het inspecteren van de werknemers, stap twee is het integreren van die check in het proces zodat er ook iets gedaan kan worden met die data. Dan is stap drie dat je een zogenaamd compliance dashboard hebt, zodat je als bedrijf direct kunt zien of alle veiligheidsvoorschriften opgevolgd zijn en je als bedrijf en werknemers het minste risico loopt.

Andere uitdagingen

De toekomst van kunstmatige intelligentie ziet er goed uit, maar Teerlink merkt daarbij wel op dat Europa achter ligt. De investeringen in de technologie zijn door het investerings- en bedrijfsklimaat achtergebleven en daar gaan we op termijn last van hebben. Zeker in de ERP-context (toch belangrijk voor een partij als SAP) ga je dat over een paar jaar misschien als bedrijf wel voelen, terwijl juist die branche een grote uitdaging voor de kiezen krijgt: volgens Teerlink komt tegen 2020 zo’n 70 procent van alle enterprise-data vanuit externe en niet-transactionele bronnen.

Dan wordt het heel belangrijk om stevige policies te hebben voor al die data als die eenmaal intern bij je organisatie zit. Je moet rekening houden met privacy, natuurlijk, maar is er meer om over na te denken. Het is ook belangrijk om te zorgen dat je niet te veel data binnentrekt die je niet echt gebruikt maar waar je wel verantwoording voor moet afleggen én je systeem moet er klaar voor zijn om specifieke uitzonderingen te kunnen maken, bijvoorbeeld bij patiëntdata in de zorg. Er is dus nog veel werk te verzetten, maar Teerlink denkt wel dat de basis van de ethiek in AI een goede start heeft gekregen.

We zitten met zijn allen nog steeds in de beginfase van de ontwikkeling, en dit is hét moment om er mee bezig te zijn. SAP heeft daarom naast de ethische AI-richtlijnen ook en een extern AI-ethiekadviespanel opgericht, bestaande uit deskundigen uit de academische wereld, de politiek en het bedrijfsleven. Dit moet ervoor zorgen dat AI transparant, veilig en eerlijk blijft. Nu, en in de toekomst.

Meer weten over AI en andere opkomende technologieën zoals blockchain en machine learning? Volg het virtual event op 19 februari!