Technology12.04.2022

​Ontwikkelen AI’s in de toekomst mogelijk concurrerend bewustzijn?


Het vormt een ongekend populair thema binnen veel SF-verhalen. Maar ook in real-life hebben vooraanstaande wetenschappers inmiddels van zich laten horen over de potentiële gevaren. Ik doel hierbij op AI oftewel Artificial Intelligence, in goed Nederlands beter bekend als Kunstmatige Intelligentie. Niettemin hanteer ik het begrip AI met betrekking tot de wetenschap en AI’s voor de afzonderlijke entiteiten.

Vooraanstaande wetenschappers waarschuwen voor de gevaren van AI

De oproep van vooraanstaande wetenschappers richt zich zowel op de algemene gevaren van AI binnen digitale algoritmen als op de specifieke gevaren met betrekking tot autonome wapensystemen. Zelflerende digitale algoritmen ontwikkelen zich volgens het principe van een zgn. ‘black-box’ deels tot autonome algoritmen waarvan uiteindelijk niemand meer weet op grond van welke criteria ze exact selecteren of functioneren. Onbedoelde discriminatie en uitsluiting van individuen of groepen liggen hiermee op de loer.

De implicaties hiervan uitten zich eerder binnen sociale media platformen en bij de opsporing van inkomensfraude. De toeslagenaffaire bij de Belastingdienst is hieraan mogelijk deels toe te schrijven en ook de uitvoering van de Bijstandswet door gemeenten heeft eerder geleid tot de inzet van dergelijke systemen. De inzet van AI binnen autonome wapensystemen kan in de toekomst mogelijk leiden tot de ontwikkeling van zgn. kill-robots die zonder menselijke interventies kunnen beslissen over leven en dood. Maar ook op andere manieren blijkt AI te kunnen bijdragen aan de gruwelen en ellende van oorlogsvoering.

AI vormt een potentieel gevaar voor de maatschappelijke rechtsorde en de mensenrechten

Zelflerende digitale algoritmen kunnen onder bepaalde omstandigheden daarom zeker een potentiële bedreiging vormen voor nationale maatschappelijke rechtsorden en mensenrechten. Een potentiële wereldwijde apocalyps valt op grond van bovenstaande voorbeelden echter niet te verwachten. Met betrekking tot de gevaren voor de maatschappelijke rechtsorde en de mensenrechten heb ik eerder twee interessante artikelen geschreven. Om precies te zijn over de gevaren van zelflerende digitale algoritmen voor opsporingsdoeleinden. Daarnaar verwijs ik helemaal onderaan dit artikel.

De apocalyptische gevaren van AI zoals aangehaald binnen het SF-genre

Daarentegen lijken AI-scenario’s binnen populaire SF-verhalen wel degelijk te leiden tot een potentiële wereldwijde apocalyps? Precies daarover wil ik het in het vervolg van dit artikel hebben. En dan met name over hoe zulke scenario’s zich verhouden tot de evolutie van bewustzijn en of dergelijke scenario’s inderdaad werkelijkheid kunnen worden in onze wereld en toekomst?

De desbetreffende scenario’s voltrekken zich eigenlijk altijd op min of meer dezelfde wijze. Binnen een geavanceerde technologische samenleving – met AI’s collectief dienend ten behoeve van de dominante levensvorm – verwerven bepaalde AI-entiteiten van de ene op de andere dag een concurrerende vorm van bewustzijn. Dit brengt deze AI’s in collectief conflict met de dominante levensvorm op die planeet. Daarbij lijken de AI’s over het algemeen het initiatief te nemen tot de gewelddadigheden. Dit leidt uiteindelijk tot een bittere overlevingsstrijd tussen de dominante levensvorm en de AI’s uitmondend in een wereldwijde apocalyps.

Voordat ik echter kan ingaan op de vraag of een dergelijk scenario werkelijkheid kan worden, zal ik in onderstaand mini-college van twee delen eerst ingaan op datgene dat wij weten en vermoeden over de evolutie van bewustzijn.

(Mini-college deel I)

Concurrerend roofdierbewustzijn als belangrijkste bron van collectieve conflicten

In evolutionair opzicht heeft bewustzijn vanzelfsprekend de functie om organismen beter in staat te stellen om te overleven en zich voort te planten. Bij roofdiersoorten draagt bewustzijn onder andere bij aan de vaardigheden om potentiële territoriale bedreigingen te identificeren en te neutraliseren. Als collectief levende roofdiersoorten min of meer concurrerende collectief levende roofdiersoorten treffen, dan is de kans niet denkbeeldig dat er collectieve concurrentie om voedsel, middelen of gebieden ontstaat. Met name het treffen van een bepaalde mate van concurrerend roofdierbewustzijn zal daarom leiden tot vormen van territoriale concurrentie en vormt daarmee waarschijnlijk de belangrijkste bron van collectieve conflicten tussen collectief levende roofdiersoorten.

Bekende voorbeelden uit het dierenrijk zijn leeuwentroepen, hyenaclans, wolvenroedels of groepen chimpansees die in collectief conflict raken met soortgenoten. Bekende humane voorbeelden zijn de bijna-uitroeiing van de Inca’s door de Spanjaarden en de bijna-uitroeiing van de Indianen door Europese immigranten. Hedendaagse voorbeelden zijn de conflicten in Noord-Ierland en het Midden-Oosten. Conflicten tussen naties of staten zijn eveneens grotendeels terug te voeren op het treffen van een concurrerend roofdierbewustzijn (i.c. onszelf) en de daarmee gepaard gaande territoriale concurrentie.

(Mini-college deel II)

Het humane bewustzijn heeft een extra territoriale bewustzijnsdimensie gecreëerd

Humane evolutie lijkt echter naast de traditionele territoriale bewustzijnsdimensies van concurrentie om voedsel, middelen of gebieden een extra territoriale bewustzijnsdimensie te hebben gecreëerd. Dit betreft een hoofdzakelijk psychologisch element dat door ons bewustzijn gemakkelijk kan worden geassocieerd met een territoriale fysieke bedreiging. Ik heb het dan over afwijkende culturele normen en waarden. Xenofobie, racisme en rassenhaat zijn hier de bekendste uitvloeisels van. De afwijkende culturele normen en waarden van andere groepen worden daarbij door ons bewustzijn geassocieerd met een territoriale fysieke bedreiging, waarop potentiële uitsluiting of geweld volgt.

Het ontstaan van een dergelijke territoriale bewustzijnsdimensie was mogelijk voordelig toen de mensheid zich nog hoofdzakelijk in kleinere stamverbanden bewoog. Gegarandeerde afkeer van en wantrouwen tussen niet-verwante stammen zorgde er wellicht voor dat dergelijke stammen elkaar grotendeels meden, waarmee gevaarlijkere territoriale conflicten werden vermeden. Nu de mensheid echter niet langer in kleine stamverbanden leeft, werkt een dergelijke territoriale bewustzijnsdimensie vaker contraproductief en leidt het in politiek opzicht vaak tot ‘olie op het vuur’ tussen groepen en naties.

In de loop van onze geschiedenis is niet zelden de vraag gesteld waarom de mensheid – in tegenstelling tot de meeste andere diersoorten – zo vaak in collectief conflict raakt met soortgenoten? Zelfs als er nauwelijks sprake lijkt te zijn van territoriale concurrentie om voedsel, middelen of gebieden? Persoonlijk zoek ik het antwoord daarop in onze extra territoriale bewustzijnsdimensie van afwijkende culturele normen en waarden. Afwijkende normen en waarden die gemakkelijk door ons bewustzijn kunnen worden geassocieerd met een territoriale fysieke bedreiging. Dit zou weleens datgene kunnen zijn wat ons het meest van de dieren onderscheidt?

A) Kan AI op termijn überhaupt leiden tot het ontstaan van bewustzijn?

De vraag of AI op termijn kan leiden tot vormen van bewustzijn is erg moeilijk te beantwoorden. Het is de wetenschap vooralsnog namelijk volstrekt onbekend wat de randvoorwaarden zijn voor het ontstaan van bewustzijn. Deze vraag is daarom in alle redelijkheid geenszins rationeel te beantwoorden. Dit reduceert deze vraag daarom tot een geloofskwestie. Persoonlijk geloof ik dat bewustzijn spontaan kan ontstaan als gevolg van de ontwikkeling van steeds complexere zelflerende digitale algoritmen. Het is immers al eens eerder ontstaan en wel op deze planeet!

B) Bewuste AI’s kunnen leiden tot een collectief conflict met de mensheid

Op grond van voorgaand mini-college kan er vanuit worden gegaan dat concurrerend roofdierbewustzijn voor de mensheid de belangrijkste bron en voorspeller van collectieve conflicten vormt. De mensheid lijkt hier als collectief levende roofdiersoort en voorzien van een extra territoriale bewustzijnsdimensie bovendien extreem gevoelig voor te zijn. Daarom is het niet zo heel moeilijk om te voorspellen wat er gebeurt als AI’s daadwerkelijk een vorm van concurrerend roofdierbewustzijn ontwikkelen. In dat geval zal het slechts een kwestie van tijd zijn, voordat de mensheid zich op de één of andere manier collectief bedreigd zou voelen. Collectieve bedreiging eindigt tenslotte meestal in uitsluiting of geweld.

C) Bewuste AI’s zullen vooral overeenkomsten vertonen met gedomesticeerd vee

Of bewuste AI’s zich daarentegen ook snel collectief bedreigd zouden voelen, is overigens nog maar zeer de vraag. Daarvoor zou de opmaak van hun bewustzijn namelijk overeen moeten komen met dat van een collectief levende roofdiersoort. Gezien de dienende omstandigheden waarin ze verkeren, lijkt de kans veel groter dat hun bewustzijn aanvankelijk evolueert naar een bewustzijn dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

D) AI’s ontwikkelen niet van de een op de andere dag concurrerend roofdierbewustzijn

Gezien de benodigde tijd die het ons heeft gekost om bewustzijn te evolueren, lijkt het uitgesloten dat AI’s van de ene op de andere dag een bewustzijnsniveau ontwikkelen dat kan concurreren met het onze (i.c. concurrerend roofdierbewustzijn). Hoewel het in vergelijking met onze evolutie waarschijnlijk veel sneller zou gaan, zullen er niettemin verschillende ontwikkelingsstadia van een potentiële AI-bewustzijnsontwikkeling te onderscheiden zijn. Min of meer vergelijkbaar met de graduele bewustzijnsniveaus die de soortenontwikkeling op aarde heeft doorgemaakt.

Dit betekent dat AI-bewustzijn zich geleidelijk zal ontwikkelen. Grofweg langs de stijgende lijn van weekdieren, insecten, reptielen, zoogdieren en mensen. Ook moet in ogenschouw worden genomen dat AI’s naar alle waarschijnlijkheid aanvankelijk een bewustzijn ontwikkelen dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.

E) De toekomstige mensheid zal bewustzijn bij AI’s al snel volledig verbieden

De toekomstige mensheid zal overigens al gauw beseffen dat verdere ontwikkeling van bewustzijn bij AI’s op termijn kan leiden tot potentiële concurrentie op grond van concurrerend roofdierbewustzijn. De toekomstige mensheid zal vervolgens niet langer kunnen negeren dat ontwikkeling richting een concurrerend AI-roofdierbewustzijn een bron van potentiële collectieve conflicten vormt. Op grote schaal bewuste AI’s zou je daarnaast vroeg of laat bepaalde rechten moeten toekennen, wat het vervolgens weer ingewikkelder maakt om verdere bewustzijnsontwikkeling te voorkomen. Daarom zal de toekomstige mensheid ongetwijfeld wetgeving implementeren die alle vormen van bewustzijn bij AI’s resoluut verbiedt en onmogelijk maakt.

Dergelijke wetgeving zal misschien niet volledig kunnen verhinderen dat er bij tijd en wijle criminele bewuste AI’s of bewuste AI’s voor onderzoeksdoeleinden worden ontwikkeld. Maar het kan wel degelijk voorkomen dat de mensheid wordt geconfronteerd met een potentiële apocalyps als gevolg van alom tegenwoordige AI’s met concurrerend roofdierbewustzijn.

F) Een apocalyps als gevolg van bewuste AI’s lijkt te worden ontkracht

In zoverre lijkt een populair SF-sprookje dus te worden ontkracht op grond van de meervoudige argumenten C, D en E. Daarbij dient te worden aangetekend dat de gebruikte argumenten de aangehaalde SF-scenario’s als relatief onwaarschijnlijk neerzetten, maar niet als volstrekt onmogelijk! Het ontwikkelingspotentieel van AI’s met bewustzijn blijft namelijk in essentie een grote onbekende.

Zoals wel vaker het geval blijkt binnen populaire sprookjes vormen de gewelddadige bewuste AI’s met name een spiegel waarin wij onszelf weerkaatst zien. Roofdierachtig en gemakkelijk te verleiden tot een collectief conflict.

[Fotocredits –
phonlamaiphoto © Adobe Stock &
Creative Commons License: Daniel Oberhaus, 2017]

Art Huiskes
Art Huiskes

Art ziet zichzelf als onderzoeksjournalist en doorgrondt het liefst thema's die anderen volgens hem laten liggen. Verklarende en verdiepende artikelen vormen zijn stijl. Hij schuwt ingewikkelde materie daarbij niet.

Verder lezen over Kunstmatige Intelligentie

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Van de 400 operaties die ze hebben verricht is er 98 procent volledig  goed gegaan. Leg je hart in robothanden.

Technology10.07.2024

Robotchirurgen verrichten meer dan 400 succesvolle hartoperaties

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Dit is de nieuwe OPPO Reno12 Series

De langverwachte OPPO Reno12 Series is vanaf vandaag verkrijgbaar op de Nederlandse markt. Met de Reno12 en de Reno12 Pro introduceert OPPO twee gloednieuwe AI-telefoons met verschillende functies die de productiviteit en creativiteit verbeteren.

Mobile03.07.2024

Dit is de nieuwe OPPO Reno12 Series

Straks heb je elke dag een originele profielfoto op WhatsApp

Een Lensa-achtige functie komt nu van Meta zelf naar WhatsApp. Zo heb je elke dag een originele profielfoto, als je dat wil natuurlijk.

Social Media02.07.2024

Straks heb je elke dag een originele profielfoto op WhatsApp

Adform komt met op AI-gebaseerde contextual targeting

Adform kondigt een exclusieve samenwerking aan met Cognitiv, wereldwijd een van dé leveranciers van deep learning AI voor marketeers. Samen zullen zij Cognitivs GPT AI-gebaseerde contextuele targeting beschikbaar stellen in de belangrijkste Europese talen. Dankzij de samenwerking kunnen adverteerders in Europa nu voor het eerst gebruikmaken van GPT AI-gebaseerde contextual targeting.

Advertising02.07.2024

Adform komt met op AI-gebaseerde contextual targeting

Instagram noemt zijn AI-labels anders door boosheid gebruikers

Meta labelde allerlei posts die niet AI waren wel als kunstmatige intelligentie. Daar waren de daadwerkelijke fotografen niet over te spreken.

Social Media02.07.2024

Instagram noemt zijn AI-labels anders door boosheid gebruikers

Instagram introduceert influencer-chatbots met Nederlands grapje

Meta test op Instagram nu het maken van een AI-versie van influencers. Zo kun je DM’en met creators die je al jaren volgt.

Social Media28.06.2024

Instagram introduceert influencer-chatbots met Nederlands grapje

Veel zorginstellingen hebben last van DDoS-ransomware aanvallen

De behoefte aan gezondheidszorg neemt wereldwijd toe. Dit gaat gepaard met een groeiende behoefte aan moderne technologie ter ondersteuning van de patiëntenzorg. Uit nieuw onderzoek van SOTI blijkt dat 78% van Nederlandse zorgverleners vindt dat organisaties moeten investeren in nieuwe technologie.

Cybercrime27.06.2024

Veel zorginstellingen hebben last van DDoS-ransomware aanvallen

Verder lezen over Movie

Trailer Captain America: Brave New World bewijst wat jij op Valentijnsdag doet

Marvel komt volgend jaar met een gloednieuwe Captain America-film en daarin zien we Anthony Mackie wederom als de held met het grote ronde schild.

12.07.2024

Trailer Captain America: Brave New World bewijst wat jij op Valentijnsdag doet

Gladiator is na 24 jaar terug en het is geen remake

Gladiator is terug: dit jaar nog zien we het oude Rome terug. En vooral veel bloed.

Entertainment09.07.2024

Gladiator is na 24 jaar terug en het is geen remake

Paramount fuseert met Skydance à 8 miljard dollar

Een grote overname in de wereld van film: Paramount neemt Skydance over voor een bedrag van 8 miljard dollar.

Entertainment09.07.2024

Paramount fuseert met Skydance à 8 miljard dollar

Eerste trailer van Agatha All Along toont duistere kant van Marvel

We leerden Agatha Harkness kennen in het verrassende WandaVision en nu heeft ze haar eigen spin-off Agatha All Along, die binnenkort op Disney+ te zien is.

Entertainment09.07.2024

Eerste trailer van Agatha All Along toont duistere kant van Marvel

Eerste teaser voor Apple’s F1-film bevat glimp van Max Verstappen

Apple werkt met Brad Pitt al een hele tijd aan een film over de Formule 1. Geen Drive to Survive-praktijken, maar over het racen zelf: F1.

Automotive08.07.2024

Eerste teaser voor Apple’s F1-film bevat glimp van Max Verstappen

Nieuwe film Afraid doet je twee keer nadenken over een Ring-deurbel

De nieuwe Blumhouse-film doet aan Paranormal Activity denken door de smarthomeapparaten: Afraid gooit echter ook nog wat AI in de mix.

Entertainment05.07.2024

Nieuwe film Afraid doet je twee keer nadenken over een Ring-deurbel

Die iconische scène uit JAWS is nu een LEGO-set

LEGO komt met een nieuwe JAWS set, geïnspireerd op de iconische scène uit de film JAWS (1975). De set, ontworpen door LEGO fan Johnny Campbell via het LEGO Ideas platform, is een reconstructie van de beroemde filmscène en zal vanaf 3 augustus te koop zijn via de LEGO winkels en LEGO.com voor de adviesprijs van €149.99.

Gadgets04.07.2024

Die iconische scène uit JAWS is nu een LEGO-set

Prime Video deelt de officiële trailer van Jackpot!

JACKPOT! is een krankzinnige actie-komedie over een grote loterij met een twist: diegene die de loterijwinnaar weet te vermoorden, kan legaal aanspraak maken op de miljarden tellende jackpot. Regisseur Paul Feig (The Heat en Spy) brengt de getalenteerde comédienne Awkwafina en komedie acteur John Cena bij elkaar in een film vol actie. Jackpot! is vanaf 15 augustus exclusief te zien op Prime Video.

Coffee corner03.07.2024

Prime Video deelt de officiële trailer van Jackpot!

met Awkwafina en John Cena

Verder lezen over Toekomst

Dit was het VINT Symposium van 2024

Voor de 30e keer was er het VINT Symposium in het Spant! te Bussum. Dit jaar stond het thema 'Echt Slim' centraal, wat een interessant perspectief bood op de rol van intelligentie in technologie. Elk jaar biedt het symposium de kans om nieuwe technologische trends en inzichten te verkennen, en dit jaar was geen uitzondering.

Events04.07.2024

Dit was het VINT Symposium van 2024

met als thema 'Echt Slim'
Merganser: een Offshore Floating Solar platform in de Noordzee

Met steun van energieproducent RWE heeft het Nederlands-Noorse bedrijf SolarDuck haar Offshore Floating Photo-Voltaic (OFPV) platform geïnstalleerd - een op zee drijvend platform dat zonne-energie opwekt.

Nieuws04.07.2024

Merganser: een Offshore Floating Solar platform in de Noordzee

In Brabant is het aantal startups met 22 procent toegenomen

Het aantal Brabantse startups is sinds 2020 spectaculair gegroeid. Met 1462 startups heeft Brabant nu de op twee na grootste startup-populatie van alle Nederlandse provincies. Dit is een stijging van bijna 22 procent ten opzichte van 2020, toen er 1200 startups waren. Deze cijfers komen naar voren uit het vandaag gepubliceerde Birch-rapport, dat in opdracht van startuporganisatie Braventure is uitgevoerd.

Startups27.06.2024

In Brabant is het aantal startups met 22 procent toegenomen

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

Eerder deze maand organiseerde het Jeroen Bosch Ziekenhuis (JBZ) een symposium getiteld ‘Artificial Intelligence’. Dit evenement was speciaal bedoeld voor de medewerkers van het ziekenhuis om hen bewust te maken van de mogelijkheden van Artificial Intelligence (AI) en de impact ervan op hun dagelijkse werk en regionale samenwerking.

Artificial Intelligence26.06.2024

Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go

Terugleverkosten bij zonnepanelen: zo verminder je ze

De slimste manier om je terugleverkosten laag te houden, is door zoveel mogelijk van je eigen energie zelf te gebruiken. Wat je immers zelf gebruikt, hoef je niet terug te leveren. En kost je dus niets extra’s. Zo houd je grip op je energierekening.

Technology13.06.2024

Terugleverkosten bij zonnepanelen: zo verminder je ze

Houd je energierekening laag 
Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Industrie 5.0 staat voor schaalbaarheid met een doel: bedrijven groeien op een manier die zowel de samenleving als het milieu ten goede komt. Het introduceert systemen die menselijke creativiteit en machinale efficiëntie combineren om flexibele en veerkrachtige bedrijfsmodellen te ontwikkelen. 

Technology11.06.2024

Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers

Op 13 mei vond het Smart Health-webinar plaats, een hybride event georganiseerd door het Care Innovation Center West-Brabant en Slimmer Leven. De centrale vraag van deze bijeenkomst was hoe we AI kunnen ontwerpen zodat deze goed landt bij zowel zorgverleners als zorgvragers.

Events30.05.2024

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers