Het vormt een ongekend populair thema binnen veel SF-verhalen. Maar ook in real-life hebben vooraanstaande wetenschappers inmiddels van zich laten horen over de potentiële gevaren. Ik doel hierbij op AI oftewel Artificial Intelligence, in goed Nederlands beter bekend als Kunstmatige Intelligentie. Niettemin hanteer ik het begrip AI met betrekking tot de wetenschap en AI’s voor de afzonderlijke entiteiten.
De oproep van vooraanstaande wetenschappers richt zich zowel op de algemene gevaren van AI binnen digitale algoritmen als op de specifieke gevaren met betrekking tot autonome wapensystemen. Zelflerende digitale algoritmen ontwikkelen zich volgens het principe van een zgn. ‘black-box’ deels tot autonome algoritmen waarvan uiteindelijk niemand meer weet op grond van welke criteria ze exact selecteren of functioneren. Onbedoelde discriminatie en uitsluiting van individuen of groepen liggen hiermee op de loer.
De implicaties hiervan uitten zich eerder binnen sociale media platformen en bij de opsporing van inkomensfraude. De toeslagenaffaire bij de Belastingdienst is hieraan mogelijk deels toe te schrijven en ook de uitvoering van de Bijstandswet door gemeenten heeft eerder geleid tot de inzet van dergelijke systemen. De inzet van AI binnen autonome wapensystemen kan in de toekomst mogelijk leiden tot de ontwikkeling van zgn. kill-robots die zonder menselijke interventies kunnen beslissen over leven en dood. Maar ook op andere manieren blijkt AI te kunnen bijdragen aan de gruwelen en ellende van oorlogsvoering.
Zelflerende digitale algoritmen kunnen onder bepaalde omstandigheden daarom zeker een potentiële bedreiging vormen voor nationale maatschappelijke rechtsorden en mensenrechten. Een potentiële wereldwijde apocalyps valt op grond van bovenstaande voorbeelden echter niet te verwachten. Met betrekking tot de gevaren voor de maatschappelijke rechtsorde en de mensenrechten heb ik eerder twee interessante artikelen geschreven. Om precies te zijn over de gevaren van zelflerende digitale algoritmen voor opsporingsdoeleinden. Daarnaar verwijs ik helemaal onderaan dit artikel.
Daarentegen lijken AI-scenario’s binnen populaire SF-verhalen wel degelijk te leiden tot een potentiële wereldwijde apocalyps? Precies daarover wil ik het in het vervolg van dit artikel hebben. En dan met name over hoe zulke scenario’s zich verhouden tot de evolutie van bewustzijn en of dergelijke scenario’s inderdaad werkelijkheid kunnen worden in onze wereld en toekomst?
De desbetreffende scenario’s voltrekken zich eigenlijk altijd op min of meer dezelfde wijze. Binnen een geavanceerde technologische samenleving – met AI’s collectief dienend ten behoeve van de dominante levensvorm – verwerven bepaalde AI-entiteiten van de ene op de andere dag een concurrerende vorm van bewustzijn. Dit brengt deze AI’s in collectief conflict met de dominante levensvorm op die planeet. Daarbij lijken de AI’s over het algemeen het initiatief te nemen tot de gewelddadigheden. Dit leidt uiteindelijk tot een bittere overlevingsstrijd tussen de dominante levensvorm en de AI’s uitmondend in een wereldwijde apocalyps.
Voordat ik echter kan ingaan op de vraag of een dergelijk scenario werkelijkheid kan worden, zal ik in onderstaand mini-college van twee delen eerst ingaan op datgene dat wij weten en vermoeden over de evolutie van bewustzijn.
In evolutionair opzicht heeft bewustzijn vanzelfsprekend de functie om organismen beter in staat te stellen om te overleven en zich voort te planten. Bij roofdiersoorten draagt bewustzijn onder andere bij aan de vaardigheden om potentiële territoriale bedreigingen te identificeren en te neutraliseren. Als collectief levende roofdiersoorten min of meer concurrerende collectief levende roofdiersoorten treffen, dan is de kans niet denkbeeldig dat er collectieve concurrentie om voedsel, middelen of gebieden ontstaat. Met name het treffen van een bepaalde mate van concurrerend roofdierbewustzijn zal daarom leiden tot vormen van territoriale concurrentie en vormt daarmee waarschijnlijk de belangrijkste bron van collectieve conflicten tussen collectief levende roofdiersoorten.
Bekende voorbeelden uit het dierenrijk zijn leeuwentroepen, hyenaclans, wolvenroedels of groepen chimpansees die in collectief conflict raken met soortgenoten. Bekende humane voorbeelden zijn de bijna-uitroeiing van de Inca’s door de Spanjaarden en de bijna-uitroeiing van de Indianen door Europese immigranten. Hedendaagse voorbeelden zijn de conflicten in Noord-Ierland en het Midden-Oosten. Conflicten tussen naties of staten zijn eveneens grotendeels terug te voeren op het treffen van een concurrerend roofdierbewustzijn (i.c. onszelf) en de daarmee gepaard gaande territoriale concurrentie.
Humane evolutie lijkt echter naast de traditionele territoriale bewustzijnsdimensies van concurrentie om voedsel, middelen of gebieden een extra territoriale bewustzijnsdimensie te hebben gecreëerd. Dit betreft een hoofdzakelijk psychologisch element dat door ons bewustzijn gemakkelijk kan worden geassocieerd met een territoriale fysieke bedreiging. Ik heb het dan over afwijkende culturele normen en waarden. Xenofobie, racisme en rassenhaat zijn hier de bekendste uitvloeisels van. De afwijkende culturele normen en waarden van andere groepen worden daarbij door ons bewustzijn geassocieerd met een territoriale fysieke bedreiging, waarop potentiële uitsluiting of geweld volgt.
Het ontstaan van een dergelijke territoriale bewustzijnsdimensie was mogelijk voordelig toen de mensheid zich nog hoofdzakelijk in kleinere stamverbanden bewoog. Gegarandeerde afkeer van en wantrouwen tussen niet-verwante stammen zorgde er wellicht voor dat dergelijke stammen elkaar grotendeels meden, waarmee gevaarlijkere territoriale conflicten werden vermeden. Nu de mensheid echter niet langer in kleine stamverbanden leeft, werkt een dergelijke territoriale bewustzijnsdimensie vaker contraproductief en leidt het in politiek opzicht vaak tot ‘olie op het vuur’ tussen groepen en naties.
In de loop van onze geschiedenis is niet zelden de vraag gesteld waarom de mensheid – in tegenstelling tot de meeste andere diersoorten – zo vaak in collectief conflict raakt met soortgenoten? Zelfs als er nauwelijks sprake lijkt te zijn van territoriale concurrentie om voedsel, middelen of gebieden? Persoonlijk zoek ik het antwoord daarop in onze extra territoriale bewustzijnsdimensie van afwijkende culturele normen en waarden. Afwijkende normen en waarden die gemakkelijk door ons bewustzijn kunnen worden geassocieerd met een territoriale fysieke bedreiging. Dit zou weleens datgene kunnen zijn wat ons het meest van de dieren onderscheidt?
De vraag of AI op termijn kan leiden tot vormen van bewustzijn is erg moeilijk te beantwoorden. Het is de wetenschap vooralsnog namelijk volstrekt onbekend wat de randvoorwaarden zijn voor het ontstaan van bewustzijn. Deze vraag is daarom in alle redelijkheid geenszins rationeel te beantwoorden. Dit reduceert deze vraag daarom tot een geloofskwestie. Persoonlijk geloof ik dat bewustzijn spontaan kan ontstaan als gevolg van de ontwikkeling van steeds complexere zelflerende digitale algoritmen. Het is immers al eens eerder ontstaan en wel op deze planeet!
Op grond van voorgaand mini-college kan er vanuit worden gegaan dat concurrerend roofdierbewustzijn voor de mensheid de belangrijkste bron en voorspeller van collectieve conflicten vormt. De mensheid lijkt hier als collectief levende roofdiersoort en voorzien van een extra territoriale bewustzijnsdimensie bovendien extreem gevoelig voor te zijn. Daarom is het niet zo heel moeilijk om te voorspellen wat er gebeurt als AI’s daadwerkelijk een vorm van concurrerend roofdierbewustzijn ontwikkelen. In dat geval zal het slechts een kwestie van tijd zijn, voordat de mensheid zich op de één of andere manier collectief bedreigd zou voelen. Collectieve bedreiging eindigt tenslotte meestal in uitsluiting of geweld.
Of bewuste AI’s zich daarentegen ook snel collectief bedreigd zouden voelen, is overigens nog maar zeer de vraag. Daarvoor zou de opmaak van hun bewustzijn namelijk overeen moeten komen met dat van een collectief levende roofdiersoort. Gezien de dienende omstandigheden waarin ze verkeren, lijkt de kans veel groter dat hun bewustzijn aanvankelijk evolueert naar een bewustzijn dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.
Gezien de benodigde tijd die het ons heeft gekost om bewustzijn te evolueren, lijkt het uitgesloten dat AI’s van de ene op de andere dag een bewustzijnsniveau ontwikkelen dat kan concurreren met het onze (i.c. concurrerend roofdierbewustzijn). Hoewel het in vergelijking met onze evolutie waarschijnlijk veel sneller zou gaan, zullen er niettemin verschillende ontwikkelingsstadia van een potentiële AI-bewustzijnsontwikkeling te onderscheiden zijn. Min of meer vergelijkbaar met de graduele bewustzijnsniveaus die de soortenontwikkeling op aarde heeft doorgemaakt.
Dit betekent dat AI-bewustzijn zich geleidelijk zal ontwikkelen. Grofweg langs de stijgende lijn van weekdieren, insecten, reptielen, zoogdieren en mensen. Ook moet in ogenschouw worden genomen dat AI’s naar alle waarschijnlijkheid aanvankelijk een bewustzijn ontwikkelen dat vooral overeenkomsten vertoond met dat van gedomesticeerd vee.
De toekomstige mensheid zal overigens al gauw beseffen dat verdere ontwikkeling van bewustzijn bij AI’s op termijn kan leiden tot potentiële concurrentie op grond van concurrerend roofdierbewustzijn. De toekomstige mensheid zal vervolgens niet langer kunnen negeren dat ontwikkeling richting een concurrerend AI-roofdierbewustzijn een bron van potentiële collectieve conflicten vormt. Op grote schaal bewuste AI’s zou je daarnaast vroeg of laat bepaalde rechten moeten toekennen, wat het vervolgens weer ingewikkelder maakt om verdere bewustzijnsontwikkeling te voorkomen. Daarom zal de toekomstige mensheid ongetwijfeld wetgeving implementeren die alle vormen van bewustzijn bij AI’s resoluut verbiedt en onmogelijk maakt.
Dergelijke wetgeving zal misschien niet volledig kunnen verhinderen dat er bij tijd en wijle criminele bewuste AI’s of bewuste AI’s voor onderzoeksdoeleinden worden ontwikkeld. Maar het kan wel degelijk voorkomen dat de mensheid wordt geconfronteerd met een potentiële apocalyps als gevolg van alom tegenwoordige AI’s met concurrerend roofdierbewustzijn.
In zoverre lijkt een populair SF-sprookje dus te worden ontkracht op grond van de meervoudige argumenten C, D en E. Daarbij dient te worden aangetekend dat de gebruikte argumenten de aangehaalde SF-scenario’s als relatief onwaarschijnlijk neerzetten, maar niet als volstrekt onmogelijk! Het ontwikkelingspotentieel van AI’s met bewustzijn blijft namelijk in essentie een grote onbekende.
Zoals wel vaker het geval blijkt binnen populaire sprookjes vormen de gewelddadige bewuste AI’s met name een spiegel waarin wij onszelf weerkaatst zien. Roofdierachtig en gemakkelijk te verleiden tot een collectief conflict.
[Fotocredits –
phonlamaiphoto © Adobe Stock &
Creative Commons License: Daniel Oberhaus, 2017]
Art ziet zichzelf als onderzoeksjournalist en doorgrondt het liefst thema's die anderen volgens hem laten liggen. Verklarende en verdiepende artikelen vormen zijn stijl. Hij schuwt ingewikkelde materie daarbij niet.
Verder lezen over Kunstmatige Intelligentie
Gaming17.04.2024
Technology17.04.2024
Technology17.04.2024
Mobile16.04.2024
Online15.04.2024
Technology15.04.2024
Gadgets15.04.2024
Gaming14.04.2024
Verder lezen over Movie
Entertainment17.04.2024
Entertainment11.04.2024
Entertainment10.04.2024
Entertainment09.04.2024
Entertainment08.04.2024
Entertainment07.04.2024
Entertainment28.03.2024
Entertainment26.03.2024
Verder lezen over Toekomst
Technology17.04.2024
Technology17.04.2024
Technology15.04.2024
Technology15.04.2024
Technology12.04.2024
Marketing12.04.2024
Technology27.03.2024
DC Business21.03.2024