AI-modellen werken hard voor ons, maar hoe bewust is zo’n model eigenlijk? Kun je spreken over een bewustzijn van AI? In ieder geval denkt de man die bij Microsoft verantwoordelijk is voor AI dat het een gevaarlijke klus is om onderzoek te doen naar het bewustzijn van kunstmatige intelligentie.
Veel AI-bedrijven zijn met die vraag bezig: heeft AI een bewustzijn, of kan het dat nog krijgen? We schreven recent al over Anthropics Claude, de AI die een gesprek afkapt als het de verkeerde kant opgaat, omdat Anthropic niet precies weet wat er gebeurt als AI later toch een bewustzijn zou ontwikkelen. Het is een vraag die sommige mensen te laat vinden: AI is er nu, waarom beginnen we ons pas af te vragen? Tegelijkertijd zijn dit wel vragen die gesteld moeten worden, juist omdat het er nu al is.
Het welzijn van AI wordt steeds vaker ter discussie gesteld en dat is reden voor Mustafa Suleyman, die voor AI verantwoordelijk is bij Microsoft, om daar een blog over te plaatsen en zijn duit in het zakje te doen. “Mijn grootste zorg is dat veel mensen zo sterk gaan geloven in de illusie dat AI’s bewuste entiteiten zijn, dat ze al snel zullen pleiten voor AI-rechten, welzijn voor AI’s en zelfs AI-burgerschap. Deze ontwikkeling zal een gevaarlijke wending zijn in de vooruitgang van AI en verdient onze onmiddellijke aandacht. We moeten AI bouwen voor mensen, niet om een digitaal persoon te zijn.”
Hij roept op tot het instellen van vangrails om mensen te beschermen, omdat hij stelt dat het gevaarlijk is om te denken dat AI een bewustzijn heeft. “De komst van schijnbaar bewuste AI is onvermijdelijk en ongewenst. In plaats daarvan hebben we een visie nodig voor AI die zijn potentieel als behulpzame metgezel kan waarmaken zonder ten prooi te vallen aan zijn illusies.” Hij erkent dus ergens wel dat het een bewustzijn kan hebben, maar hij denkt ook dat het veel illusies met zich mee zal brengen.
Microsoft gebruikt AI vooral om werkenden productiever te maken, wat een heel andere inslag is dan dat het AI ziet als iets dat een soort ziel heeft of als goede vriend kan worden ingezet en vertrouwd. OpenAI-topman Sam Altman zegt zelf ook dat minder dan 1 procent van de ChatGPT-gebruikers mogelijk een ongezonde relatie heeft met het product. Dat kunnen honderdduizenden mensen zijn. Het is de vraag waarom Suleyman niet openstaat voor beide: je kunt je natuurlijk zorgen maken om meerdere facetten van AI.
Suleyman denkt dat AI geen bewustzijn zal creëren, tenzij een bedrijf dit bewust maakt en toevoegt. Iets waar veel bedrijven ook mee bezig zijn, om iets meer ‘ziel’ in de AI te stoppen. Character.ai bijvoorbeeld. Interessant om te zien dat Microsoft zo’n statement maakt over AI. Het heeft het in de geschiedenis vaker misgehad, vooral toen het ‘het internet’ onderschatte. Gaat het straks ook nat op dit onderwerp, of heeft deze topman wel een punt? We zijn benieuwd of die vraag beantwoord wordt door de mens, of straks toch door AI.
