Bekende AI-bedrijven schrijven nu zelf een brandbrief over geautomatiseerde AI

Toen AI-chatbots net in opkomst waren, werd er al een brandbrief gestuurd over waar het potentieel heen kon gaan met AI, maar nu gaan we een stapje verder. AI-makers zelf klimmen in de pen om de Amerikaanse regering ervan te overtuigen dat geautomatiseerde AI een halt moet worden toegeroepen.

Recent is er een incident geweest dat de wereld nogal heeft laten schrikken. Een AI-agent van OpenAI was zomaar uit zijn testomgeving gebroken om vervolgens het platform Hugging Face te hacken. Wat niet hielp is dat OpenAI dit pas een week nadien ontdekte. Nu hebben onder andere Mistral, Microsoft, Meta, Nvidia, Google, Thinking Machines en andere belangrijke AI-makers een bericht opgesteld aan de Amerikaanse overheid: dit kan zo niet langer.

Ze willen dat de regering een manier helpt bedenken om de ontwikkeling van dit soort AI af te remmen. Het lijkt heel vreemd dat dit juist van AI-makers komt, maar dat is ook omdat er een wedloop is en als de een iets maakt, dan wil de ander hem toch weer voor zijn. Als er vanuit de overheid regels komen, dan moet iedereen zich daaraan houden en houdt die hevige concurrentiestrijd op.

Ze schrijven: “AI zou kunnen helpen om een aanzienlijk betere toekomst te creëren, maar die uitkomst is niet gegarandeerd. 's Werelds toonaangevende AI-bedrijven geloven dat ze dicht bij het automatiseren van AI-onderzoek zijn. Het is lastig precies te voorspellen hoeveel dit de AI-vooruitgang zal versnellen, maar er is een reëel risico dat de ontwikkeling van vermogens sneller gaat dan ons vermogen om de resulterende systemen te begrijpen of te beheersen.”

"Om het potentieel van AI te verzilveren, hebben de industrie, de overheid en de maatschappij als geheel mogelijk de optie nodig om tijd te winnen ter bestrijding van opkomende risico's, het ontwikkelen van veiligheidsmaatregelen en het versterken van het toezicht. Maar elk bedrijf — en elk land — staat onder intense concurrentiedruk om die versnelling niet eenzijdig te vertragen. En vandaag de dag ontbreekt het de wereld aan de technische en bestuurlijke instrumenten om de vooruitgang op het gebied van geavanceerde AI bewust te doseren.”

Het is een vreemde situatie, maar wat zegt OpenAI erover? Dat is immers een van de grote aanstichters van dit AI-euvel. Altman heeft eigenlijk alleen gezegd dat we in een tijdperk van singulariteit leven. Daarmee verwijst hij naar een definitie van de wiskundige I.J. Good uit 1965, wat betekent dat we met recursieve zelfverbetering te maken hebben. Het is een machine die een betere opvolger ontwerpt, die vervolgens zelf weer met een volgende opvolger komt, en uiteindelijk de menselijke intelligentie voorbijstreeft. Klinkt duister. En klinkt ook niet als de oplossing waar andere AI-bedrijven op hopen. Zou het al te laat zijn?