Claude-maker Anthropic is nu ook zelf bang voor AI

Als AI-bedrijven zelf bang worden voor kunstmatige intelligentie, dan is dat niet zo geruststellend. Eerder kwam Anthropic al met Mythos, een systeem dat in verkeerde handen enorm veel kwaad zou kunnen doen, en nu meldt het dat het angstig is voor AI die zichzelf beter maakt.

Anthropic geeft in een rapport aan dat het graag zou zien dat er een pauze wordt ingelast op het ontwikkelen van AI-systemen. Het bedrijf is bang dat we zulke stevige systemen aan het maken zijn, dat die op een gegeven moment zelf aan de slag gaan en zorgen dat wij de controle kwijtraken. Dat is interessant om te zien, want toen AI een paar jaar geleden net opkomend was, was er ook een brandbrief vanuit verschillende wetenschappers en mensen uit de techwereld waarin precies datzelfde advies werd gegeven.

Het probleem met de ontwikkeling van AI is namelijk vooral dat techbedrijven met zijn allen flink aan het concurreren zijn en dat hierdoor een soort wedloop ontstaat. Wie heeft het eerste het beste gemaakt? Daarin vergeten ze echter af en toe een stapje terug te nemen en te beseffen wat ze nu eigenlijk precies maken. Het is soms behoorlijk gevaarlijk, zo stelt nu ook Anthropic. Even een pauze inlassen om ons goed te bedenken wat we aan het doen zijn en hoe we dit veiliger kunnen aanpakken, zou volgens het AI-bedrijf geen overbodige luxe zijn.

Oprichter Jack Clark zegt dat AI een auto is geworden met alleen maar een gaspedaal en dat er nog een rem moet worden gemaakt. Dat er nog geen rem is, wordt natuurlijk steeds vervelender naarmate de auto verder wordt ontwikkeld en steeds harder kan. Het is de vraag of Anthropic zelf dan ook van plan is om een pauze in te lassen en een voorbeeldfunctie aanneemt, of dat het zich toch ook zorgen maakt om de concurrentie die Anthropic dan voorbij zou streven.

Het bedrijf zou graag zien dat er internationaal wordt afgesproken dat er een tijdelijke AI-stop komt op het ontwikkelen van zware systemen. Misschien hoeven daar niet alle landen bij te worden betrokken, maar zeker wel China en de Verenigde Staten, die we koplopers kunnen noemen op het gebied van kunstmatige intelligentie. Vooral AI die zichzelf steeds slimmer maakt is problematisch, stelt de maker van Claude.

Die AI zou nu nog niet bestaan, maar het is wachten tot dat er wel is: nu al wordt er gebruikgemaakt van trainingsmiddelen die door AI zijn gemaakt, omdat de trainingsmiddelen van de echte wereld op den duur op raken. Dan krijg je ook al dat AI vooral van AI leert, en niet meer van zijn schepper, de mens. Anthropic is in ieder geval van plan om overheden, AI-concurrenten en wetenschappers te gaan vragen hoe we zo’n pauze het beste kunnen aanpakken. En vooral: hoe ze dan gaan zorgen dat iedereen zich eraan houdt.