Anthropic mag dit AI-model niet buiten Amerika beschikbaar maken

Anthropic heeft deze week zijn Fable 5-AI en Mythos 5-AI openbaar gemaakt. Het wilde Mythos, de AI die vaak als gevaarlijk wordt bestempeld wanneer hij in de verkeerde handen komt, aan het grote publiek gunnen, maar dan wel in een variant waarbij je geen vragen beantwoord krijgt over bepaalde onderwerpen. Toch kun je Mythos en Fable al niet meer benaderen: de overheid in Amerika steekt er een stokje voor. Dat wil het alleen maar voor burgers van de Verenigde Staten houden.

Fable 5 is de variant van Mythos die ‘voor iedereen’ bedoeld is, maar je kon hem niets vragen over cybersecurity, informatie mijnen, scheikunde en biologie. Dat zijn zaken waarover deze AI eigenlijk zoveel weet, dat het gevaarlijk is. Althans, je kunt er wel naar vragen, maar je wordt dan op het Claude Opus 4.8-systeem teruggezet en dat heeft weinig met extra inzichten op dat gebied te maken. Anthropic wil dat mensen Fable 5 juist gebruiken voor lange, complexe opdrachten.

Dat zal helaas niet gaan, want het heeft het nu moeten afsluiten voor een groot deel van de mensen. De Verenigde Staten maakt zich teveel zorgen over de nationale veiligheid. Zelfs mensen van Anthropic mogen het niet gebruiken, als zij niet de Amerikaanse nationaliteit hebben. Anthropic houdt zich aan wat de Amerikaanse overheid vraagt, al geeft het aan dat de overheid niet heeft laten weten wat de veilligheidszorgen precies inhielden. Er is alleen mondeling iets aangegeven over een mogelijke jailbreak van het systeem, waardoor mensen toch met de ‘gevaarlijke’ Mythos in contact zouden kunnen komen, maar details blijven vaag.

Anthropic zegt dat het al veel beschermingssystemen in Fable en Mythos heeft ingebouwd, en dat het juist met de overheden van de Verenigde Staten en bijvoorbeeld het Verenigd Koninkrijk samenwerkt om om te zorgen dat er wordt bijgehouden wanneer er mogelijk kwaadwillenden met de software aan de slag gaan. “We hebben niet eens een melding ontvangen van een zorgwekkende, niet-universele potentiële jailbreak die tot een schadelijk resultaat heeft geleid. De potentiële jailbreaks die aan ons zijn gemeld, zijn ofwel volledig onschadelijke reacties, ofwel marginale bevindingen die geen Mythos-specifieke meerwaarde opleveren."

De echte Mythos is de AI die onder andere bij Google, Apple en Microsoft ligt en daar gebruikt wordt om cybersecurity te regelen. Komt dit in de handen van mensen die minder rooskleurige plannen hebben, dan zou het juist voor gigantische hacks kunnen zorgen. Fable 5 is dus een soort mini-Mtyhos, terwijl Mythos 5 alleen beschikbaar is voor een heel kleine groep. Een groep die nu waarschijnlijk nog kleiner is geworden. Mythos 5 is er voor cybersecuritymensen en werkt als Fable 5, maar dan met soepelere veiligheidsmaatregelen.