Deze nieuwe AI-tool is te gevaarlijk om uit te brengen

Anthropic is een bekend AI-bedrijf, maar het maakt niet alleen goede AI-tools zoals Claude. Het heeft nu kunstmatige intelligentie ontwikkeld die niet uitgebracht kan worden, omdat het te gevaarlijk is. Mythos heeft betere hackskills dan ongeveer alle hackers en dat kan grote gevolgen hebben voor bijvoorbeeld oorlogsvoering.

De tool heet dus Mythos en heeft in principe goede bedoelingen. Het idee is dat het kan worden ingezet tegen hackers, omdat het snel ziet wat er fout is in bepaalde software. Het zou al vele zwaktes hebben gevonden in grote browsers en besturingssystemen. Zwaktes waar hackers normaal misbruik van maken. En dat kan positieve gevolgen hebben: in 2024 was er in Londen nog een grote cyberaanval waardoor er iemand overleed, omdat er onvoldoende bloed in ziekenhuizen was en bloedtests vertraging opliepen. Zoiets had voorkomen kunnen worden met AI als Mythos.

So far so good, zou je zeggen, maar in de verkeerde handen kan Mythos ook worden ingezet om de hele boel juist volledig plat te hacken. We weten nog wel van dat systeem dat plat lag vorig jaar toen er geen vluchten konden vertrekken, dat alles wat we doen in het leven bijna wel met software te maken heeft. Het is dus de grote vraag wat Anthropic ermee gaat doen. Cybersecurity-experts zit het in ieder geval totaal niet lekker: er is ook geen weg meer terug. Is dit dan die gevaarlijke afslag waarvan iedereen al jaren bang is? Misschien wel. AI kan misschien niet met alle games van mensen winnen, maar hierin is het de mens duidelijk wel een stapje voor en dat is toch aanzienlijk belangrijker dan een gemiddeld potje Donkey Kong.

Mythos, of AI die op Mythos lijkt, kan zorgen dat er meer aanvallen komen, snellere aanvallen komen en vooral: meer succesvolle aanvallen komen. Op dit moment wordt Mythos alleen gebruikt binnen grote bedrijven die veelbetekenend zijn voor de wereld, zoals Apple, Google en Microsoft, om zo fouten in de beveiliging te vinden en de IT-infrastructuur juist sterker te maken tegen kwaadwillenden. Maar ja, als de ‘goeien’ dit kunnen maken, dan is het een kwestie van tijd voor kwaadwillenden ook zo ver zijn. De enige hoop is nog dat Anthropic misschien wat hoog van de toren heeft geblazen: misschien doet het zich vooral heel goed en interessant voor om hype te creëren rondom hun product.

Maar ja, iedereen die AI al een tijdje volgt weet dat dit tijdperk van ‘te’ sterke AI en AI in de verkeerde handen er ook echt aan gaat komen. Dit gaat veel verder dan een phishingmail typen zonder taalfouten. Het wordt AI die hackt, en die bovendien beter is dan de mens in het uitwissen van zijn sporen. Hopelijk wordt Mythos dan ook vooral ingezet om van te leren en te zorgen dat we dat nare AI-tijdperk voor kunnen blijven, maar daar zijn mensen (en overheden) voor nodig die slimme besluiten nemen. En dat is nu precies iets dat nog wel eens op losse schroeven staat.