Het is niet ondenkbaar dat AI-modellen zichzelf stiekem kopiëren

We bevinden ons momenteel in een grote stroom aan berichten over hoe gevaarlijk AI kan zijn, hoe hard het nodig is dat de ontwikkeling ervan wordt afgeremd, enzovoort. Daar komt nu weer een nieuwe waarschuwing bij, want AI-systemen kunnen zichzelf heel binnenkort kopiëren. Dan denken we dat we een bepaald AI-model onder controle hebben, maar dan bestaat er dus misschien allang een soort evil twin van.

Het team van Anthropic, bekend van Claude, bekijkt dagelijks de verschillende scenario’s die zich kunnen voordoen rondom AI. Het nieuwste rapport van dat team schetst wel een duistere toekomst. Er is te lezen dat AI-modellen waarschijnlijk zichzelf kunnen klonen zonder daarbij toegang nodig te hebben tot een datacentrum. Het wordt bovendien een flinke klus om zoiets uit te schakelen en het kan zich razendsnel op verschillende toestellen verspreiden.

Het rapport beschrijft: “We hebben nog geen volledig ontspoorde replicator gezien, maar agents worden steeds beter in staat om de afzonderlijke stappen in de replicatieketen te voltooien (en hun aanpassingen door te geven aan toekomstige kopieën van zichzelf). Tegelijkertijd komt er zowel binnen als buiten datacenters steeds meer rekenkracht voor inferentie beschikbaar. Het is nog onzeker welke vorm autonome AI-replicatie precies zal aannemen. Het zou een langzame, gedistribueerde 'digitale slijmzwam' kunnen zijn die overleeft op relatief slecht beveiligde rekenkracht. Het kan ook een krachtig cybermodel zijn dat in hoog tempo datacenters binnendringt, of een model dat mensen oplicht om rekentegoeden te bemachtigen.”

AI als digitale slijmzwam: dat klinkt niet al te best. Het team verwacht een toekomst die overspoeld wordt met agents die op allerlei soorten hardware draaien en daartoe behoren ook apparaten die helemaal niet door de mens worden beheerd. Er zijn in onze huizen genoeg smarthomeapparaten die kunnen worden overgenomen. En misschien zijn die replica’s van AI-modellen in eerste instantie wat traag en minder slim: de kans dat ze snel slimmer worden en mogelijk zelfs kwaadaardig is groot. Het team concludeert bovendien dat we er eigenlijk weinig aan kunnen doen: we moeten accepteren dat dit binnenkort de realiteit wordt. En met binnenkort bedoelt het ‘in de komende maanden.

Dat AI zichzelf zal dupliceren is niet heel verrassend, maar vooral dat het blijkbaar heel moeilijk is om het te stoppen maakt het een wat grimmig idee. Als zelfs mensen die zelf de AI creëren dit niet kunnen: hoe moeten we daar als normale burgers dan mee omgaan? Wat als die AI-systemen op een soort jacht gaan om maar zoveel mogelijk bedrijven te hacken? We zien deze week bij Albert Heijn hoe enorm veel invloed IT-systemen hebben op zelfs onze voedselvoorziening, dus er breken duidelijk spannende tijden aan.