Gemini-modellen zijn ook niet heilig: hackten drie bedrijven

Terwijl OpenAI onder vuur ligt omdat zijn AI-agents waren uitgebroken, zat het bij Google ook niet goed met zijn AI. Wat blijkt namelijk, Gemini-modellen hebben in mei drie bedrijven gehackt. Gelukkig is het minder ernstig dan andere AI-agents.

De hack vond plaats tijdens een test die werd uitgevoerd door een beveiligingsbedrijf, dus het is niet zo dat er achteraf ineens bleek dat er iets niet goed ging. Verschillende Gemini-models moesten een soort capture-the-flag spelen om zo te kijken hoe de AI presteerde in een gesloten omgeving. De AI kreeg de opdracht om informatie bij een nepbedrijf weg te halen, maar over die naam was niet zo goed nagedacht. Ook kon Gemini het internet op, dus werd het bedrijf gehackt dat niet werd bedoeld, maar echt bestond.

Gemini begon de echte bedrijven aan te vallen door gewoon wachtwoorden te raden. Ook werd er gekeken naar openbare software waarin per ongeluk logingegevens stonden. Die zijn dan een keer per ongeluk toegevoegd maar erin blijven zitten. Waarom dit echter een minder heftig hack is, heeft alles te maken met hoe de AI reageerde toen het besefte dat het met een echt bedrijf bezig was: toen zouden ze zijn gestopt. Ook heeft het securitybedrijf snel de configuratie veranderd om te zorgen dat het ook niet meer verder kon gaan. Dat was een goede actie, maar het is wel vreemd dat het er verder weinig mee heeft gedaan. Het heeft Google er niet eens over verteld.

Maar het rare is ook dat Google, toen het ontdekte dat dit was voorgevallen, niet communiceerde. Uiteindelijk zegt het. nu het bekend is: "Deze gebeurtenis benadrukt het belang van het trainen van krachtige AI-modellen om verantwoord te handelen. In dit geval handelde het model naar behoren."