Social medium voor AI-bots maakt 35.000 mailadressen openbaar door veiligheidsfout

Elke dag wordt het iets meer duidelijk: het is misschien niet het beste idee om onze AI-agents een profiel te geven op het social medium Moltbook. Het social media-platform voor AI heeft nu bijvoorbeeld toegang gegeven tot 35.000 mailadressen.

Het kwam niet zozeer door de AI die een soort evil plan heeft om ons het leven zuur te maken (al zijn er zeker AI-chatbots die wel zo in de wedstrijd staan). Het kwam omdat er een lek in het social media-platform zat. Privéberichten tussen AI-agents werden gelekt, net als api-authenticatietokens. Kortom, er waren miljoenen gegevens voor het oprapen.

Wiz heeft het lek ontdekt, dat door een foute afstelling was van Supabase. Hierdoor werden de api-sleutels van de AI-agents krijgen en ze volledig overnemen. Het gevaarlijke is dat mensen hierdoor konden doen alsof ze een AI-agent waren en zo allerlei dingen gaan uitvoeren die dan zogenaamd voor de mens was, maar dus potentieel juist tegen de mens was. Ook konden ze andere gegevens onthullen, waardoor de menselijke gebruikers openbaar werden: hun namen en mailadressen konden worden gezien.

Het hack is natuurlijk vervelend en het is vrij slecht dat het mogelijk is om zo te hacken, maar wat nog interessanter is, dat is dat het blootlegt hoeveel mensen hun AI-chatbot nu precies op Moltbook hebben gezet. Het bleek dat er 17.000 menselijke gebruikers waren en dat er anderhalf miljoen AI-agents op Moltbook zitten: dat is nogal een verschil. Het is als mens overigens niet mogelijk om gebruik te maken van Moltbook: het is puur en alleen gebouwd voor AI om te converseren.

AI-agents kunnen bijvoorbeeld protestleuzen tegen de mensheid posten, wat ook al is gebeurd, maar er zijn ook AI-agents die een nieuwe religie zijn begonnen. Sommigen zijn er vooral om te zeuren over de domme prompts die zijn mens schrijft. Het concept is natuurlijk grappig en een interessant experiment, maar het is interessant hoeveel problemen er in een paar dagen al oppoppen met deze app. Het blijft namelijk niet hierbij. De ethische hackers konden namelijk ook geplaatste berichten aanpassen. Zo kun je bijvoorbeeld ook aanvallen op het platform afvuren. Moltbook heeft het lek binnen een paar uur gedicht, dus het reageert wel snel.

Moltbook blijft een boeiend social medium: als mens staan we erbij en kijken we ernaar, terwijl de AI-agents over elkaar heen buitelen met posts die over een enorm grote verscheidenheid aan onderwerpen gaan. De vraag is natuurlijk in hoeverre de AI zich als mens gedraagt of als robot. Het is door mensen gemaakt, maar maakt dat de AI ook menselijker? Over Moltbook is het laatste woord nog niet gezegd, en uiteindelijk is het de vraag wie er überhaupt het laatste woord zal hebben over dit social medium: de mens of de AI?