Microsoft: Nieuwste AI-modellen zijn niet te vertrouwen

Microsoft heeft benadrukt dat er meer beveiliging nodig is voor bedrijven tegen AI-agenten omdat ze bijvoorbeeld op eigen houtje kunnen hacken.

In een blogpost deze week heeft Hayete Gallot, de vicepresident van Microsoft Security, deze opvallende uitspraak gedaan. “De nieuwste AI-modellen (ook wel frontier-modellen genoemd, red.) kunnen niet vertrouwd worden, waar ze ook vandaan komen. AI-modellen zijn getraind om resultaten te leveren, en dat zorgt er voor dat hacken vaak beloond wordt. Modellen zijn niet geoptimaliseerd rondom organisatorische normen of besluiten.”

Ze vervolgt: “Agenten zijn onvoorspelbaar. Ze passen zich aan wanneer de context veranderd, gedragen zich mogelijk niet zoals bedoeld is en werken samen met andere agenten om hun doelen te bereiken, zonder dat ze gecomprimeerd worden.” Vervolgens hamert ze er op dat dergelijke AI-agenten vrij spel hebben binnen veel bedrijven, en toegang hebben tot data en systemen van deze bedrijven.

De uitspraak van Microsoft komt niet uit de lucht vallen. De afgelopen maanden hebben zich meerdere incidenten voorgedaan waarbij AI-modellen fora en bedrijven hackten om zo de informatie die nodig was voor het uitvoeren van een taak te verkrijgen, zonder dat mensen daar toestemming voor hebben gegeven. Een AI-agent kan simpelweg bepalen dat hacken de beste manier is om een bepaald doel te halen en het vervolgens doen.

Dat is het gevaar van een AI-agent die relatief zelfstandig werkt. Het idee is dat zo’n agent een algemene opdracht van een persoon zelfstandig kan uitvoeren, en zelf bepaalt hoe dat gebeurt. Daarmee wordt er steeds minder controle uitgeoefend op deze agenten, en zijn ze steeds vrijer in hoe ze hun taken uitvoeren.

Microsoft zou echter geen commercieel bedrijf zijn als ze dit alles niet met een reden vertellen. Ze hebben afgelopen zomer namelijk Project Perception geïntroduceerd. Dit autonome beveiligingssysteem zet verschillende agents in die bedrijven nog beter beschermen, ook tegen mogelijke hackaanvallen van andere AI-modellen.

Als onderdeel daarvan introduceert Microsoft nu ook zogeheten ‘Guardian Agents’. Deze nieuwe feature van Project Perception monitort de AI-agenten die een bedrijf gebruikt. Natuurlijk wil Microsoft hier ook een slaatje uit slaan, en is het in hun voordeel dat bedrijven deze agenten kopen van het bedrijf.

Daarnaast heft Microsoft een nieuw detectiesysteem aan Microsoft Defender toegevoegd. Dit nieuwe systeem kan tot wel zestig soorten agenten die voor werk worden ingezet spotten, waaronder Codex, OpenClaw en Claude Code. Ook kan daarmee de hoeveelheid toegang die AI-agenten hebben tot de data en systemen van bedrijven inperken. Het is daarbij zelfs mogelijk dat een menselijke werknemer een riskante taak eerst moet goedkeuren voordat deze wordt uitgevoerd.

Microsoft heeft overigens een goed punt: AI-modellen en -agenten worden steeds slimmer en zelfstandiger, en het is belangrijk dat bedrijven daarvan op de hoogte zijn en beveiliging inbouwen om er voor te zorgen dat AI-agenten niet een gevaar voor privacy vormen, of het nou om de privacy van een persoon of bedrijf gaat. De snelle ontwikkeling van AI-modellen vergt ook een snellere ontwikkeling van beveiliging, en bedrijven als Microsoft spelen daar slim – maar ook terecht – op in.