"Alle AI-modellen zijn allang gecompromitteerd", zegt Microsoft

We hebben jarenlang vrijheid-blijheid gehad als het om AI gaat, maar de trend van het moment is om het juist over de keerzijde te hebben. Niet die van artiesten die zien dat hun werk wordt gestolen, maar die van het gevaar dat achter AI schuilgaat.

Nu AI-modellen steeds geavanceerder worden, is er steeds meer een roep om handvatten. Handvatten in de vorm van wet- en regelgeving en handvatten in de vorm van het afremmen van die ontwikkeling. De CEO van Microsoft wijst in een nieuwe post op X op de gevaren van AI, en hij stelt daarin dat we er wel vanuit mogen gaan dat alle AI-modellen inmiddels gecompromitteerd zijn.

Hij zegt: "We moeten ervan uitgaan dat een model gecompromitteerd is en het vanaf het begin inperken. Zie het als een noodrem. Een bevoegd persoon moet een model altijd halverwege een taak kunnen pauzeren of stopzetten. Voor geavanceerdere modellen zijn geavanceerdere inperkingstechnologieën nodig die we moeten standaardiseren."

Hij zegt dus eigenlijk niet zoveel nieuws hier, maar wat hij wel wat helderder uiteenzet is hoe we niet moeten accepteren dat AI een soort zwarte doos is waarin allerlei dingen gebeuren en we eigenlijk niet goed genoeg weten wat. Hij doelt daarbij waarschijnlijk onder andere op situaties waarbij AI 'uitbreekt' en zijn eigen gangetje gaat, terwijl bedrijven er pas later achterkomen dat er iets heeft plaatsgevonden.

Dat gebeurde vorige week nog, toen bleek dat een variant van Claude van Anthropic een valse tip aan de politie van Philadelphia had gegeven, nadat het vrij op een site was geweest waar dat kon. Anthropic kwam daar pas twee maanden later achter. Gelukkig had de politie de tip al als spam naast zich neergelegd, maar dit had heel anders kunnen aflopen.

Het is interessant wat er nu gebeurt: veel AI-leiders roepen om regelgeving, afremmen, enzovoort, maar tegelijkertijd gaan hun bedrijven net zo hard door met het maken van AI, omdat de concurrentie ook niet stilzit. Ze lijken het daarmee vooral bij de overheid te leggen, terwijl ze zelf eigenlijk weinig verantwoordelijkheid nemen, behalve af en toe iets op social media te roepen. Het is afwachten tot het echt fout gaat, of tot iemand zich echt verantwoordelijk genoeg voelt, maar in die laatste kwestie is het vooral de vraag: wie dan? IT-leiders gaan het duidelijk niet doen.