Amerikaans AI-model Claude zou gebruikt worden voor Chinese AI-training

Anthropic, het Amerikaanse bedrijf achter AI-model Claude, claimt dat diverse Chinese bedrijven hun AI-assistent gebruiken om hun eigen AI-modellen mee te trainen.

Het ‘destilleren’ van AI-modellen wordt regelmatig uitgevoerd. Dit houdt in dat bedrijven hun relatief kleine AI-model interacties laten hebben, zodat ze steeds beter worden. Vaak gebeurt dit binnen een bedrijf zelf.

Toch gebruikt bijna elk AI-bedrijf ook data van andere bedrijven – bijvoorbeeld informatie te vinden op het internet – om hun eigen AI-assistent mee te trainen. Anthropic is er nu achter gekomen dat diverse Chinese bedrijven dit ook doen met Claude.

De Chinese bedrijven achter de AI-modellen DeepSeek, Moonshit en MiniMax zouden Claude gebruiken om ze te trainen. Chinese bedrijven gebruiken hiervoor blijkbaar 24.000 neppe accounts in een poging niet op te vallen. Met die accounts zijn er meer dan 16 miljoen gesprekken met Claude gevoerd.

Anthropic legt uit dat de concurrentie destillatie kan gebruiken om de geboekte progressie van andere bedrijven in een fractie van een tijd en een fractie van de kosten te verkrijgen van wat het zou kosten om het zelf te ontwikkelen. Simpel gezegd: in feite kopiëren ze dus het huiswerk van hun klasgenoot.

Het bedrijf waarschuwt dat het hier niet alleen om het beschermen van zijn werk gaat: het spreekt ook van nationale veiligheidsrisico’s. Anthropic claimt dat Amerikaanse bedrijven AI-modellen bouwen met de nodige veiligheidsmaatregelen.

Deze veiligheidsmaatregelen zouden in de Chinese modellen weg kunnen vallen, waardoor de AI-modellen bijvoorbeeld kunnen assisteren in het ontwikkelen kwaadaardige cyberaanvallen of zelfs biologische wapens.

Om dit tegen te gaan blijft Anthropic investeren in beveiliging, waardoor het moeilijker moet worden voor andere bedrijven om dergelijke destillatie toe te passen op Claude. Maar, zoals Anthropic stelt: “Geen bedrijf kan dit alleen oplossen.”

Daarom heeft Anthropic deze informatie gepubliceerd, in de hoop dat bijvoorbeeld wetmakers en andere bedrijven binnen de AI-markt samen gaan werken om deze acties tegen te gaan. Het bedrijf zou graag strengere wetgeving zien om er voor te zorgen dat andermans AI-modellen niet zomaar gebruikt kunnen worden voor dergelijke praktijken.

De kwestie rondom AI en China is sowieso een heet hangijzer. De Amerikaanse president heeft onlangs Amerikaanse bedrijven, zoals Nvidia, toestemming gegeven om hun geavanceerde AI-chips naar China te exporteren.

Volgens Anthropic zijn deze krachtige chips juist nodig voor de bedrijven achter DeepSeek, Moonshit en MiniMax om dergelijke distillatie mogelijk te maken. Anthropic zou dan ook graag zien dat het exporteren van deze chips naar China verboden wordt.

De opkomst van AI staat – ondanks het wijdverspreide gebruik van AI-modellen – relatief gezien nog in de kinderschoenen. Bedrijven en overheden hebben nog niet altijd even duidelijk de risico’s hiervan in kaart gebracht, en dat levert spanningen zoals de hierboven geschetste situatie op.