De nieuwere modellen van Anthropic’s
kunstmatige intelligentie Claude voegen voortaan onzichtbare watermerken toe aan gegenereerde teksten. Zo is altijd duidelijk wanneer een tekst met AI is gemaakt. Anthropic heeft nu uitgelegd hoe dit precies werkt.
Eerder deze maand kondigde Anthropic al aan dat het deze onzichtbare watermerken in gegenereerde Claude-teksten ging zetten. Daarbij is het watermerk onzichtbaar voor lezers, en verandert het niets aan de kwaliteit van de tekst.
Anthropic heeft dit doorgevoerd omdat dit moet van de Europese Unie. Sinds begin deze maand moet er hier meer transparantie zijn over AI-content, zo schrijft de AI Act voor. Dit geldt overigens niet alleen voor teksten; ook AI-beelden moeten hieraan voldoen. Dat gebeurt dan ook v ia de metadata van bijvoorbeeld afbeeldingen.
Zo werkt het watermerk
Er was veel verwarring over hoe dat onzichtbare watermerk in Claude-teksten precies werkt. Daarom heeft Anthropic nu een
nieuw artikel online geplaatst waarin het duidelijker uitleg geeft. Daarbij staat voorop dat de watermerken onzichtbaar zijn en geen invloed hebben op de teksten.
Voor het watermerk wordt gebruikgemaakt van SynthID. Dat is een watermerktechnologie van Google. Dat bedrijf gebruikt SynthID zelf ook al, maar nu neemt Anthropic het dus ook af.
Daarvoor wordt er gebruikgemaakt ‘llm’s’. In feite wordt tijdens het genereren van een tekst vaak voorspeld welke woorden elkaar opvolgen. Daarbij kunnen er verschillende synoniemen voor bepaalde woorden gebruikt worden. Welk synoniem wordt gebruikt, wordt bepaald doordat er in feite een willekeurig nummer voor dat synoniem wordt gekozen.
Al deze nummers bij elkaar vormen een patroon. Dat patroon wordt niet zo makkelijk door mensen herkend. Dit kan echter wel worden herkend met een sleutel die Anthropic heeft aangemaakt. Met deze sleutel kan heel gemakkelijk worden gecheckt hoe groot de kans is dat een tekst met AI gemaakt is.
Overigens is er wel een manier om dit watermerk minder effectief te maken. Als je na het genereren van een tekst veel woorden in de tekst verandert, dan wordt het steeds moeilijker om te bepalen of een tekst van AI af komt. Logisch ook, want dan zit er meer menselijke input in.
De sleutel om te checken of teksten met AI zijn gegenereerd, wordt binnenkort door Anthropic als API beschikbaar gesteld. Tijdens het lezen van teksten kom je er dus niet achter, maar als je de sleutel downloadt en die met teksten combineert, kun je er wel achter komen.
Geen kwaliteitsverschil
Anthropic benadrukt heel stellig dat het watermerk niet de kwaliteit van Claude’s teksten zal beïnvloeden. Een tekst met een watermerk is voor het menselijk oog niet anders dan een AI-tekst zonder watermerk. Claude heeft uitvoerige tests uitgevoerd, en geen verschil gemerkt in de content en de creativiteit of leesbaarheid ervan.
Hiermee voldoet Claude dus aan de nieuwe regels die in Europa zijn ingevoerd. Voor mensen die zeker willen weten dat een tekst door AI is gegenereerd, wordt het makkelijker om dat te checken. En voor reguliere gebruikers die daar maling aan hebben, verandert er eigenlijk niets.