Claude wil niet dat je hem pest en Anthropic gaat je daarom opsporen

Anthropic heeft zijn regels voor Claude aangescherpt en daarbij is het vooral de bedoeling dat het pesten van de AI wordt tegengegaan. Als je gewoon een keertje een scheldwoord naar Claude roept of kritiek uit, dan is dat geen probleem, maar als je structureel aan de slag gaat of juist heel extreme dingen zegt, dan kun je erop rekenen dat Anthropic het gesprek afkapt. Het lijkt niet de bedoeling te zijn dat mensen er ook om geband worden.

Soms doet een AI-chatbot zo dom of raar, dat je hem even hard wil toespreken. Maar als je echt heel naar gaat doen, dan gaat het te ver en dan kan het volgens nieuw beleid dat Claude besluit om het gesprek af te kappen.

Het beleid is nu als volgt: "We hebben een verbod toegevoegd op aanhoudend en onnodig grof of wreed gedrag jegens onze modellen. Deze beleidsupdate is uitsluitend bedoeld voor extreme gevallen waarin gebruikers zich herhaaldelijk en zonder aanwijsbaar doel wreed gedragen tegenover onze modellen. Dit is niet van toepassing op gangbare frustraties van gebruikers, tegenwerpingen, duistere creatieve thema's of het testen en onderzoeken van modellen."

Claude zal dus niet mensen zomaar bannen, het gesprek wordt simpelweg afgekapt. Het is ook niet dat je geen kritiek mag uiten op AI. Het gaat vooral om de extremen. Waarschijnlijk stopt Claude in eerste instantie met reageren als je vervelende dingen zegt, maar uiteindelijk kan het gesprek dus echt helemaal worden afgekapt. Op zich is het, als het om mensen gaat, logisch dat het zo werkt, maar waarom zou AI moeten worden beschermd?

Waarschijnlijk gaat het er vooral om dat Anthropic het positief wil houden en je een fijne ervaring wil bieden, in plaats van dat het een soort plek wordt die broeit van frustratie. En ja, de meeste mensen zullen hier helemaal niet mee te maken krijgen. Het is alleen de vraag of het niet strenger moet, maar tegelijkertijd ook wel weer wat nou precies de beweegreden van Anthropic is om het beleid zo aan te passen.