Hoe AI-beeldgenerator Grok faalt bij het beschermen van kinderen

Niet iedereen kan nog onbeperkt beelden genereren met Grok, maar het onderliggende probleem is daarmee niet opgelost. Sommige vormen van expliciete AI-beelden zijn inmiddels afgeschermd achter een betaald account. Dat betekent niet dat ze technisch onmogelijk zijn gemaakt, maar dat er een financiële drempel is opgeworpen. Wie betaalt, krijgt toegang tot functies die juist extra gevoelig liggen.

Dat roept fundamentele vragen op over verantwoordelijkheid en moderatie. Het feit dat AI-systemen nog steeds misbruikt kunnen worden om grensoverschrijdende beelden te genereren — ook wanneer daar kwetsbare personen bij betrokken zijn — maakt duidelijk dat een betaalmuur geen structurele oplossing is. Europese toezichthouders, waaronder instanties in de EU en het Verenigd Koninkrijk, zijn inmiddels onderzoeken gestart naar hoe dit soort praktijken beter kan worden aangepakt.

Het antwoord van Musk is duidelijk: het blijft mogelijk om zonder consent naaktfoto’s van mensen te maken, maar je moet er wel voor betalen. De seksuele deepfakefabriek kan dus gewoon doorgaan met plaatjes maken. Ondertussen is er niet alleen vanwege het maken van kinderpornografisch materiaal ook een beweging opgestaan die vooral stelt dat het niet aan de AI is dat dit nare gedrag wordt vertoond, maar dat het ook vooral mannen zijn die dit soort beeld, en beeld van naakte vrouwen maken.

Op zich is het niet alleen aan mannen besteedt, vrouwen kunnen het ook en zijn zelfs begonnen met deze tak van sport. Het schijnt namelijk te zijn begonnen met het naaktbeeld op Grok nadat diverse dames uit de pornoindustrie afbeeldingen van zichzelf lieten maken. Toch is het onderliggende vraagstuk interessant -en bepaald niet nieuw-: in hoeverre is ‘het internet’ verantwoordelijk voor wat er kan worden gedaan? Mark Zuckerberg was er al vroeg bij in het vertellen dat zijn Facebook een soort marktplein was. Hij faciliteert weliswaar het medium, maar op een echt plein is ook degene die verboden dingen roept of naakt gaat staan in overtreding, niet de stenen van het marktplein, stelt hij.

Inmiddels is hij op dat gebied bijgedraaid, wat mede komt door druk vanuit de overheid. Dat staat Grok nu ook te gebeuren, want de AI-tool heeft immers niets veranderd, alleen een betaalmuur geplaatst waardoor mensen minder snel vieze AI-plaatjes zullen maken. De EU en het Verenigd Koninkrijk zullen dit echt niet ineens toelaten zolang er betaald wordt. Toch denkt Musk dat het betalen, waarbij je dus ook meer gegevens overlegd, een manier is om misbruik terug te dringen. Hij lijkt in ieder geval niet van plan om het qua platform aan te pakken in wat er wel en niet mag. Eerder heeft hij wel eens gezegd dat hij vrijheid van meningsuiting belangrijk vindt en mogelijk vindt hij dat het maken van kinderporno daar ook toe behoort.

Grok blijft voorlopig dus ‘spicy’ content maken, zoals het dat zelf noemt, zonder dat de persoon waarvan de beelden worden gemaakt daar ook maar enige weet van heeft, laat staan toestemming voor heeft gegeven. Dat is niet alleen ernstig als het om kinderen gaat, maar ook om volwassenen. De EU heeft gezegd dat X zich heel bewust is dat de EU de Digital Services Act zeer serieus neemt, het heeft immers vorige maand nog een boete gehad voor de verificatievinkjes. Die boete was 120 miljoen euro en Elon Musk reageerde daar niet erg begripvol op. Hij begon zelfs een online rant tegen de EU omdat hij vindt dat de EU Amerikaanse bedrijven aanvalt en dat de blauwe vinkjes onder de vrijheid van meningsuiting vallen. Vandaar dat het ook met deze naaktfoto’s de vraag is in hoeverre Musk zich zal beroepen op vrijheid van meningsuiting. Grok heeft 30 miljoen maandelijks actieve gebruikers, wat enorm is gestegen in de afgelopen maanden.