ChatGPT maakt reclame voor een malafide site: en het is geen advertentie

ChatGPT is net begonnen met het tonen van advertenties, heeft het juist een probleem omdat het reclame maakt zonder advertentie. Huh? Het blijkt dat ChatGPT een malafide Sonos-website aan mensen aanraadt wanneer ze advies vragen over voordelige Sonos-speakers.

Het is typisch een geval van ‘lijkt het te mooi om waar te zijn, dan is dat waarschijnlijk ook zo’. Sonosnederland.com, de website die ChatGPT aan mensen die om Sonos-aanbiedingen vragen, geeft namelijk wel erg veel korting. Je koopt er een Sonos-apparaat dat meer dan 1.000 euro kost voor een prikkie, voor maar 170 euro. Hoe fijn het ook zou zijn dat je voor een prikkie een high end audioproduct kunt kopen: dat klopt natuurlijk niet.

Het staat niet op zichzelf: ChatGPT schijnt vaker malafide websites aan te raden. Waarschijnlijk ligt dit niet eens aan ChatGPT zelf, maar misschien wel aan Google. De chatbot lijkt namelijk vaak Google te volgen en mogelijk staat deze website erg hoog in de zoekmachine, omdat het waarschijnlijk hun search engine optimization (seo) goed voor elkaar heeft. Het komt ook voor dat ChatGPT met links komt die helemaal niet bestaan. Dan denk je dat je naar een site gaat, maar dan blijkt het helemaal niet te bestaan.

Het is natuurlijk voor een hacker een interessante nieuwe manier om mensen van hun geld of gegevens te beroven. Als hackers eenmaal doorhebben hoe ze ervoor kunnen zorgen dat hun site in de AI-chatbot voorbijkomt, dan is dat weer een nieuwe manier om mensen op te lichten. Ook werd er in januari nog een grote bug in de API van ChatGPT gevonden. De API is een stukje software dat ontwikkelaars kunnen gebruiken in hun apps, waardoor ze ChatGPT als onderdeel aan hun app kunnen toevoegen. De API schijnt programmeertechnisch slecht in elkaar te zitten, waardoor de mogelijkheid bestaat dat je er websites mee kunt DDoS’en.

DDoS’en is het in een keer heel veel verkeer sturen naar een bepaalde site met als doel om hem te laten omvallen. Het is niet zo gek dat er problemen in ChatGPT sluipen: het is zo ontzettend groot, dus dat zo’n malafide website wordt aangeraden voor Sonos-producten is niet heel gek, maar dat de API rammelt door slechte programmeerkunsten, dat is wel iets wat we bij OpenAI kunnen neerleggen. In ieder geval is het natuurlijk al een must om kritisch te zijn op wat er qua content uit de AI-chatbot komt rollen, maar je moet dus ook oppassen met linkjes die je voorgeschoteld krijgt.