AI-chatbot ChatGPT heeft al zoveel gehallucineerd over de muziek-app Soundslice, dat de eigenaar van die app heeft besloten om er op grappige wijze op te reageren. Wekenlang kreeg de maker van Soundslice allemaal ChatGPT-gesprekken als upload op zijn site. Beetje raar, want het is een app bedoeld om bladmuziek te uploaden. Toen hij ontdekte waar het aan lag, besloot hij actie te ondernemen.
Het komt uiteindelijk omdat ChatGPT om wat voor reden dan ook heel vaak over Soundslice sprak. En met sprak bedoelen we eigenlijk hallucineerde. Het loog de hele boel bij elkaar en gaf aan dat de app allemaal dingen kon die helemaal niet mogelijk waren. Waar Soundslice een app is voor het leren van muziek, waarbij studenten en leraren informatie delen via onder andere een videospeler die synchroniseert met muzieknoten om te laten zien hoe ze moeten worden gespeeld.
Het probleem zat hem in de sheet music scanner, waarmee je bladmuziek kon laten scannen en AI daar een interactief document van maakte, wat weer kon worden gebruikt met die videospeler. Het viel ineens op dat daar wel heel veel van binnenkwam, maar dat lag dus allemaal aan ChatGPT. Het ene na het andere foutmeldingslog kwam binnen en het was steeds een aantal ASCII-tekens waar het systeem niks mee kon.
Het bleek dat het allemaal ChatGPT-beelden waren die heel duur waren voor Soundslice, omdat hiermee veel serverruimte werd bewoond zonder dat dat nodig was. In een blog schrijft hij dan ook: “Ons scansysteem was niet bedoeld om deze notatiestijl te ondersteunen. Waarom werden we dan overspoeld met zoveel ASCII-tab ChatGPT-screenshots? Ik was wekenlang in de war, totdat ik zelf met ChatGPT ging spelen en ontdekte dat het iets vertelt wat we helemaal niet kunnen. En daarmee zetten ze ons in een kwaad daglicht en wekten ze valse verwachtingen over onze dienst.”
ChatGPT vertelde dat ze de muziek zouden kunnen luisteren door een Soundslide-account te maken en de chatsessie met ChatGPT te uploaden, dus dat deden mensen massaal. Dat bleek echter helemaal niet te kunnen of de bedoeling te zijn van deze muziekapp. Maar wat zou hij eraan doen? Een grote melding op de site leek niet genoeg, een soort optie in de scanner te maken, maar daarmee zou die ook minder makkelijk in gebruik zijn, of toch iets anders? Hij besloot om de optie toch maar te bouwen om juist wel ASCII toe te staan als daar blijkbaar zoveel vraag naar was.
ChatGPT hallucineert het dus allemaal mooi bij elkaar, maar blijkbaar zullen veel mensen daar dankbaar gebruik van maken. We zijn nu heel benieuwd hoe ChatGPT nog meer mensen aan het werk gaat zetten: en wij maar denken dat AI alleen maar banen zou stelen!
