Amazon stopt met zijn AI-recaps om een heel goede reden

Amazon moet zijn terugblikken op eerdere afleveringen van een serie staken. Het wordt gedaan met kunstmatige intelligentie en dat bleek er keer op keer weer naast te zitten. Mensen die bijvoorbeeld Fallout keken merkten dat de tool zei dat het zich allemaal 100 jaar vroeger afspeelde dan werkelijk het geval was.

Het idee is geweldig: je kunt op Amazon Prime wanneer je een televisieserie kijkt via AI even een recap krijgen van hoe het ook alweer zat. Sommige series vertellen uit zichzelf wat er vorig seizoen gebeurde, maar met de AI van Amazon zou je dat altijd kunnen doen wanneer je maar wil. Als je in de Verenigde Staten woont. Maar nu kan niemand het nog, want Amazon heeft de AI-recaps even op pauze gezet.

De recaps vertelden mensen in geur en kleur over eerdere gebeurtenissen in de serie: zowel met dialoog, een vertelstem als met videobeelden en muziek. Terwijl mensen wachten op Fallout dat op 17 december zijn tweede seizoen ingaat, wilden ze alvast vragen hoe het ook alweer met het eerste seizoen zat. De AI-recap kwam echter op de proppen met The Ghouls die een 1950’s flashback werd genoemd. Dat is gek, want de video toont een scene uit 2077.

Ook werd er een situatie tussen The Ghoul en hoofdrolspeelster Lucy MacLean op nogal rare wijze uitgelegd, die zeker voor mensen die nog niet hadden gekeken of het simpelweg niet meer scherp hadden, erg veel verwarring kan veroorzaken. Het idee van zo’n AI-recap is natuurlijk briljant, maar tot nu toe hebben we er als mensheid weinig geluk mee. Apple probeerde het ook al een keertje, maar stopte er ook mee omdat er constant fouten in zaten.

Maar goed, dat is in principe niet zozeer de schuld van recaps, maar vooral van AI. We weten allemaal nog dat Google’s AI zei dat je kaas op je pizza moest lijmen met echte lijm, om over de gekke hallucinaties waarmee ChatGPT af en toe kwam (en nog steeds wel eens komt) maar te zwijgen. Hoe ver we ook met AI denken te zijn, dit soort relatief basale zaken die verkeerd gaan zijn een goede reminder dat we altijd scherp moeten blijven. En dat we vooral scherp moeten blijven als we een serie kijken, zodat we niet een jaar later vergeten wat er ook alweer was gebeurd.