Zit je half weg te dutten en blijf je daarom niet in je rijbaan? Tesla adviseert je dan niet om de auto stil te zetten en even te pauzeren: het zegt in plaats daarvan dat je de zelfrijdende mogelijkheden het beste kunt aanzetten. Dat kan wel eens heel fout aflopen.
Tesla test Full Self-Driving al een tijd, maar de naam zegt toch iets heel anders dan wat het werkelijk doet. Hij rijdt niet helemaal zelf: je zal nog steeds zelf moeten opletten en de handen aan het stuurt moeten houden. Je moet alsnog goed opletten op de weg en klaarzitten om het elk moment over te kunnen nemen. Het lijkt nu echter dat wanneer je wat zwalkerig rijdt van de ene naar de andere kant, bijvoorbeeld omdat je in slaap valt, de auto je adviseert om self-driving aan te zetten.
Hij zegt: “Lane drift gedetecteerd. Laat FSD assisteren zodat u gefocust kunt blijven” of “Slaperigheid gedetecteerd. Blijf gefocust met FSD.” Erg griezelig, want als er iets zorgt dat je juist minder snel gefocust bent, dan is het door te blijven rijden terwijl je moe bent of in slaap valt. Dit is juist het tegenovergestelde van wat de elektrische auto’s van Elon Musk zouden moeten adviseren. Immers heeft de chauffeur net bewezen dat hij of zij juist helemaal niet oplet, dus dan is opletten of de auto zelf goed rijdt geen optie.
Mensen staan er al om bekend zeer slechte, passieve toezichthouders te zijn: we hebben namelijk iets nodig om ons betrokken te houden. Denk ook aan piloten die op autopilot werken: die schijnen na langdurig gebruik ook niet meer genoeg te letten op storingen, omdat ze simpelweg niet genoeg zelf actief betrokken zijn. Het wordt ook wel een out-of-the-loop-prestatieprobleem genoemd.
Het is ook tegenstrijdig met wat Tesla zelf doet: in het FSD-systeem is inbegrepen dat camera’s checken of jij wel genoeg oplet. Ook zijn er waarschuwingen voor wie niet naar de weg kijkt. Er is zelfs een strike-systeem waarbij bestuurders een week lang niet van FSD gebruik mogen maken als hij niet op waarschuwingen reageert. Maar ondertussen maakt Tesla FSD juist heel passief, wat het voor bestuurders ook wel heel moeilijk maakt om er met volle aandacht op te letten. Zeker als ze, zo blijkt, al te moe zijn om te rijden.
Misschien zet Tesla vooral hoog in op het FSD dat geen toezicht meer nodig heeft: iets dat het eind dit jaar wil gaan uitrollen, mede naar aanleiding van de prestaties van zijn zelfrijdende taxi’s in Austin. Musk noemt zijn bedrijf ‘absoluut hardcore’ als het om veiligheid gaat, dus de uitrol ervan zal heel voorzichitg zijn, maar het zou fijn zijn als het zich eerst richt op wat er nu door de auto wordt geadviseerd: voor het een keer goed fout gaat.
