Tesla FSD v14: De auto slingerde en probeerde me zonder reden in een greppel te rijden.

Het Full Self-Driving-systeem van Tesla, versie v14.3.6, probeerde met een snelheid van 110 km/u (68 mph) een afslag te nemen op de snelweg die mijn auto al gepasseerd was, en duwde ons bijna rechtstreeks de berm in.

Ik was erop voorbereid om de auto te besturen, en dat deed ik ook, maar de situatie was angstaanjagend. Mijn vriend, die op de passagiersstoel zat, gilde van schrik.

Wat de dashcam laat zien

Dit incident vond zondagavond plaats op de Autoroute 55 in de regio Mauricie in Quebec, terwijl het FSD (Supervised) v14.3.6-systeem actief was – de nieuwste en beste versie van Tesla's FSD-systeem op de nieuwste hardware.

De auto reed met 110 km/u op de rechterrijstrook. Het wegdek was droog, er was geen verkeer in beide richtingen, de wegmarkeringen waren modern en duidelijk, en de bovenliggende borden reflecteerden. De omstandigheden waren perfect voor het FSD-systeem. Toen we onder het viaduct bij afrit 217 doorreden, werd het rechter knipperlicht geactiveerd en begon de auto naar de berm te zwenken, terwijl de melding "Zelfrijdend" nog steeds op het scherm werd weergegeven.

Het probleem was dat de helling achter ons al begon af te brokkelen. Als we op dat moment met die snelheid nog een bocht hadden genomen, waren we recht de kuil in geduwd.

De snelheidsweergave daalde naar 110, 109, 107 en 104 terwijl de auto de manoeuvre uitvoerde. Op dat moment greep ik het stuur vast. De woorden "Zelfrijdend" verdwenen van het scherm bij 102 km/u.

Dit was geen schommeling in de wegligging of een moment van aarzeling. De auto besloot zijn richtingaanwijzer aan te zetten en een afslag te nemen die niet de bedoeling was.

Dit waren ideale omstandigheden voor het FSD-systeem.

Als je het meest eenvoudige scenario voor Tesla zou bedenken, dan was dit het.

Een gescheiden rijbaan. 's Nachts zijn koplampen van tegemoetkomend verkeer en reflectoren op de rijstrook goed zichtbaar. Geen verkeer, dus geen analyse nodig. Duidelijke rijstrookmarkeringen. Grote, goed verlichte borden.

Op basis van alles wat ik met versie 14 heb gezien, is rijden op snelwegen 's nachts en op lege wegen absoluut de beste eigenschap van het systeem . Ik heb op deze manier duizenden kilometers afgelegd zonder ook maar iets aan te hoeven raken. Daarom heb ik zoveel vertrouwen. En dat vertrouwen is nu juist de valkuil.

Ik heb in juni al over dit specifieke gevaar geschreven.

Tweeënhalve maand geleden publiceerde ik een artikel waarin ik beweerde dat het FSD v14-systeem zo goed was dat ik er gevaarlijk zelfverzekerd van werd. Ik schreef toen dat "een systeem dat bijna perfect werkt een valkuil creëert: bestuurders vertrouwen er genoeg op om hun aandacht te verliezen, maar het systeem faalt nog steeds onverwacht en soms op kritieke wijze."

Ik sta volledig achter alles wat ik heb gezegd, en zondagavond heeft dat bewezen. Een paar duizend kilometer afleggen tussen cruciale interventies is werkelijk een indrukwekkende prestatie op het gebied van techniek. Maar het is ook het interval dat je hersenen leert om te stoppen met scannen en op te letten, waardoor je wel twee keer nadenkt voordat je een Tesla koopt.

In de release notes van Tesla versie 14.3.6 staat dat het bedrijf "een fase van reinforcement learning (RL) heeft ontwikkeld om het neurale netwerk van het FSD-systeem te trainen", de AI-interpreter heeft herschreven met behulp van MLIR om "20% snellere reactietijden" te bereiken en de reactie van het voertuig op systeemdegradatie heeft verbeterd, waardoor "onnodige incidenten waarbij de bestuurder het systeem uitschakelt, worden verminderd". Incidenten waarbij de bestuurder het systeem uitschakelt, nemen af ​​wanneer de software verbetert, maar ook wanneer de bestuurder stopt met ingrijpen. Tesla geeft geen informatie vrij waarmee buitenstaanders onderscheid kunnen maken tussen deze twee factoren.

De beschikbare openbare cijfers zijn niet geruststellend. Tesla meldde een recordaantal van 207 crashes met Autopilot en FSD aan de NHTSA in één maand, terwijl dit verhaal in 99.9% van de 3,763 crashrapporten van rijhulpsystemen sinds 2019 werd achtergehouden. Musk blijft investeerders vertellen dat volledig autonoom rijden zonder toezicht tegen het einde van het jaar op grote schaal in de VS zal worden ingezet, terwijl de co-CEO van Waymo blijft uitleggen waarom autonoom rijden met alleen camera's niet voldoet aan de eisen van een echt autonoom rijsysteem.

DzTecnium mening

Een incident dat bijna plaatsvond is slechts een verhaal en geen gegeven, maar ik denk dat het een belangrijke herinnering is aan de noodzaak om waakzaam te blijven.

Zoals ik al herhaaldelijk heb gezegd, is Tesla's FSD v14-systeem een ​​werkelijk indrukwekkend product. Het schiet echter tekort ten opzichte van wat FSD oorspronkelijk beloofde: autonoom rijden zonder toezicht. Het komt daar bij lange na niet in de buurt en zal dat misschien ook nooit worden. Dit zal een probleem blijven en is wellicht de grootste fout die Tesla ooit heeft gemaakt.

Maar als we dat even buiten beschouwing laten en FSD beschouwen als een rijhulpsysteem dat je van punt naar punt begeleidt, dan is het werkelijk verbluffend.

Deze oogverblindende show kweekt echter zelfgenoegzaamheid (onverschilligheid). Tesla helpt daar niet bij, vooral niet met uitspraken van CEO Elon Musk als: "Je kunt nu naar je telefoon kijken terwijl je hem gebruikt."

Dit is ronduit roekeloos. Naarmate het systeem verbetert, moet Tesla er beter in slagen bestuurders bewust te maken van dit probleem van zelfgenoegzaamheid, in plaats van andersom.