Tesla FSD v14: Ha sterzato bruscamente e ha cercato di farmi finire in un fosso senza motivo.

Il sistema di guida autonoma Tesla, versione v14.3.6, ha tentato di imboccare un'uscita autostradale che la mia auto aveva già superato, a una velocità di 110 km/h (68 mph), e per poco non ci ha spinti direttamente in un fosso.

Ero pronto a prendere il controllo dell'auto, e l'ho fatto, ma la situazione era terrificante. Il mio amico, che sedeva sul sedile del passeggero, ha urlato dalla paura.

Cosa mostra la telecamera da cruscotto

L'incidente si è verificato domenica sera sull'autostrada 55 nella regione della Mauricie, in Quebec, mentre era in funzione il sistema FSD (Supervised) v14.3.6, la versione più recente e migliore del sistema FSD di Tesla sull'hardware più recente.

L'auto viaggiava a 110 km/h nella corsia di destra. L'asfalto era asciutto, non c'era traffico in nessuna direzione, la segnaletica orizzontale era moderna e chiara e i segnali sopraelevati erano riflettenti. Le condizioni erano perfette per il sistema FSD. Mentre passavamo sotto il cavalcavia all'uscita 217, si è attivato l'indicatore di direzione destro e l'auto ha iniziato a sterzare verso la banchina, mentre il messaggio "Guida autonoma" era ancora visualizzato sullo schermo.

Il problema era che il pendio aveva già iniziato a cedere dietro di noi. Prendere quella curva all'ultimo momento a quella velocità ci avrebbe spinti dritti nel burrone.

La velocità indicata è scesa a 110, 109, 107 e 104 mentre l'auto eseguiva la manovra. In quel momento, ho stretto il volante. La scritta "Guida autonoma" è scomparsa dallo schermo a 102 km/h.

Non si è trattato di un'incertezza sulla traiettoria o di un momento di esitazione. La vettura ha deciso di attivare l'indicatore di direzione e di imboccare un'uscita che non avrebbe dovuto prendere.

Queste erano le condizioni ideali per il sistema FSD.

Se si dovesse progettare lo scenario più semplice possibile per Tesla, sarebbe proprio questo.

Autostrada a carreggiate separate. Di notte, i fari delle auto in arrivo e i catarifrangenti di corsia sono facilmente distinguibili. Traffico nullo che non richiede analisi. Segnaletica orizzontale chiara. Segnaletica grande e ben illuminata.

In base a tutto ciò che ho visto con la versione 14, la guida notturna in autostrada e su strade deserte è in assoluto la caratteristica migliore del sistema . Ho percorso migliaia di chilometri in questo modo senza dover toccare nulla. Ecco perché sono così sicuro. E questa sicurezza è proprio la trappola.

Ho scritto di questo pericolo specifico a giugno.

Due mesi e mezzo fa, ho pubblicato un articolo in cui affermavo che il sistema FSD v14 era talmente valido da rendermi pericolosamente troppo sicuro di me. Scrivevo allora che "un sistema che funziona quasi alla perfezione crea una trappola: i conducenti si fidano a tal punto da smettere di prestare attenzione, ma esso può comunque fallire inaspettatamente e talvolta in modo critico".

Confermo ogni parola che ho detto, e domenica sera ne è stata la prova. Percorrere migliaia di chilometri tra un intervento critico e l'altro è davvero un'impresa ingegneristica impressionante. Ma è anche l'intervallo che insegna al cervello a smettere di scansionare e a prestare attenzione, facendoti riflettere due volte prima di acquistare una Tesla.

Le note di rilascio della versione 14.3.6 di Tesla affermano che l'azienda ha "sviluppato una fase di apprendimento per rinforzo (RL) per addestrare la rete neurale del sistema FSD", ha riscritto l'interprete AI utilizzando MLIR per ottenere "tempi di risposta più rapidi del 20%" e ha migliorato la risposta del veicolo al degrado del sistema, "riducendo gli incidenti di disimpegno del conducente non necessari". Gli incidenti di disimpegno del conducente diminuiscono quando il software migliora e diminuiscono anche quando il conducente smette di interferire. Tesla non rilascia alcuna informazione che permetta a terzi di distinguere tra questi due fattori.

I dati pubblici disponibili non sono rassicuranti. Tesla ha segnalato alla NHTSA un numero record di 207 incidenti con Autopilot e FSD in un solo mese, mentre la narrazione è stata omessa nel 99.9% dei 3,763 rapporti sugli incidenti con i sistemi di assistenza alla guida pervenuti dal 2019. Musk continua a dire agli investitori che la guida autonoma senza supervisione sarà ampiamente diffusa negli Stati Uniti entro la fine dell'anno, mentre il co-CEO di Waymo continua a spiegare perché la guida autonoma basata esclusivamente su telecamere non soddisfa i requisiti di un sistema di guida veramente autonomo.

Opinione di DzTecnium

Un episodio che si è quasi verificato è solo una storia e non un dato statistico, ma credo che sia un importante monito sulla necessità di rimanere vigili.

Come ho ripetutamente affermato, il sistema FSD v14 di Tesla è un prodotto davvero impressionante. Tuttavia, non raggiunge l'obiettivo per cui l'FSD era stato originariamente pubblicizzato: la guida autonoma senza supervisione. È ben lontano da quell'obiettivo e forse non lo raggiungerà mai. Questo rimarrà un problema e forse il peggior errore che Tesla abbia mai commesso.

Ma se mettiamo da parte questo aspetto e consideriamo il FSD come un sistema di assistenza alla guida punto a punto, è davvero sorprendente.

Tuttavia, questa esibizione abbagliante genera compiacimento (indifferenza). Tesla non aiuta in questo senso, soprattutto con dichiarazioni del CEO Elon Musk come: "Ora puoi guardare il tuo telefono mentre lo usi".

Questo è chiaramente un comportamento sconsiderato. Man mano che il sistema migliora, Tesla deve impegnarsi maggiormente per convincere i conducenti a prestare attenzione a questo problema di eccessiva sicurezza, e non il contrario.