Credo che chiunque abbia una Tesla o stia pensando di acquistarne una debba riflettere seriamente su questo video prodotto dalla BBC.
L’embed non funziona (se qualcuno sa come farlo funzionare, lo dica nei commenti), per cui vi riassumo il video, invitandovi a guardare l’originale: nella prima parte del test, l’auto segue correttamente le corsie e rallenta altrettanto correttamente, fino a fermarsi, quando l‘auto che le sta davanti incontra un veicolo fermo, rallenta e si ferma.
Ma nella seconda parte del test, l‘auto che precede la Tesla cambia corsia per evitare il veicolo fermo e la Tesla procede, senza rallentare, fino a centrare in pieno il veicolo fermo.
So che Tesla sta correndo per installare software meno fallimentare di questo, e che la sua release più recente (la 21.9, in distribuzione in queste ore a tutta la flotta) riduce drasticamente il tempo per il quale si possono togliere le mani dal volante, ma a mio parere l’Autopilot attuale (quello mostrato nel video) non può neanche essere considerato un assistente di guida. È un pericolo, perché fallisce in situazioni che l’utente non ha motivo di aspettarsi e che per un essere umano sono assolutamente ovvie.
È vero che questa situazione è indicata specificamente nel manuale, ma quanti conducenti se ne ricorderanno e la terranno costantemente presente durante la guida con Autopilot, il cui scopo è ridurre la fatica (e quindi l’attenzione) di chi guida?
Si tratta di un comportamento che è già segnalato nel libretto (manuale model x in foto) e che è rilevabile anche quando una moto scarta l’ultima auto (già ferma) quando ci si avvicina alla coda ad un semaforo. pic.twitter.com/FnHNq3ZIdA— Telemaco (@teleblin) June 12, 2018
Il manuale della Tesla Model X dice: “Avvertimento: Il Cruise Control adattativo al traffico potrebbe non rilevare oggetti e potrebbe non frenare o decelerare in presenza di veicoli fermi, soprattutto se si procede a velocità superiori a 80 km/h e il veicolo antistante si sposta dal percorso di marcia e ci si trova davanti a un veicolo fermo un oggetto immobile. Prestare sempre attenzione alla strada davanti a sé ed essere sempre pronti a prendere immediatamente azioni correttive.”
Il problema di qualunque sistema di guida assistita di questo genere (BBC cita sia Autopilot di Tesla, sia Propilot di Nissan) è in quel potrebbe, che crea incertezza e che rischia di aumentare i tempi di reazione invece di ridurli: il conducente tenderà a lasciar fare al sistema, che spesso funzionerà correttamente e quindi farà aumentare man mano la fiducia del conducente, ma poi fallirà inaspettatamente, come in questo caso, e il conducente spenderà secondi preziosi per valutare se il sistema sta per intervenire o no. Quando si accorge che il sistema non solo non interviene, ma sta creando una condizione di pericolo, può essere troppo tardi.
Scritto da Paolo Attivissimo per il blog Il Disinformatico. Ripubblicabile liberamente se viene inclusa questa dicitura (dettagli). Sono ben accette le donazioni Paypal.
