Smettetela di fidarvi ciecamente di ogni riga di codice che vi viene venduta come ‘rivoluzionaria’ solo perché gira su un hardware proprietario e costoso.
La notizia che arriva dagli Stati Uniti è di quelle che ti fanno venire voglia di buttare lo smartphone nel primo cestino che incontri. Un’altra Tesla, impegnata nella sua missione di guidare da sola (o quasi), ha deciso improvvisamente che il centro di un’autostrada trafficata era il posto ideale per un momento di riflessione. Il risultato? Un tamponamento brutale e, purtroppo, la morte del conducente.
Per chi non fosse aggiornato sul dramma dei software di guida assistita, il problema non è solo che il sistema possa sbagliare (siamo umani, e pure gli algoritmi lo sono, se li addestriamo male), ma è il modo in cui gestisce gli imprevisti. In questo caso, il veicolo si è fermato nel bel mezzo del traffico in movimento. Immaginate la scena: siete in autostrada, la velocità è quella da record, e all’improvviso davanti a voi appare un ostacolo fisso che non doveva esserci. Se il sistema non riesce a interpretare correttamente la scena o decide che la ‘soluzione ottimale’ sia l’arresto immediato senza coordinazione con gli altri veicoli, siamo fritti.
Certo, leggendo la notizia potremmo pensare: ‘Beh, tanto in Italia le nostre strade sono così piene di buche e imprevisti che un’auto che si ferma di colpo sarebbe l’ultimo dei nostri problemi’. E non è proprio falso. Tra un tram che non guarda, un ciclista che appare dal nulla e un cartello stradale coperto di edera, il nostro scenario è un incubo per qualsiasi sensor set. Ma questo non giustifica l’arroganza di chi lancia sul mercato funzioni che sembrano ancora in fase beta, chiamandole ‘Full Self-Driving’ mentre sono, di fatto, degli assistenti alla guida che richiedono una supervisionazione costante.
Il punto non è la tecnologia in sé – l’idea di auto che si scambiano dati e gestiscono il traffico è fantastica, da veri nerd della logistica – ma l’ecosistema chiuso e l’hype tossico che accompagna questi rilasci. Quando un vendor decide che la ‘user experience’ deve includere test su strada reali senza una trasparenza totale su come l’algoritmo reagisce ai bordi del dataset, il prezzo da pagare è troppo alto.
Non è una questione di ‘scetticismo verso il progresso’, ma di rispetto per la realtà fisica. Un bug su un server può causare un downtime di un sito web; un bug su un veicolo in autostrada è una tragedia. Forse è il momento di smetterla di celebrare ogni nuovo aggiornamento software come se fosse l’ultimo capitolo di una saga sci-fi, e iniziare a chiederci cosa succede quando il codice decide di ignorare le leggi della fisica e del buon senso.
Source: Another Tesla on Autopilot Stopped on Freeway, Driver Died: Report