Tesla cu FSD activ trece direct peste un buștean la peste 50 km/h. Mașina nu frânează și nu încearcă să-l evite
O înregistrare publicată de proprietarul unei Tesla a atras sute de mii de vizualizări după ce automobilul a trecut direct peste un buștean aflat transversal pe șosea în timp ce utiliza Full Self-Driving v14.1 Lite. Mașina se deplasa cu aproximativ 32 mph, echivalentul a puțin peste 51 km/h, pe un drum rural umed și cu vizibilitate afectată de ceață.
Din imaginile descrise de proprietar, sistemul FSD era activ, dar automobilul nu a frânat și nu a făcut o manevră vizibilă de evitare înainte de impact. Șoferul a recunoscut ulterior că ar fi trebuit să supravegheze mai atent sistemul, dar a subliniat în același timp că mașina ar fi trebuit să identifice obstacolul și să reacționeze.
FSD Lite încearcă să aducă noul software pe hardware-ul Tesla mai vechi
Automobilul implicat era echipat cu Hardware 3, cunoscut și drept AI3, și rula cea mai recentă versiune FSD v14.1 Lite disponibilă pentru această platformă. FSD Lite este o versiune redusă a arhitecturii software v14 create inițial pentru hardware-ul mai nou al Tesla.
Hardware 3 are aproximativ 8 GB de memorie și o lățime de bandă semnificativ mai redusă decât generațiile ulterioare. Adaptarea noilor modele AI la acest hardware reprezintă o provocare importantă deoarece Tesla a vândut milioane de automobile prezentându-le drept capabile pentru Full Self-Driving.
După lansarea versiunilor Lite, mai mulți proprietari au raportat probleme legate de temperaturile computerului AI, ezitări, frânări nejustificate și alte comportamente neobișnuite. Au existat cazuri în care temperaturile raportate au depășit 90 de grade Celsius și sistemul a solicitat dezactivarea funcțiilor de conducere asistată.
Tesla a introdus actualizări pentru a diminua aceste probleme, iar incidentul cu bușteanul s-a produs pe o versiune care includea deja asemenea modificări. Un singur caz nu poate demonstra existența unei defecțiuni generale, însă este relevant pentru evaluarea limitelor sistemului.
Un obstacol mare și static aflat în mijlocul benzii pare, pentru un șofer uman, una dintre cele mai simple situații de interpretat. Pentru un sistem AI bazat pe percepție vizuală, problema implică recunoașterea obiectului, estimarea dimensiunilor și distanței, calcularea riscului și alegerea unei manevre sigure într-un interval foarte scurt.
Problema nu este doar tehnică, ci și comportamentul șoferului
Reacția proprietarului după incident surprinde una dintre cele mai dificile probleme ale sistemelor de automatizare de nivel 2. El a admis că trebuia să fie mai atent, dar a susținut în același timp că automobilul ar fi trebuit să se oprească. Cele două afirmații nu se exclud.
FSD Supervised presupune în continuare că șoferul urmărește permanent drumul și intervine atunci când sistemul face o eroare. Paradoxul este că, pe măsură ce software-ul devine mai bun și parcurge sute de kilometri fără greșeli evidente, utilizatorul poate începe să aibă mai multă încredere și să supravegheze mai puțin atent.
Aceasta este o problemă clasică de automatizare. Un sistem care greșește permanent este ușor de supravegheat, pentru că omul nu are încredere în el. Un sistem care funcționează impecabil 99,9% din timp poate fi mai dificil, deoarece șoferul este solicitat să rămână pregătit pentru o intervenție care poate apărea extrem de rar.
La peste 50 km/h, impactul cu un buștean suficient de mare poate provoca daune importante trenului de rulare, bateriei, suspensiei și podelei. Pentru o mașină electrică, verificarea bateriei după un impact serios în partea inferioară este deosebit de importantă.
Cazul este relevant inclusiv pentru proprietarii Tesla din România care folosesc funcții de asistență disponibile pe automobile Hardware 3. Denumirea Full Self-Driving nu trebuie interpretată ca permisiunea de a ignora drumul. Atât timp cât sistemul este Supervised, șoferul rămâne ultima linie de apărare.
În același timp, responsabilitatea supravegherii nu elimină nevoia de a analiza erorile software. Dacă un obstacol suficient de evident poate fi ratat, dezvoltatorul trebuie să înțeleagă de ce s-a întâmplat și dacă situația se poate repeta. Tocmai combinația dintre încrederea utilizatorului și limitele încă existente ale sistemului face asemenea incidente mult mai importante decât simplul clip viral de pe internet.