Un expert în mașini autonome s-au prăbușit cu o Tesla care se conducea singură. La ce concluzie a ajuns fostul șef Uber

Povestea care a reaprins dezbaterea despre Tesla și promisiunile sale de autonomie nu vine de la un critic de profesie și nici de la un șofer neatent care a înțeles greșit ce poate face mașina. Vine de la Raffi Krikorian, actual CTO la Mozilla și fostul șef al diviziei de mașini autonome de la Uber, un om care a lucrat direct cu sisteme de conducere autonomă și cu proceduri de intervenție pentru șoferii de siguranță. Într-un eseu publicat în The Atlantic, el a povestit cum și-a făcut praf Tesla Model X în timp ce folosea Full Self-Driving pe o stradă rezidențială, cu copiii în mașină. Tocmai această combinație dintre experiența profesională și accidentul personal transformă relatarea lui într-una dintre cele mai puternice critici aduse până acum ideii de autonomie „supravegheată” vândute de Tesla.

Accidentul nu a avut loc într-un context exotic și nici pe un traseu experimental. Krikorian descrie o deplasare banală de duminică, făcută de sute de ori înainte, către o întâlnire Boy Scouts, printr-o zonă rezidențială din Bay Area. Tesla rula în FSD și totul a părut normal până în momentul în care, intrând într-un viraj, sistemul a început să se comporte haotic. Potrivit relatării sale, volanul a smucit brusc, mașina a decelerat neașteptat, iar deși a încercat să preia controlul, nu a mai avut timp să evite impactul cu un zid de beton. El a suferit o comoție și dureri de cap, copiii au scăpat nevătămați, iar mașina a fost declarată daună totală.

Concluzia la care a ajuns nu este că tehnologia de asistență este inutilă în sine, ci că problema reală stă în felul în care Tesla cere oamenilor să supravegheze un sistem conceput exact pentru a face supravegherea tot mai artificială și mai greu de menținut. Iar aici discuția devine mult mai serioasă decât simpla întrebare dacă FSD a greșit într-o curbă sau într-un caz particular. În analiza lui Krikorian, defectul nu este doar tehnic, ci și psihologic: sistemul funcționează suficient de bine cât să te condiționeze să ai încredere în el, dar nu suficient de bine încât să elimine nevoia de intervenție umană în momentele limită.

Accidentul care spune mai mult decât un simplu impact

Ceea ce face povestea atât de importantă este profilul protagonistului. Krikorian nu este doar un utilizator entuziast de tehnologie, ci cineva care a condus programe serioase de autonomie la Uber și care a lucrat exact pe problema fundamentală a intervenției umane atunci când sistemul automat cedează. Business Insider remarca pe bună dreptate că, dacă un om cu această experiență a ajuns prins în capcana încrederii treptate în sistem, atunci problema nu mai poate fi tratată ca o simplă eroare individuală de utilizare.

Vezi și:

Românii vor avea patru zile libere la rând. Când este programată următoarea minivacanță

În eseul său, Krikorian explică faptul că a început să folosească FSD mai întâi pe autostradă, unde logica de funcționare părea mai ușor de acceptat, cu marcaje clare și trafic mai previzibil. Apoi a început să-l folosească și pe drumuri locale, pentru că sistemul părea să se descurce bine. Din acel punct, utilizarea a devenit obicei. Tocmai asta este cheia întregii sale analize: nu faptul că șoferul a adormit la volan sau a lăsat complet mâinile din control, ci că un sistem care merge bine de foarte multe ori reconfigurează treptat comportamentul uman și reduce vigilența chiar și atunci când șoferul crede sincer că este atent.

Mai există și componenta juridică, pe care Krikorian o atinge direct și care este extrem de incomodă pentru Tesla. După accident, numele de pe documentele de asigurare și de răspundere a fost al lui, nu al companiei. Asta pentru că sistemul FSD rămâne încadrat legal ca Level 2, ceea ce înseamnă că responsabilitatea finală aparține întotdeauna omului din spatele volanului. Cu alte cuvinte, când tehnologia funcționează, beneficiul de imagine merge către Tesla. Când lucrurile merg prost, răspunderea cade pe șofer.

Problema supravegherii: de ce omul nu poate fi gardianul perfect al unei mașini aproape autonome

Aici se află miezul concluziei fostului șef Uber. Krikorian spune că Tesla cere oamenilor să supravegheze un sistem care, prin natura lui, face această supraveghere să pară inutilă. Dacă o mașină este clar nesigură, rămâi în alertă. Dacă este perfect autonomă, nu mai ai nimic de supravegheat. Dar un sistem care merge bine în 99% din timp produce exact cea mai periculoasă combinație: suficientă încredere pentru relaxare și suficientă imperfecțiune pentru a cere reacții umane imposibil de rapide.

Vezi și:

Moment istoric pentru Elon Musk: SpaceX se apropie de un record care nu a mai fost atins

Proprietar de Tesla câștigă în instanță 9.300 de euro pentru promisiunile FSD: cazul care poate speria compania lui Musk

Această idee este susținută și de literatura despre „vigilance decrement”, fenomenul prin care oamenii devin mai puțin atenți atunci când trebuie să monitorizeze pasiv un sistem care funcționează aproape mereu corect. Krikorian citează inclusiv cercetări care arată că oamenii au nevoie de câteva secunde pentru a se reconecta mental la sarcina de condus după ce au lăsat automatizarea să lucreze. Problema este că multe urgențe apar și se dezvoltă mai repede decât acel interval. În lumea reală, câteva secunde de întârziere nu înseamnă doar o reacție mai lentă, ci diferența dintre sperietură și accident.

Exact aici se vede de ce argumentul „șoferul trebuia să fie atent” este prea comod și prea simplu. Desigur, legal el trebuia să fie atent. Dar psihologic și operațional, sistemul îl antrenează să intre într-o zonă gri în care mintea nu mai stă în poziția de pilot permanent, ci într-o stare de supraveghere relaxată. Iar când sistemul greșește, omului i se cere să treacă instantaneu de la quasi-pasager la salvator total al situației. Krikorian susține că tocmai această tranziție este matematica imposibilă a FSD-ului supravegheat.

De ce critica lui contează mai mult decât multe alte atacuri la adresa Tesla

Relatarea lui Krikorian este puternică și pentru că nu vine dintr-o poziție ideologică simplă. El nu spune că orice formă de automatizare este rea și nici că mașinile autonome sunt o fantezie imposibilă. Dimpotrivă, vine din interiorul industriei și știe exact cât de mult pot ajuta aceste sisteme atunci când sunt proiectate, limitate și supravegheate corect. Tocmai de aceea, criticile lui la adresa etichetei de „supervised self-driving” sunt mult mai greu de ignorat.

El mai ridică și problema modului în care Tesla folosește datele după accidente. În eseul din The Atlantic, Krikorian spune că mașina colectează constant date despre poziția mâinilor, privire și timp de reacție și că, în practică, astfel de informații pot fi folosite pentru a muta vina către șofer. În paralel, accesul utilizatorilor la propriile date nu a fost întotdeauna simplu sau complet. Acest contrast întărește ideea că supravegherea umană nu funcționează doar ca soluție de siguranță, ci și ca scut juridic pentru companie.

În plus, contextul de reglementare apasă tot mai tare. Reuters a relatat recent că NHTSA a ridicat investigația privind FSD la nivelul unei analize inginerești, un pas serios care poate preceda un recall, iar numărul vehiculelor vizate este acum de aproximativ 3,2 milioane. Investigația se uită la modul în care sistemul gestionează degradarea vizibilității și dacă alertele către șoferi sunt suficient de rapide și eficiente. Cu alte cuvinte, exact problema transferului de responsabilitate și a timpului de reacție uman este deja sub presiune nu doar mediatică, ci și instituțională.

La ce concluzie a ajuns, de fapt, fostul șef Uber

Concluzia lui Krikorian poate fi rezumată simplu, chiar dacă implicațiile sunt uriașe: sistemele de tip Tesla FSD devin mai periculoase tocmai pe măsură ce devin mai bune, pentru că îi condiționează pe oameni să nu mai fie cu adevărat prezenți mental în sarcina de condus. Nu este o critică la adresa ideii de automatizare în sine, ci la adresa acestei forme hibride în care compania ia avantajul de marketing al cuvântului „self-driving”, dar păstrează integral povara juridică și reflexul de ultimă instanță în cârca omului.

El sugerează, implicit, că problema nu poate fi rezolvată doar printr-un mesaj pe ecran care îi spune șoferului să rămână atent. Dacă produsul funcționează suficient de lin și de convingător luni la rând, utilizatorul va fi inevitabil condiționat să aibă mai multă încredere decât ar trebui. Într-un asemenea cadru, eticheta de „supravegheat” nu mai este o soluție reală de siguranță, ci mai degrabă o formulă legală prin care compania își cumpără timp și protecție.

Comparația cu BYD, adusă în discuție și de Electrek, este relevantă tocmai pentru că arată că răspunderea partajată nu este o imposibilitate tehnică sau juridică absolută. În 2025, BYD a anunțat că își asumă răspunderea pentru daunele provocate de anumite incidente legate de funcția sa autonomă de parcare în China. Este un exemplu limitat, dar suficient cât să arate că industria poate alege și altă filozofie decât aceea în care producătorul încasează gloria iar șoferul rămâne singur cu nota de plată.

În final, cea mai dură idee din toată această poveste este și cea mai simplă: dacă până și un om care a condus programe de autonomie și a instruit șoferi de siguranță a fost prins în capcana încrederii induse de FSD, atunci problema nu mai poate fi redusă la neatenția unor utilizatori obișnuiți. Ea ține de însăși arhitectura relației dintre om și sistem. Iar asta face ca accidentul lui Raffi Krikorian să fie mai mult decât un incident personal. Îl transformă într-un avertisment foarte serios despre limitele psihologice ale așa-zisei autonomii supravegheate.