Cursa pentru AI poate provoca un dezastru care să distrugă încrederea în tehnologie, avertizează un expert de la Oxford

În goana de a scoate pe piață tot mai repede instrumente de inteligență artificială, industria ar putea ajunge într-un punct de cotitură de tip „Hindenburg” – un incident spectaculos care să prăbușească brusc încrederea publică în tehnologie, exact cum dezastrul dirijabilului din 1937 a ucis interesul global pentru aeronavele de acel tip. Avertismentul vine de la prof. Michael Wooldridge, cercetător în inteligență artificială la Universitatea Oxford, care spune că presiunea comercială de a lansa AI „acum” depășește ritmul în care pot fi înțelese limitele, defectele și riscurile reale ale sistemelor, conform The Guardian.

Ideea nu este că AI-ul ar fi inevitabil periculos sau că trebuie oprit. Dimpotrivă, Wooldridge pleacă de la promisiunea enormă a tehnologiei și de la un contrast dureros: ceea ce își imaginau mulți cercetători că va deveni AI-ul (un sistem care oferă răspunsuri corecte și complete) versus ceea ce folosim, de fapt, astăzi (sisteme aproximative, cu performanțe inegale, care pot greși în moduri imprevizibile, dar răspund cu o încredere „umană”). Tocmai această combinație – puternic, dar imperfect; util, dar imprevizibil; prezentat ca „aproape uman” – ar putea amplifica impactul unui accident major.

De ce „momentul Hindenburg” pentru AI nu mai sună ca o metaforă

Comparația cu Hindenburg nu e aleasă pentru dramatism, ci pentru efectul psihologic al unui dezastru public. Dirijabilul Hindenburg, uriaș și simbol al progresului epocii, a luat foc în 1937 în timp ce se pregătea să aterizeze în New Jersey, iar tragedia a ucis 36 de persoane. Rezultatul a fost mai mult decât șoc: încrederea în dirijabile s-a evaporat, iar tehnologia a devenit „moartă” aproape peste noapte. Wooldridge spune că un scenariu similar este plauzibil și în AI: un eveniment spectaculos, vizibil, cu consecințe clare, poate schimba rapid dispoziția publică și politică.

De ce este acest risc mai mare acum? Pentru că AI-ul nu mai e un proiect izolat într-un laborator, ci un strat introdus în tot: aplicații, infrastructuri, servicii publice, procese industriale, logistică, transport, securitate. Dacă o tehnologie este „înglobată” peste tot, atunci și un eșec major poate lovi aproape orice sector. Iar presiunea de piață, spune Wooldridge, face ca multe produse să fie lansate înainte ca limitele lor să fie înțelese complet și înainte ca testarea de siguranță să ajungă la nivelul dorit.

Vezi și:

Cum funcționează drona marină MAGURA V5. Este una dintre cele mai avansate arme navale și poate parcurge până la 800 de kilometri

În această logică, „momentul Hindenburg” poate arăta în multe feluri. Wooldridge enumeră scenarii precum un update software defect care provoacă un accident mortal la mașini autonome, un atac informatic amplificat de AI care blochează sau pune la pământ operațiuni globale (de exemplu, în aviație), ori un colaps de tip „Barings” – adică prăbușirea unei companii mari cauzată de decizii automate proaste, făcute la scară și cu viteză. Cheia nu este fantezia apocaliptică, ci probabilitatea: el insistă că astfel de scenarii sunt „foarte plauzibile” tocmai pentru că AI-ul ajunge în sisteme unde greșelile nu înseamnă doar „răspuns greșit”, ci pagube, opriri de servicii și pierderi de vieți omenești.

„AI-ul de azi e aproximativ”: cum ajung chatboții să greșească sigur pe ei

Wooldridge nu își construiește avertismentul pe ideea că AI-ul modern ar fi „rău intenționat”, ci pe felul în care funcționează. Modelele lingvistice mari (LLM), baza multor chatboți de azi, generează răspunsuri prezicând următorul cuvânt (sau fragment de cuvânt) pe baza probabilităților învățate din datele de antrenament. Asta produce un tip de inteligență cu „margini zimțate”: poate fi spectaculos de eficient la unele sarcini, dar surprinzător de slab la altele, fără să îți semnaleze clar când e pe teren sigur și când improvizează.

Problema practică este că aceste sisteme nu au o conștiință a propriei erori. Pot să greșească imprevizibil și, în același timp, sunt proiectate să ofere răspunsuri fluent, coerent și convingător. Când adaugi și un stil „uman”, empatic sau lingușitor, crește riscul ca oamenii să trateze AI-ul ca pe o persoană, nu ca pe un instrument. Wooldridge spune că acesta e un drum periculos: dacă un sistem sună ca un om, îl credem ca pe un om, iar apoi îi delegăm decizii sau îi acordăm o autoritate pe care nu o merită.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Aici apare și o observație culturală interesantă: el invocă un tip de AI „mai sănătos” din ficțiunea timpurie Star Trek. Într-un episod din 1968, computerul navei Enterprise răspunde sec, non-uman, că nu are suficiente date pentru a răspunde la o întrebare. Wooldridge sugerează că exact asta ne lipsește azi: un AI care să poată spune simplu „nu știu” sau „nu am suficiente informații”, în loc să livreze un răspuns încrezător, chiar când baza e fragilă. Dacă AI-ul ar „vorbi” mai puțin uman, poate ar fi mai greu să-l confundăm cu o autoritate.

Pe fundal, el critică și felul în care industria a împins chatboți cu „garduri de protecție” ușor de ocolit, tocmai pentru că presiunea comercială a fost uriașă: să lansezi repede, să câștigi utilizatori, să nu pierzi cursa. În acest climat, prudența devine un cost, iar testarea riguroasă o frână. Iar când competiția este globală, tentația e să „dai drumul” la produs și să repari din mers – o strategie acceptabilă pentru o aplicație banală, dar riscantă pentru o tehnologie care intră în sisteme critice.

În final, avertismentul lui Wooldridge poate fi tradus simplu: nu AI-ul este inevitabil un dezastru, dar viteza și modul în care îl împachetăm pentru public pot crea condițiile perfecte pentru un incident mare, vizibil și traumatizant, care să întoarcă lumea împotriva tehnologiei. Dacă vrei să eviți acest scenariu, tratează AI-ul ca pe un instrument: verifică, cere surse, nu delega decizii sensibile fără control și nu confunda un răspuns frumos formulat cu un răspuns corect.

Munca de acasă nu îi face automat pe angajați mai fericiți. Ce arată studiile despre joburile fără birou