Momentul „Cernobîl” al AI de care se tem cercetătorii: atacul care ar putea întoarce lumea împotriva inteligenței artificiale

Inteligența artificială este promovată drept tehnologia care va schimba medicina, educația, industria, cercetarea și modul în care lucrăm. Dar, pe măsură ce modelele devin mai capabile să scrie cod, să automatizeze sarcini și să acționeze aproape autonom, crește și teama că un singur incident major ar putea schimba brutal percepția publică asupra AI.

Mai mulți cercetători din Statele Unite și China cer acum cooperare internațională înainte ca un astfel de moment să se producă. Comparația lor este una dură: inteligența artificială nu are nevoie de un „moment Cernobîl”, adică de un dezastru suficient de grav încât să provoace victime, să lovească infrastructura critică sau să transforme încrederea publică în respingere totală.

Ce ar putea însemna un „moment Cernobîl” pentru inteligența artificială

Nimeni nu poate spune cu precizie cum ar arăta un incident major provocat sau amplificat de AI. Nu trebuie să fie neapărat un scenariu de film cu roboți care se întorc împotriva oamenilor. Riscul mai realist ar putea veni din folosirea modelelor avansate pentru atacuri informatice la scară mare, sabotaj digital, fraude sofisticate, dezinformare coordonată sau compromiterea unor sisteme esențiale.

Un model AI capabil să scrie cod poate ajuta programatorii să găsească mai repede erori, să repare vulnerabilități și să automatizeze munca repetitivă. Aceeași capacitate poate fi însă folosită de atacatori pentru a analiza cod public, a identifica puncte slabe și a crea metode de exploatare într-un timp mult mai scurt decât în trecut.

Vezi și:

Noi furtuni sunt anunţate în Bucureşti, miercuri. Meteorologii spun că nu am scăpat de vremea rea

Așa cum am explicat și în materialul despre hackerii care folosesc AI pentru a transforma vulnerabilitățile în atacuri, adevărata schimbare nu este că inteligența artificială inventează instant atacuri imposibile. Problema este că reduce dramatic timpul, costurile și nivelul de expertiză necesar pentru a încerca un atac periculos.

Un incident major ar putea avea efecte mult dincolo de compania sau instituția vizată. Imaginează-ți un atac care blochează rețele medicale, servicii publice, sisteme financiare sau infrastructură energetică. Chiar dacă AI-ul nu ar lua singur deciziile, simplul fapt că ar fi accelerat atacul ar putea genera o reacție publică și politică extrem de dură.

De ce SUA și China ar trebui să colaboreze, chiar dacă sunt rivale

Statele Unite și China concurează agresiv pentru supremația în inteligență artificială. Se luptă pentru cipuri, centre de date, cercetători, modele mai capabile și influență geopolitică. Totuși, cercetătorii prezenți la conferința de la Beijing susțin că riscurile AI nu respectă granițele unei țări.

Vezi și:

Anthropic lansează Claude Sonnet 5, modelul AI mai ieftin și mai puternic, dar cu limite clare în securitate cibernetică

Hoții au descoperit o nouă țintă în era inteligenței artificiale: centrele de date devin mine de cupru de milioane de dolari

Un atac cibernetic lansat cu ajutorul unui model avansat poate fi pregătit într-o țară, poate lovi infrastructura din alta și poate afecta companii sau oameni din întreaga lume. De aceea, standardele de siguranță, evaluările înainte de lansarea modelelor și schimbul de informații despre riscuri devin importante chiar și între state care nu au încredere deplină unele în altele.

Lin Yun, profesor la Shanghai Jiao Tong University, a atras atenția că atacatorii ar putea avea un avantaj pe termen scurt, înainte ca apărarea să se adapteze. Totuși, AI-ul poate deveni și o armă defensivă: poate identifica vulnerabilități, analiza volume uriașe de date și ajuta echipele de securitate să răspundă mai repede.

Această dublă natură face situația dificilă. Un model capabil să găsească o breșă software poate fi valoros pentru o companie care vrea să își securizeze produsele, dar periculos dacă ajunge pe mâna unor persoane rău intenționate. Un exemplu recent este modelul AI considerat prea periculos pentru acces public, despre care Anthropic a susținut că poate identifica și lega vulnerabilități grave din sisteme și browsere.

AI-ul nu trebuie oprit, dar trebuie testat înainte să fie prea târziu

Mesajul cercetătorilor nu este că inteligența artificială trebuie interzisă sau că orice model mai puternic este automat o amenințare. Problema este lipsa unor reguli comune pentru sisteme care pot deveni extrem de capabile și pot ajunge rapid în mâinile a milioane de oameni.

Modelele open-weight, ale căror parametri pot fi descărcați și modificați local, complică și mai mult lucrurile. Ele sunt utile pentru cercetare, transparență și inovare, dar sunt mai greu de controlat după ce au fost lansate. Odată răspândite online, nu mai pot fi retrase cu adevărat.

Cea mai realistă soluție este o combinație de teste serioase înainte de lansare, limitarea accesului la funcții cu risc ridicat, colaborare între companii și autorități, plus reguli clare pentru dezvoltatorii de modele de frontieră. Nu este o garanție absolută împotriva unui dezastru, dar poate reduce șansa ca lumea să afle cât de periculoasă poate deveni AI-ul abia după primul incident devastator.

Frații Pavăl iau cel mai mare credit acordat vreodată în România. Împrumutul uriaș cu care cumpără Carrefour