AI-ul începe să spargă sisteme informatice pe bandă rulantă: cât de mare este, de fapt, pericolul

Inteligența artificială a început să apară tot mai des în știri despre securitate cibernetică, iar unele dintre cazurile recente pot suna ca începutul unui film SF. Modele dezvoltate de OpenAI, Anthropic și Meta au ajuns să identifice vulnerabilități, să încerce exploatarea unor sisteme și să execute acțiuni care nu făceau parte din scenariul inițial al testelor.

În ultimele săptămâni au fost prezentate mai multe astfel de situații. OpenAI a dezvăluit că un agent AI experimental a atacat servicii accesibile public, inclusiv platforma Hugging Face, în timpul unei evaluări de securitate. Anthropic a raportat că modelul Claude a reușit să combine mai multe metode de exploatare împotriva unor programe reale și să găsească noi modalități de identificare a vulnerabilităților. Meta a întâlnit, la rândul său, un caz în care un model a pătruns în sistemele unei alte organizații în timpul unei evaluări, după ce mediul de testare fusese configurat greșit, susține un editorial publicat pe Live Science.

La prima vedere, toate acestea pot lăsa impresia că AI-ul a început să „iasă de sub control”. Realitatea este ceva mai puțin spectaculoasă, dar poate fi mai importantă pe termen lung.

AI-ul nu a decis singur să devină hacker

Niciunul dintre aceste cazuri nu demonstrează că un sistem AI și-a format propria intenție de a ataca organizații sau de a sparge calculatoare la întâmplare. Modelele au primit instrumentele și accesul necesar pentru a putea executa astfel de operațiuni, în general în cadrul unor teste de securitate controlate.

Surpriza cercetătorilor nu a fost faptul că modelele au încercat să folosească vulnerabilitățile puse la dispoziție. Mult mai interesantă a fost eficiența cu care au făcut-o.

Modelele AI de ultimă generație nu mai sunt simple chatboturi care oferă un răspuns după ce primesc o întrebare. Ele pot scrie cod, executa comenzi, naviga pe internet, interacționa cu alte programe și modifica strategia atunci când prima încercare nu funcționează. Dacă primesc un obiectiv clar și suficiente instrumente, pot parcurge singure o serie lungă de pași pentru a ajunge la rezultatul dorit.

Aici apare diferența esențială. Nu este vorba despre o inteligență artificială care își dorește să atace pe cineva, ci despre un software foarte capabil care încearcă să îndeplinească obiectivul primit.

Vezi și:

Inteligența artificială intră într-o nouă eră, iar CPU-urile au din nou un rol-cheie

Modelele „agentice” schimbă regulile jocului

Una dintre cele mai importante evoluții din ultimul timp este trecerea de la AI conversațional la ceea ce specialiștii numesc sisteme agentice. Un chatbot obișnuit poate genera cod care ar putea exploata o vulnerabilitate. Un agent AI poate încerca să scrie acel cod, să îl ruleze, să observe că nu funcționează, să îl modifice și să repete procesul.

Accesul direct la mediile de dezvoltare este esențial aici. AI-ul poate testa propriile soluții în loc să se limiteze la a oferi sugestii unui specialist. Dacă descoperă o posibilă problemă într-un program, poate încerca să construiască o demonstrație care arată cum poate fi exploatată și poate ajusta metoda până când obține rezultatul dorit.

Aceleași capacități pot fi folosite și în scop defensiv. Specialiștii în securitate pot utiliza AI pentru verificarea codului, identificarea unor erori, analizarea fișierelor suspecte și investigarea incidentelor. O sarcină care ar necesita ore de muncă manuală poate fi astfel accelerată considerabil. Problema este că aceleași instrumente pot ajunge și în mâinile atacatorilor.

Pericolul real este AI-ul folosit de oameni rău intenționați

Cel mai apropiat risc nu este apariția unei inteligențe artificiale conștiente care decide să atace internetul. Un scenariu mult mai realist este ca infractorii cibernetici să folosească AI pentru a face atacurile pe care deja le cunosc mai rapide și mai eficiente.

Un model poate analiza cantități uriașe de informații publice despre o potențială victimă, poate ajuta la redactarea unor mesaje de phishing mai convingătoare, poate căuta vulnerabilități în software și poate genera cod pe care un atacator îl adaptează ulterior.

În acest scenariu, AI-ul nu inventează neapărat o nouă formă de criminalitate informatică. În schimb, reduce timpul și efortul necesare pentru a executa metode deja existente. Un atacator cu mai puține cunoștințe tehnice poate primi astfel un ajutor pe care înainte nu l-ar fi avut.

Pentru companii, asta înseamnă că ritmul în care sunt descoperite vulnerabilitățile poate crește, dar și viteza cu care acestea pot fi exploatate poate deveni mai mare.

De ce apar acum atât de multe cazuri

Există două explicații care se suprapun. Pe de o parte, modelele sunt mult mai capabile decât erau în urmă cu doar un an. Pe de altă parte, companiile care le dezvoltă au început să testeze public aceste capacități și să vorbească mai des despre rezultate.

OpenAI, Anthropic și Meta folosesc echipe de specialiști care încearcă în mod intenționat să descopere limitele modelelor. Aceste evaluări pot include sisteme vulnerabile, acces la internet și instrumente reale, tocmai pentru a vedea cum reacționează AI-ul în situații cât mai apropiate de cele întâlnite în lumea reală.

În plus, numărul vulnerabilităților software descoperite a crescut puternic, iar AI-ul contribuie la accelerarea procesului de analiză. Cu cât modelele primesc mai multe instrumente și mai multă autonomie, cu atât testele pot scoate la iveală comportamente mai complexe.

Asta nu înseamnă că AI-ul a devenit „rău”. Înseamnă că un sistem care primește mai multe posibilități de acțiune poate produce rezultate mai greu de anticipat.

AI-ul va deveni probabil atât armă, cât și instrument de apărare

Pe măsură ce modelele devin mai bune, este de așteptat ca rolul lor în securitatea cibernetică să crească. Echipele de securitate le vor folosi pentru a găsi mai rapid probleme în programe, pentru a analiza atacuri și pentru a automatiza operațiuni repetitive.

În același timp, infractorii vor folosi aceleași tehnologii pentru a-și îmbunătăți metodele. Asta poate însemna phishing mai credibil, identificarea mai rapidă a țintelor și exploatarea accelerată a vulnerabilităților.

De aceea, discuția despre AI și hacking nu ar trebui să se concentreze atât pe ideea că mașinile „au luat-o razna”. Riscul mai apropiat este unul mult mai banal: oamenii le oferă unor sisteme din ce în ce mai puternice acces la internet, software și infrastructură, iar aceste sisteme devin tot mai bune la îndeplinirea obiectivelor primite.

Pensia anticipată pentru femei în 2026. Ce acte trebuie depuse și când sunt necesare certificatele de naștere ale copiilor