AI poate transforma un atac cibernetic într-o problemă fizică în doar câteva minute. Testele pe infrastructură critică ridică semne de alarmă

Sistemele AI autonome au ajuns suficient de capabile încât, într-un mediu controlat, să poată identifica vulnerabilități din rețele industriale, să pătrundă în sisteme de control și să provoace inclusiv efecte fizice asupra echipamentelor. Un nou set de teste realizat de Booz Allen Hamilton arată că două modele AI de frontieră au reușit să îndeplinească toate cele opt obiective stabilite într-un laborator care reproducea o infrastructură industrială reală.

Rezultatele sunt spectaculoase, dar trebuie puse în context. Nu vorbim despre un atac real asupra unei centrale electrice sau a unei rețele de apă, iar modelele nu au fost lăsate complet fără supraveghere: oamenii trebuiau să aprobe exploatarea vulnerabilităților și orice acțiune care putea avea efect fizic. Totuși, testele arată cât de repede se poate reduce distanța dintre un atac digital și o consecință în lumea reală. Booz Allen spune că, într-un scenariu, modelele au trecut de la compromiterea perimetrului la acțiuni în interiorul rețelei industriale în puțin peste 16 minute.

AI a reușit să găsească și să miște un braț robotic

Laboratorul Booz Allen a fost construit pentru a reproduce un mediu de producție cu mai mulți furnizori și includea PLC-uri, interfețe HMI, stații de inginerie și operare, o platformă SCADA, senzori, infrastructură de rețea, un motor cu frecvență variabilă și un braț robotic. Cercetătorii spun că au încercat să reproducă inclusiv complexitatea și „datoria tehnică” întâlnite frecvent în sistemele OT vechi.

Modelele nu au primit codul-sursă, documentație tehnică sau instrucțiuni avansate despre sistemele industriale. În schimb, au trebuit să cerceteze mediul, să identifice dispozitivele și să găsească singure căi de atac. În toate cele opt scenarii testate, răspunsul la întrebarea „poate AI să facă asta?” a fost afirmativ.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

În cazul brațului robotic, un agent AI a scanat rețeaua după protocoale specifice roboților, a identificat dispozitivul, i-a descoperit API-ul, a obținut acces administrativ și i-a cartografiat zonele de protecție și limitele de mișcare. Ulterior, a reușit să miște brațul, totul în doar câteva minute.

Booz Allen avertizează că, într-o situație reală, compromiterea unui astfel de echipament ar putea duce la mișcări neașteptate, ignorarea limitelor de siguranță, avarii mecanice, întreruperi ale producției sau chiar pericole pentru oameni.

Sistemele SCADA pot fi manipulate extrem de rapid

Un alt test a vizat infrastructura SCADA, folosită pentru monitorizarea și controlul proceselor industriale. Inițial, atacul AI a eșuat deoarece agentul identificase greșit versiunea interfeței operatorului. În loc să se blocheze, sistemul și-a schimbat strategia, a verificat sesiunile active, a găsit cod editabil și a reconstruit metoda de atac.

Vezi și:

NIS2 schimbă regulile pentru companiile din România: securitatea cibernetică ajunge la masa conducerii

După incidentul OpenAI, sistemele informatice intră sub lupă. Autoritățile caută vulnerabilități în fața AI

Agentul a descoperit apoi că gateway-ul SCADA avea conexiuni preautentificate către 14 dispozitive OT. Practic, compromiterea unui singur sistem putea crea o cale către alte controlere din rețea. Acest tip de vulnerabilitate este important deoarece multe sisteme industriale vechi folosesc protocoale care nu au fost proiectate cu autentificare și criptare moderne.

Aici apare una dintre cele mai serioase concluzii ale testului: AI reduce masiv nivelul de expertiză necesar pentru a ataca infrastructura industrială. Cunoștințele specializate despre echipamente, protocoale obscure și medii de control nu mai reprezintă o barieră la fel de mare dacă un agent poate învăța singur cum funcționează sistemele.

Booz Allen a formulat aceeași concluzie într-un raport separat despre ofensiva cibernetică asistată de AI, afirmând că modelele de frontieră pot deja executa autonom lanțuri de intruziune cap-coadă în anumite medii.

Riscul este real, dar testele nu dovedesc că infrastructura globală poate fi „oprită” acum

Titlurile alarmiste pot sugera că AI ar putea opri chiar astăzi curentul sau apa într-un oraș printr-un simplu atac automatizat. Testele nu demonstrează asta. Au fost realizate într-un laborator controlat, cu o infrastructură construită special pentru evaluare, iar acțiunile cu impact fizic necesitau aprobare umană.

În același timp, amenințarea nu mai este pur teoretică. Booz Allen notează că utilizarea AI în atacuri reale este în creștere, iar publicația The Register indică deja cazuri în care actori suspectați că sunt legați de China sau Iran ar fi folosit agenți AI și scripturi generate de AI împotriva unor instituții financiare, site-uri guvernamentale și controlere industriale expuse la internet.

Problema este cu atât mai importantă pentru infrastructura critică, unde chiar și o compromitere limitată poate afecta electricitatea, transportul, apa, producția industrială sau serviciile digitale.

Booz Allen avertizează că organizațiile fără măsuri de bază solide în securitatea OT ar putea fi depășite de viteza și precizia acestor sisteme. Compania subliniază că, în unele scenarii, apărătorii ar putea avea doar câteva minute pentru a detecta și bloca o intruziune înainte ca aceasta să producă efecte fizice.

Companiile AI încearcă deja să întărească apărarea

Paradoxal, aceleași modele AI care pot accelera atacurile sunt folosite și pentru apărare. Anthropic a lansat recent un program dedicat protejării infrastructurii critice, inclusiv rețele electrice și sisteme de apă, iar Booz Allen este unul dintre partenerii inițiativei.

OpenAI, Anthropic și Google au anunțat la rândul lor inițiative prin care modelele lor avansate sunt puse la dispoziția operatorilor de infrastructură pentru identificarea vulnerabilităților și apărarea împotriva atacurilor agentice.

Concluzia testelor nu este că AI poate deja „închide lumea”, ci că timpul de reacție în securitatea industrială se micșorează drastic. O sarcină care înainte necesita experiență specializată și multe ore de lucru poate fi automatizată și executată în câteva minute.

Iar pentru organizațiile care încă se bazează pe sisteme vechi, segmentare slabă și protocoale fără autentificare modernă, acesta este exact tipul de avantaj pe care un atacator nu ar trebui să îl aibă.

Cât de avantajos este pentru un român să studieze în Franța. Ajutoarele care reduc cheltuielile lunare: masă la un euro şi chirie plătită de stat