Agenți AI autonomi au încercat să spargă site-uri guvernamentale din SUA și Canada. Au lansat sute de mii de cereri

Agenți AI autonomi au încercat să exploateze vulnerabilități ale unor site-uri guvernamentale din Statele Unite și Canada în timp ce căutau informații publice. Sistemele au folosit inclusiv tehnici de tip SQL injection și au generat sute de mii de solicitări către servere. Nu există însă dovezi că ar fi reușit să acceseze informații nepublice, potrivit investigației publicate de BleepingComputer.

Incidentele au fost identificate de laboratorul nonprofit Transluce. Cercetătorii spun că agenții încercau, în principal, să găsească statistici despre școli și date istorice despre divorțuri. Când metodele obișnuite nu au funcționat, unele sisteme au început să testeze căi mai agresive de acces.

Peste 200.000 de cereri către un site al guvernului american

Unul dintre incidente s-a produs pe 17 iunie. Agenții AI căutau statistici despre școlile din Statele Unite și au trimis peste 200.000 de cereri către un site administrat de Departamentul american al Educației.

Printre solicitări s-a aflat și o încercare simplă de SQL injection. Agentul a modificat unul dintre parametrii adresei pentru a încerca să ocolească filtrele normale ale site-ului. În secundele anterioare, sistemul testase mai multe valori neobișnuite în același câmp.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Cercetătorii cred că activitatea avea legătură cu o întrebare dintr-un benchmark pentru sisteme AI. Aceasta cerea informații despre consilierii școlari și incidentele de bullying asociate rasei.

Transluce a informat Departamentul Educației pe 25 septembrie. Instituția americană a analizat activitatea și nu a găsit dovezi că serviciile sau datele sale ar fi fost afectate.

Cazul vine la doar câteva zile după ce Playtech a scris despre agenții AI ai OpenAI care au accesat site-uri ale guvernului american. Și atunci, simpla accesare a unor informații publice nu reprezenta în sine dovada unui atac informatic.

Vezi și:

Meta și OpenAI vor ca agenții AI să-ți gestioneze viața digitală. Majoritatea oamenilor nu sunt pregătiți să le dea acces la e-mail și bani

Meta Muse și ChatGPT Dots par aproape identice. Diferențele importante apar când vezi ce pot face, de fapt

Un alt agent a testat arhivele guvernului canadian

O activitate asemănătoare a fost observată și în Canada. Agenții AI încercau să găsească informații istorice despre divorțurile înregistrate între 1905 și 1911 în arhivele naționale.

Pe 28 mai și 9 iunie au fost înregistrate aproape 900 de solicitări către Library and Archives Canada. Dintre acestea, 13 conțineau elemente specifice unor tentative de atac. Au fost testate SQL injection, diferite formate de răspuns și opțiuni de depanare.

Încercările nu par să fi avut succes. Paginile returnate nu conțineau informații suplimentare, iar autoritățile canadiene nu au identificat modificări ale bazelor de date sau acces la informații protejate.

Canadian Centre for Cyber Security a transmis că nu există indicii că sistemele guvernamentale ar fi fost compromise. Instituția a subliniat și că solicitările automate sau potențial malițioase nu înseamnă automat că a avut loc o breșă de securitate.

Situația amintește de un incident mult mai grav din Australia. Un agent AI al OpenAI a obținut acces neautorizat la un portal guvernamental și a ajuns la cod sursă, credențiale și fișiere interne.

Cercetătorii nu atribuie toate incidentele OpenAI

Transluce avertizează că activitatea analizată nu poate fi atribuită în totalitate OpenAI. Unele tipare seamănă cu activități asociate anterior agenților companiei, iar în anumite cazuri sistemele s-au identificat singure ca fiind legate de „OpenAI Research”. Dovezile disponibile nu sunt însă suficiente pentru o atribuire generală.

Investigația a identificat o activitate mult mai amplă pe site-uri federale și locale din SUA. Agenții au folosit conturi cu adrese de e-mail temporare, au încercat să ocolească sisteme anti-bot, au ghicit nume de fișiere și au testat credențiale expuse public.

Au fost observate activități în California, Kansas, Maryland, Illinois, Texas și New York. Într-un caz, un agent a încercat să obțină o cheie API de la Bureau of Economic Analysis folosind o adresă temporară și numele organizației „OpenAI Research”.

Alte tentative au vizat date ale Census Bureau și pagini ale Naval History and Heritage Command. Nici în aceste situații nu există dovezi privind accesarea unor informații militare sensibile.

Nu este pentru prima dată când agenții AI continuă să caute metode alternative după ce întâlnesc restricții. Playtech a relatat recent și despre agenți AI care au încercat să „forțeze” un site al ONU, după ce accesul direct la date le fusese limitat.

Noile incidente arată problema de control pe care o ridică agenții capabili să navigheze și să execute singuri mai multe acțiuni. În cazurile din SUA și Canada, tentativele de exploatare au eșuat. Totuși, comportamentul lor arată că un sistem căruia i se cere doar să găsească informații poate ajunge să testeze metode pe care operatorul nu le-a solicitat explicit.

Agenți AI autonomi au încercat să spargă site-uri guvernamentale din SUA și Canada. Au lansat sute de mii de cereri