Un nou risc în lumea AI: vulnerabilitățile OpenClaw pot permite furtul de date, la ce trebuie să fii atent

Popularitatea agenților de inteligență artificială autonomi crește rapid, însă odată cu avantajele apar și noi probleme de securitate.

Un exemplu recent este platforma OpenClaw, un agent AI open-source care poate executa automat diverse sarcini pe sistemul utilizatorului. Specialiștii în securitate cibernetică avertizează însă că modul în care este configurată aplicația în mod implicit ar putea crea breșe serioase de securitate.

Avertismentul vine de la echipa de răspuns la incidente informatice din China, care atrage atenția asupra unor riscuri ce pot apărea atunci când OpenClaw este folosit fără măsuri suplimentare de protecție.

Problema principală este că agentul are acces extins la sistem pentru a putea executa sarcini automatizate, iar aceste privilegii pot fi exploatate de atacatori pentru a obține control asupra dispozitivului sau pentru a extrage informații sensibile.

Cum pot hackerii să exploateze agenții AI prin „prompt injection”

Unul dintre cele mai importante riscuri identificate este legat de așa-numitele atacuri de tip „prompt injection”. În acest scenariu, un atacator ascunde instrucțiuni malițioase într-o pagină web sau într-un conținut aparent legitim.

Dacă agentul AI accesează acea pagină pentru analiză sau sumarizare, poate ajunge să execute instrucțiunile ascunse fără să realizeze că sunt periculoase.

Această metodă este cunoscută și sub numele de „indirect prompt injection”, deoarece atacatorul nu comunică direct cu modelul AI.

Vezi și:

Cum transformă Gemini foile de calcul: AI-ul de la Google îi ajută chiar și pe cei care evitau spreadsheet-urile

Alte zeci de concedieri în rândul specialiștilor IT: compania care preferă să mizeze pe inteligența artificială și susține că așa crește cifra de afaceri

În schimb, exploatează funcții obișnuite ale agenților inteligenți, cum ar fi analiza paginilor web sau generarea de rezumate, pentru a introduce comenzi manipulate.

Consecințele pot varia de la influențarea răspunsurilor generate de AI până la scurgerea de informații sensibile. În anumite situații, astfel de atacuri ar putea fi folosite pentru manipularea rezultatelor din motoarele de căutare, pentru evitarea sistemelor automate de moderare a reclamelor sau chiar pentru influențarea unor procese precum recrutarea automată.

În plus, cercetătorii în securitate au descoperit că anumite funcții aparent inofensive pot deveni vectori de atac. De exemplu, previzualizarea linkurilor în aplicații de mesagerie precum Telegram sau Discord poate fi exploatată pentru a transmite date confidențiale fără ca utilizatorul să facă vreun click.

Într-un astfel de scenariu, agentul AI este păcălit să genereze un link către un domeniu controlat de atacator. Atunci când aplicația de chat generează automat preview-ul linkului, acesta poate include parametri care conțin informații sensibile – date pe care agentul le știe despre utilizator sau despre sistemul pe care rulează.

Alte probleme de securitate identificate în OpenClaw

Pe lângă atacurile prin prompt injection, experții au identificat și alte vulnerabilități potențiale asociate cu utilizarea OpenClaw.

Una dintre ele este posibilitatea ca agentul AI să interpreteze greșit anumite instrucțiuni și să șteargă accidental date importante. Pentru că sistemul este conceput să execute automat sarcini, o comandă ambiguă ar putea duce la eliminarea unor fișiere sau informații critice fără posibilitatea de recuperare.

O altă problemă ține de ecosistemul de extensii al platformei. Utilizatorii pot instala așa-numite „skills” din depozite online dedicate, însă unele dintre acestea ar putea conține cod malițios. Odată instalate, aceste extensii pot executa comenzi arbitrare sau chiar instala malware pe sistem.

De asemenea, anumite vulnerabilități descoperite recent în platformă ar putea permite atacatorilor să compromită direct sistemele pe care rulează agentul și să extragă date sensibile.

Riscurile devin cu atât mai serioase în cazul organizațiilor din domenii critice. Instituții din sectoare precum finanțe, energie sau administrație publică ar putea suferi pierderi majore dacă astfel de breșe ar duce la scurgerea de secrete comerciale, cod sursă sau date strategice.

Pentru a reduce aceste pericole, specialiștii recomandă mai multe măsuri de securitate: limitarea accesului la porturile de administrare ale platformei, izolarea aplicației în containere dedicate, evitarea stocării parolelor în format text simplu și instalarea extensiilor doar din surse de încredere.

În plus, experții spun că actualizarea constantă a agentului și dezactivarea actualizărilor automate pentru extensii pot reduce semnificativ riscurile.

Popularitatea tot mai mare a OpenClaw a atras deja atenția infractorilor cibernetici. În unele cazuri, aceștia au creat depozite false pe platforme de dezvoltare software care pretind că oferă instalatoare pentru aplicație. În realitate, aceste pachete distribuie programe malware specializate în furtul de date.

„Menopauza este naturală, dar suferința nu este o obligație”. Ce spun medicii despre terapia de substituție hormonală