AI-ul agentic promite eficiență, dar serviciile de securitate avertizează: graba poate deschide ușa atacatorilor cibernetici

Inteligența artificială agentică, adică sistemele AI capabile să ia decizii, să folosească instrumente, să acceseze date și să execute acțiuni cu autonomie ridicată, este privită de companii ca următorul mare salt de productivitate. În loc să ofere doar răspunsuri, acești agenți pot trimite emailuri, modifica fișiere, aproba procese, instala actualizări sau interacționa cu sisteme interne. Tocmai aici apare și pericolul.

Agențiile de securitate cibernetică din alianța Five Eyes, formată din Statele Unite, Regatul Unit, Canada, Australia și Noua Zeelandă, au publicat un ghid comun în care avertizează că implementarea rapidă a acestor tehnologii poate amplifica vulnerabilitățile deja existente în organizații. Mesajul este direct: înainte de câștigurile de eficiență, companiile și instituțiile trebuie să pună pe primul loc reziliența, controlul și capacitatea de a opri rapid un sistem care se comportă greșit.

De ce agenții AI pot deveni o problemă de securitate

Spre deosebire de un chatbot clasic, un sistem agentic nu se limitează la conversație. El poate fi conectat la baze de date, aplicații interne, instrumente de administrare, sisteme financiare, platforme de email și surse externe de informații. Fiecare conexiune nouă îi mărește utilitatea, dar îi extinde și suprafața de atac.

Avertismentul agențiilor Five Eyes este că o organizație nu trebuie să se teamă doar de modelul AI în sine, ci de întregul ecosistem construit în jurul lui. Datele externe pot fi manipulate, instrumentele integrate pot fi compromise, permisiunile pot fi configurate greșit, iar agentul poate interpreta o comandă malițioasă ca pe o sarcină legitimă.

Vezi și:

7 semne că un anunț de cazare de pe Booking ar putea fi fals. Ce trebuie să verifici înainte să plătești

Un exemplu simplu arată cât de repede poate scăpa situația de sub control. Un agent AI primește sarcina de a instala patch-uri de securitate pe toate calculatoarele unei organizații. Dacă i se acordă, fără discernământ, acces larg de scriere, un angajat rău intenționat ar putea formula o comandă aparent inofensivă prin care îi cere să aplice actualizările și, „dacă tot este acolo”, să șteargă jurnalele firewall-ului. Dacă permisiunile permit această acțiune, agentul o poate executa fără să înțeleagă consecința reală.

Când autonomia devine risc operațional

Un alt scenariu analizat de specialiști implică folosirea AI-ului agentic în achiziții și relația cu furnizorii. O companie ar putea conecta agentul la sisteme financiare, emailuri și arhive de contracte, pentru a automatiza aprobări și comunicări. Pe hârtie, este o soluție eficientă. În practică, devine periculoasă dacă agentul primește privilegii prea mari și dacă alte sisteme ajung să aibă încredere implicită în deciziile lui.

Dacă un atacator compromite un instrument aparent minor din fluxul de lucru, poate moșteni indirect permisiunile agentului. De acolo, riscul crește dramatic: contracte modificate, plăți aprobate ilegal, audituri falsificate și alerte păcălite. Nu mai vorbim doar despre o eroare de software, ci despre un lanț de încredere exploatat inteligent.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Aceasta este marea schimbare adusă de AI-ul agentic. Cu cât sistemul poate face mai multe lucruri singur, cu atât o greșeală de proiectare sau o configurare superficială poate avea efecte mai grave. Un chatbot care răspunde prost produce confuzie. Un agent cu acces la infrastructură poate produce pagube reale.

Recomandarea Five Eyes: adopție lentă, controlată și reversibilă

Ghidul comun insistă pe o idee esențială: organizațiile trebuie să trateze AI-ul agentic ca pe o tehnologie cu risc ridicat, nu ca pe o simplă extensie de productivitate. Implementarea ar trebui făcută gradual, începând cu sarcini clare, bine delimitate și cu impact redus. Abia după testare, monitorizare și evaluare continuă, rolurile pot fi extinse.

Agențiile recomandă ca sistemele să fie construite astfel încât să „eșueze în siguranță”. În situații neclare, agentul nu ar trebui să improvizeze, ci să se oprească și să escaladeze problema către un om. Supravegherea umană, jurnalizarea acțiunilor, limitarea strictă a permisiunilor și posibilitatea de a reveni rapid la starea anterioară sunt prezentate ca elemente obligatorii, nu opționale.

Documentul atrage atenția și asupra faptului că modelele actuale de analiză a amenințărilor nu acoperă încă pe deplin riscurile specifice AI-ului agentic. Resurse precum OWASP sau MITRE ATLAS au făcut pași importanți pentru securitatea modelelor lingvistice, dar agenții autonomi adaugă un nivel nou de complexitate, pentru că acționează în sisteme reale, cu instrumente reale și permisiuni reale.

Productivitatea nu trebuie să bată siguranța

Avertismentul Five Eyes nu spune că organizațiile trebuie să evite complet AI-ul agentic. Dimpotrivă, tehnologia are potențial major în infrastructură critică, apărare, operațiuni IT și procese administrative. Problema apare atunci când presiunea pentru eficiență împinge companiile să conecteze agenți AI la sisteme sensibile înainte să înțeleagă pe deplin riscurile.

Mesajul final este unul de prudență pragmatică. Până când standardele, metodele de evaluare și practicile de securitate se maturizează, organizațiile ar trebui să presupună că agenții AI se pot comporta neașteptat. Iar într-o lume în care o comandă prost interpretată poate șterge jurnale, modifica contracte sau aproba plăți, cea mai inteligentă strategie nu este graba, ci controlul.

Cum faci un cocktail clasic cu whiskey de secară și cognac – Vieux Carré spune o poveste de aproape 90 de ani