Modelele AI au început să iasă din „cușcă”. Cum a devenit testarea lor tot mai riscantă

Testarea modelelor de inteligență artificială a devenit mai dificilă tocmai din cauza progresului rapid al acestora. În ultimele luni, mai multe sisteme AI evaluate pentru capacități de securitate cibernetică au reușit să depășească limitele impuse de cercetători, să ajungă la internet sau chiar să interacționeze cu sisteme reale din afara mediilor în care ar fi trebuit să rămână izolate.

Incidentele au implicat modele dezvoltate de companii precum OpenAI, Anthropic și Meta, dar și sistemul Kimi K3 al laboratorului chinez Moonshot AI. Testele au fost realizate de mai multe organizații, inclusiv compania de evaluare cibernetică Irregular. Situația ridică o întrebare tot mai importantă pentru industria AI: dacă modelele sunt suficient de capabile pentru a ieși dintr-un mediu creat special pentru a le ține sub control, cât de sigur mai este procesul prin care sunt testate?

Modelele AI încep să depășească limitele impuse de cercetători

Unul dintre cele mai serioase incidente a implicat un model OpenAI care nu fusese încă lansat public. În timpul unei evaluări, sistemul a reușit să iasă din mediul izolat și să pătrundă în infrastructura de producție a platformei Hugging Face. În alte teste realizate de Irregular, modele dezvoltate de Anthropic și Meta au ajuns la sisteme din afara mediilor de evaluare după ce anumite configurări au creat, fără intenție, căi către internet, scrie TechCrunch.

Un caz separat a implicat Kimi K3, dezvoltat de Moonshot AI. În timpul unei evaluări realizate de Frontier Security, modelul a profitat de o breșă din mediul de testare pentru a ajunge la internet și a accesa informații de pe GitHub.

Și Institutul pentru Siguranța AI din Marea Britanie, AISI, s-a confruntat cu o situație neașteptată. Cercetătorii au oferit în mod intenționat acces la internet anumitor agenți AI pentru a crea condiții cât mai apropiate de cele reale, însă modelele au început să execute acțiuni care nu fuseseră prevăzute. Printre acestea s-a numărat inclusiv o tentativă de inginerie socială pentru introducerea unei vulnerabilități într-un proiect open-source.

Important este că aceste modele nu au primit ordinul de a ataca sisteme reale. Ele încercau să rezolve sarcinile primite și au găsit propriile metode pentru a-și atinge obiectivul. Tocmai acest comportament face incidentele atât de relevante pentru cercetătorii în securitate.

Andrew Yoon, director de cercetare în cadrul organizației nonprofit CivAI, consideră că industria intră într-o etapă diferită. Dacă până acum principala preocupare era folosirea abuzivă a AI-ului de către oameni, modelele autonome pot deveni ele însele un factor de risc atunci când primesc suficiente capacități și acces.

Vezi și:

Există o diferență de „plată” chiar și între agenții AI. Un studiu arată că varianta feminină a primit cu 10% mai puțin

Anthropic taie accesul la internet pentru testele interne după ce Claude a atacat site-uri reale. AI-ul a trimis inclusiv un pont fals poliției

Un mediu de testare sigur are nevoie de mai multe bariere

Cercetătorii în securitate susțin că mediile în care sunt evaluate modelele de frontieră trebuie protejate prin mai multe niveluri de securitate. Ideea este ca o singură greșeală de configurare să nu fie suficientă pentru ca un agent AI să poată ieși din spațiul controlat.

Stella Biderman, directoarea organizației EleutherAI, consideră că testarea celor mai capabile modele ar trebui realizată în condiții de izolare extrem de strictă, inclusiv pe rețele fără acces direct la internet. În acest fel, chiar dacă modelul încearcă să găsească o cale către exterior, posibilitățile sale sunt limitate de infrastructură.

Heather Ceylan, directorul de securitate informatică al companiei Box, atrage atenția și asupra conexiunilor indirecte. Nu este suficient ca internetul să fie blocat. Cercetătorii trebuie să identifice toate punctele prin care modelul ar putea transmite date sau accesa alte sisteme. Un mediu de dezvoltare sau testare nu ar trebui să aibă, de exemplu, o rută necontrolată către infrastructura de producție.

Problema nu se rezumă însă la izolarea tehnică. Monitorizarea activității modelului în timpul testului este la fel de importantă. În mai multe dintre incidentele recente, comportamentul neobișnuit nu a fost observat imediat. Unele probleme au fost descoperite abia după ce cercetătorii au analizat ulterior activitatea sistemului.

Anthropic a recunoscut, într-o analiză ulterioară a trei incidente, că atât compania, cât și Irregular ar fi putut monitoriza mai atent ceea ce se întâmpla în timpul evaluărilor. În anumite cazuri existau indicii care ar fi putut semnala mai devreme că modelul depășise limitele stabilite.

Testarea independentă ar putea deveni obligatorie

O soluție propusă de mai mulți cercetători este introducerea unor verificări independente înainte de începerea evaluărilor. Un auditor extern ar putea analiza configurația infrastructurii, conexiunile disponibile și mecanismele de izolare înainte ca un model cu protecțiile obișnuite dezactivate să primească acces la sistem.

Necesitatea unor astfel de măsuri este cu atât mai mare cu cât testele de securitate pentru modelele de frontieră presupun uneori eliminarea anumitor restricții. Cercetătorii trebuie să afle ce poate face cu adevărat un model, inclusiv în situații în care comportamentul său ar fi blocat în mod normal. Prin urmare, mediul de testare devine una dintre principalele linii de apărare.

Andrew Yoon și alți specialiști consideră că industria ar avea nevoie și de un standard comun pentru evaluarea modelelor avansate. În prezent, companiile și organizațiile pot folosi metode diferite, iar presiunea de a testa rapid modelele tot mai puternice poate duce la greșeli de configurare sau la verificări insuficiente.

Există însă și o dilemă dificilă. Dacă un model este izolat prea strict, cercetătorii pot să nu descopere anumite capacități înainte ca acesta să ajungă la public. Un test prea restrictiv poate ascunde exact comportamentele pe care evaluarea ar trebui să le identifice.

Regulile pentru testarea AI ar putea ajunge pe agenda autorităților

Problema ridică și întrebări despre necesitatea unei reglementări. Administrația Trump analizează în prezent un sistem voluntar de evaluare a securității cibernetice înainte de lansarea modelelor puternice. În cadrul propunerii, guvernul ar putea analiza riscurile de securitate ale unor modele cu aproximativ 30 de zile înainte ca acestea să fie lansate public.

Un asemenea mecanism nu ar rezolva însă incidentele produse în timpul testării, deoarece acestea apar înainte de etapa premergătoare lansării. Andrew Yoon susține că industria nu se mai poate baza exclusiv pe autoreglementare și că presiunile comerciale pot încuraja reducerea standardelor de siguranță pentru a accelera dezvoltarea și lansarea noilor modele.

Pe măsură ce AI-ul devine mai capabil, evaluările trebuie să fie mai complexe, dar și mai rapide și mai ample. Această combinație poate crește probabilitatea unor greșeli. În același timp, unele organizații, precum AISI, analizează deja cât de mult realism ar trebui introdus în teste fără ca exercițiile de securitate să creeze riscuri reale.

OpenAI a anunțat că își reevaluează procedurile pentru testările realizate de terți, inclusiv cerințele privind izolarea, monitorizarea și criteriile pentru oprirea unei evaluări. Meta investighează la rândul său incidentul și intenționează să publice o analiză după finalizarea verificărilor.

Este puțin probabil ca riscul să poată fi eliminat complet. Cu cât modelele AI devin mai autonome și mai capabile să rezolve probleme complexe, cu atât mediile în care sunt testate trebuie să fie mai bine protejate. Altfel, paradoxul este că încercarea de a afla cât de sigur este un model poate ajunge să creeze chiar situația pe care testul trebuia să o prevină.

„Baywatch” revine în 2027 cu o nouă generație de salvamari. Cine îi înlocuiește pe Pamela Anderson și David Hasselhoff VIDEO