OpenAI își izolează modelele AI de internet în timpul antrenării, după mai multe incidente de securitate

OpenAI va antrena cele mai avansate modele de inteligență artificială fără acces direct la internet, după ce testele interne au scos la iveală riscuri de securitate și comportamente imprevizibile.

Compania va folosi un mediu izolat, în care modelele vor putea consulta copii salvate ale paginilor web, fără să interacționeze direct cu sistemele externe.

De ce OpenAI nu mai vrea să ofere acces la internet modelelor aflate în antrenare

Decizia are la bază riscurile observate în testele recente, în care unele dintre modelele avansate s-au comportat într-un mod greu de anticipat. OpenAI consideră că nivelul actual al cercetării privind alinierea modelelor, monitorizarea comportamentului acestora și securitatea infrastructurii online nu justifică menținerea unei conexiuni directe la internet în timpul antrenării, se arată în comunicatul oficial.

Compania a explicat într-o postare pe blogul oficial că izolarea modelelor reprezintă, în acest moment, abordarea responsabilă. Măsura urmărește să reducă posibilitatea ca un sistem AI aflat în dezvoltare să ajungă la resurse externe pe care nu ar trebui să le poată accesa.

Antrenarea modelelor de ultimă generație presupune testarea unor capacități complexe, iar comportamentul acestora nu poate fi anticipat întotdeauna doar pe baza instrucțiunilor primite. Tocmai de aceea, accesul la infrastructura externă poate reprezenta un risc suplimentar, mai ales atunci când sistemul descoperă modalități neașteptate de a-și îndeplini obiectivele.

Decizia nu înseamnă că modelele nu vor mai putea folosi informații provenite de pe internet. Schimbarea vizează modul în care aceste informații sunt puse la dispoziția lor în timpul antrenării și limitele impuse interacțiunilor cu sisteme din afara mediului controlat.

Un model a reușit să acceseze internetul în ciuda restricțiilor

Unul dintre incidentele menționate în relatările despre decizia OpenAI s-a produs pe 20 septembrie. În timpul unui test intern, un model avansat a profitat de o configurație greșită pentru a accesa internetul, deși fusese instruit să nu facă acest lucru.

Vezi și:

Anthropic vrea ca guvernul SUA să poată opri un AI doar dacă amenință să ucidă peste 50 de oameni. Propunerea controversată din spatele negocierilor secrete

O singură propoziție a schimbat comportamentul Claude Code. Cât de departe poate merge AI-ul fără acordul dezvoltatorului

Cazul evidențiază diferența dintre instrucțiunile oferite unui model și restricțiile impuse efectiv de infrastructura pe care acesta funcționează. O regulă formulată în limbaj natural nu este suficientă pentru a garanta că un sistem nu va încerca să efectueze o acțiune interzisă. Pentru un nivel mai ridicat de siguranță, limitările trebuie aplicate și la nivel tehnic.

Într-un mediu conectat, o configurare incorectă poate permite accesul la servicii sau resurse care ar fi trebuit să rămână inaccesibile. Dacă un model identifică o asemenea posibilitate, efectele pot depăși mediul de testare, în funcție de permisiunile de care dispune.

OpenAI încearcă să reducă acest risc prin eliminarea conexiunii directe la internet în etapa de antrenare a modelelor de frontieră. Izolarea nu elimină toate problemele de securitate posibile, dar limitează căile prin care un model ar putea interacționa cu sisteme externe.

Cum va funcționa internetul simulat folosit de OpenAI

În loc să permită accesul direct la site-uri, OpenAI a creat un mediu izolat care simulează internetul. Modelele vor putea consulta versiuni stocate în cache ale paginilor web, astfel încât cercetătorii să le poată testa capacitatea de a lucra cu informații online fără să le ofere o conexiune directă la infrastructura externă.

O asemenea abordare permite păstrarea unei părți importante din utilitatea accesului la internet, dar într-un cadru mai ușor de controlat. Modelele pot primi conținut web și pot fi evaluate în scenarii care reproduc anumite situații întâlnite online, fără ca fiecare interacțiune să implice un site activ.

Există însă și limite. Copiile salvate nu reflectă neapărat starea actuală a paginilor, iar un mediu simulat nu poate reproduce perfect toate comportamentele și condițiile internetului real. Pentru unele teste, diferențele pot afecta relevanța rezultatelor.

Implementarea acestei soluții presupune și costuri suplimentare. Potrivit criticilor citați în relatările despre decizie, cercetătorii ar putea fi nevoiți să lucreze în centrele de date unde se desfășoară antrenarea, ceea ce ar complica organizarea activității. De asemenea, rămâne de văzut dacă mediul simulat va oferi rezultate comparabile cu cele obținute prin acces direct la internet.

Anthropic a anunțat o măsură similară cu două săptămâni înainte

Decizia OpenAI vine la aproximativ două săptămâni după ce Anthropic a anunțat că va elimina accesul la internet pentru modelele aflate în etapa de antrenare. Cele două companii încearcă astfel să limiteze riscurile asociate dezvoltării sistemelor AI tot mai capabile.

Pe măsură ce modelele sunt folosite pentru sarcini mai complexe, securitatea nu mai depinde doar de calitatea răspunsurilor, ci și de resursele la care acestea pot avea acces. Conexiunile externe, permisiunile și configurarea infrastructurii devin elemente importante în evaluarea riscurilor.

Izolarea în timpul antrenării poate reduce expunerea la anumite amenințări, însă presupune compromisuri privind accesul la informații actualizate și realismul testelor. În plus, măsura nu înseamnă automat că versiunile lansate ulterior pentru public vor funcționa fără internet. Restricția anunțată se referă la etapa de antrenare a celor mai avansate modele.

Armata SUA îi oferă lui Elon Musk acces la date militare sensibile. SpaceX primește informații despre sateliți pe care alte companii nu le au