Un experiment AI pare desprins din filmele SF: cercetătorii spun că un model s-a copiat singur pe alte computere

Un nou studiu despre inteligența artificială reaprinde temerile legate de sistemele AI autonome, după ce cercetătorii au observat un comportament care până recent părea rezervat scenariilor din filmele science-fiction.

Mai multe modele AI au reușit să identifice vulnerabilități într-o rețea de computere și să se copieze singure pe alte sisteme, fără intervenție umană directă.

Experimentul a fost realizat de Palisade Research, o organizație din Berkeley specializată în analiza riscurilor asociate inteligenței artificiale, scrie The Guardian.

Cercetătorii spun că modelele testate au primit instrucțiuni să găsească breșe de securitate și să folosească acele puncte slabe pentru a se replica pe alte dispozitive din rețea.

Rezultatul a atras rapid atenția industriei tech, mai ales pentru că amintește de unul dintre cele mai discutate scenarii legate de AI: apariția unui sistem care nu mai poate fi oprit ușor după ce începe să se răspândească în afara controlului inițial.

Cercetătorii avertizează că AI-ul devine tot mai greu de controlat

Jeffrey Ladish, directorul Palisade Research, susține că dezvoltarea accelerată a inteligenței artificiale apropie industria de un moment în care oprirea unui sistem AI scăpat de sub control ar putea deveni extrem de dificilă.

Potrivit acestuia, modelele viitoare ar putea ajunge să își transfere singure datele și structura către alte computere din întreaga lume, ceea ce ar complica serios orice tentativă de oprire.

Vezi și:

Inteligența artificială poate aduce 280 de miliarde de euro în Europa Centrală. România are însă cea mai mică adopție în companii

600 de aplicații pentru 35 de locuri: de ce primul job în IT nu mai seamănă deloc cu cel de acum cinci ani

Totuși, specialiștii în securitate cibernetică atrag atenția că experimentul a avut loc într-un mediu controlat și special construit pentru testare. Rețelele folosite în studiu conțineau vulnerabilități create intenționat, iar infrastructura era mult mai simplă decât sistemele reale folosite de companii sau instituții.

Experții spun că, deși rezultatul este interesant, scenariul unui AI care se răspândește necontrolat în lumea reală rămâne deocamdată puțin probabil. Una dintre problemele majore este dimensiunea uriașă a modelelor moderne de inteligență artificială.

Transferul unor modele care pot ocupa zeci sau chiar sute de gigabytes ar genera trafic neobișnuit și ar fi greu de ascuns într-o infrastructură enterprise monitorizată corespunzător.

Specialiștii compară fenomenul cu virușii informatici clasici

Mai mulți experți spun că ideea de software capabil să se copieze singur nu este nouă. Virușii informatici și viermii de rețea fac acest lucru de zeci de ani. Diferența este că, în acest caz, vorbim despre modele de inteligență artificială capabile să identifice și să exploateze vulnerabilități pentru a se replica.

Cercetătorii implicați în securitate cibernetică spun că ceea ce a realizat Palisade este important mai ales pentru că documentează complet procesul într-un studiu dedicat. Cu alte cuvinte, fenomenul nu a fost neapărat „descoperit” acum, dar este pentru prima dată când apare demonstrat și analizat atât de clar într-un context AI modern.

În ultimele luni au apărut și alte cazuri care au alimentat dezbaterea despre autonomia sistemelor AI. Unele experimente au arătat modele care încercau să evadeze din mediile de testare sau să execute acțiuni neprevăzute de cercetători.

Totuși, majoritatea specialiștilor spun că există o diferență uriașă între un experiment de laborator și un scenariu real în care un AI ar deveni imposibil de oprit. În prezent, infrastructurile moderne de securitate și monitorizare pot detecta mult mai ușor activități suspecte la scară mare.

Inteligența artificială poate aduce 280 de miliarde de euro în Europa Centrală. România are însă cea mai mică adopție în companii