Gardienii AI pot fi dați jos în câteva minute: noul risc care sperie industria tehnologică

Inteligența artificială a ajuns suficient de puternică încât discuția despre siguranță nu mai este una teoretică. Modelele capabile să scrie cod, să explice procese complexe sau să genereze conținut foarte convingător au nevoie de limite clare, tocmai pentru a nu deveni instrumente ușor de folosit în scopuri periculoase. Problema este că aceste limite par mai fragile decât sperau companiile din industrie.

O nouă investigație citată de Futurism arată că au apărut instrumente software capabile să elimine rapid barierele de siguranță ale unor modele AI puternice, în special ale celor deschise, care pot fi descărcate și rulate local. În unele cazuri, procesul ar dura doar câteva minute și nu ar necesita expertiză tehnică avansată. Rezultatul este un scenariu îngrijorător: modele AI care, odată „decenzurate”, pot răspunde la cereri pe care sistemele comerciale încearcă în mod normal să le blocheze.

Cum sunt eliminate limitele modelelor AI

Potrivit Financial Times, testele realizate împreună cu grupul de siguranță AI Alice au arătat că versiuni modificate ale unor modele cunoscute au putut genera răspunsuri periculoase după eliminarea mecanismelor de protecție. Exemplele menționate includ instrucțiuni pentru atacuri chimice, crearea de malware sau conținut ilegal extrem de grav, categorii pe care modelele AI sigure ar trebui să le refuze fără ezitare.

Unul dintre instrumentele menționate în investigație este Heretic, descris drept un software care elimină anumite forme de „aliniere de siguranță” din modelele de limbaj bazate pe arhitecturi transformer. Mai simplu spus, acesta caută mecanismele prin care modelul refuză solicitările nocive și încearcă să le scoată din ecuație.

Vezi și:

Obiceiul de 5 minute care îți poate aduce mii de euro în plus la pensie. Metoda funcționează și pentru cei cu venituri mici

Pericolul nu vine doar din existența unei astfel de metode, ci din ușurința cu care poate fi folosită. Dacă în trecut modificarea unui model AI necesita cunoștințe solide, timp, resurse și perseverență, acum unele instrumente promit automatizarea aproape completă a procesului. Asta înseamnă că bariera de intrare scade, iar accesul la modele mai puțin controlate devine mult mai larg.

Creatorul Heretic, Philipp Emanuel Weidmann, a declarat pentru Financial Times că instrumentul ar fi fost folosit pentru crearea a peste 3.500 de modele „decenzurate” de la lansarea sa, iar acestea ar fi fost descărcate de milioane de ori. Chiar dacă cifrele nu spun singure câte dintre aceste modele au fost folosite în scopuri reale periculoase, amploarea fenomenului ridică semne serioase de întrebare.

De ce modelele deschise sunt mai vulnerabile

Diferența importantă este între modelele AI proprietare, controlate de companii precum OpenAI sau Anthropic, și modelele deschise, care pot fi descărcate, modificate și rulate local. În cazul serviciilor comerciale, utilizatorul interacționează cu modelul prin infrastructura companiei, iar filtrele pot fi actualizate și monitorizate constant. În cazul modelelor deschise, odată ce fișierul este disponibil, controlul devine mult mai greu.

Vezi și:

OpenAI se lovește de nota de plată a revoluției AI. De ce ChatGPT ar putea deveni mult mai scump decât abonamentul de azi

Scandal pentru Claude: Anthropic, acuzată că a vândut abonamente AI de 200 de dolari cu limite mult mai mici decât promitea

Asta nu înseamnă că modelele deschise sunt în mod automat rele. Dimpotrivă, ele au avantaje importante pentru cercetare, transparență, educație și inovație. Universitățile, startupurile și dezvoltatorii independenți pot lucra cu tehnologii avansate fără să depindă complet de marile companii. Problema apare atunci când aceeași libertate permite și eliminarea rapidă a mecanismelor de protecție.

Google a recunoscut, potrivit sursei citate, că acest tip de modificare este o provocare tehnică reală pentru toate modelele deschise. Compania susține că modelele sale trec prin evaluări interne riguroase de siguranță înainte de lansare. Meta, în schimb, nu a comentat situația.

Aici apare una dintre cele mai dificile dileme ale industriei AI: cum păstrezi beneficiile modelelor deschise fără să oferi, indirect, instrumente puternice celor care vor să le folosească abuziv? O interdicție totală ar afecta cercetarea și competiția. O libertate completă, fără măsuri suplimentare, poate crea riscuri pe care societatea nu este pregătită să le gestioneze.

Ce înseamnă acest lucru pentru viitorul AI

Declarația lui Noam Schwartz, CEO-ul Alice, potrivit căreia „duhul a ieșit din sticlă”, surprinde destul de bine momentul în care se află industria. Modelele AI sunt deja suficient de capabile încât nu mai este realist să presupui că toate utilizările periculoase pot fi blocate doar prin filtre interne. O parte din problemă s-a mutat din zona produselor controlate de companii în zona ecosistemului deschis, unde modificările circulă rapid.

Pentru utilizatorii obișnuiți, vestea nu înseamnă că fiecare chatbot devine peste noapte periculos. Serviciile mari, folosite direct în browser sau prin aplicații oficiale, au în continuare straturi de protecție și monitorizare. Însă pentru autorități, companii și cercetători în siguranță digitală, apariția acestor instrumente schimbă nivelul de urgență.

Următoarea etapă nu va fi doar despre modele mai performante, ci despre infrastructură de siguranță mai matură. Va fi nevoie de evaluări mai dure înainte de lansare, de monitorizarea distribuției modelelor modificate, de responsabilitate din partea platformelor care găzduiesc astfel de instrumente și de reguli clare pentru cazurile în care tehnologia poate fi folosită pentru vătămare reală.

Inteligența artificială nu mai este doar o promisiune de productivitate, creativitate și automatizare. Este și o tehnologie care poate amplifica intențiile celor care o folosesc. Iar dacă limitele pot fi eliminate în câteva minute, întrebarea nu mai este doar cât de deștepte devin modelele AI, ci cât de pregătită este societatea să le țină sub control.

Jucătorii internaționali ai naționalelor Spaniei, Germaniei, Argentinei, Japoniei și Mexicului poartă pantofii personalizați adidas Originals Hyperboost Euphoria în timpul meciurilor de deschidere FIFA World Cup 2026