Noul model AI care sperie experții: poate fi descărcat de oricine și rivalizează cu cele mai periculoase sisteme americane

Noul model AI care sperie experții: poate fi descărcat de oricine și rivalizează cu cele mai periculoase sisteme americane
Foto: Getty Images

Cursa globală pentru inteligență artificială intră într-o etapă tot mai tensionată, după apariția unui model chinezesc open-weight despre care experții spun că se apropie periculos de capabilitățile celor mai avansate sisteme americane folosite în securitate cibernetică. Modelul GLM-5.2, dezvoltat de compania Z.ai din Beijing, poate fi descărcat și rulat local, iar potrivit Futurism, specialiștii îl compară deja cu Mythos, modelul Anthropic care a atras atenția autorităților americane din motive de securitate națională.

Miza nu este doar cine are cel mai bun chatbot sau cel mai rapid generator de cod. În zona de securitate cibernetică, un model capabil să găsească vulnerabilități software poate fi un instrument extraordinar pentru cercetători, dar și o armă pentru atacatori. Diferența dintre apărare și abuz poate sta în cine folosește modelul, ce limite are și dacă există un furnizor care poate bloca activitatea suspectă.

De ce GLM-5.2 ridică atât de multe semne de întrebare

În ultimele luni, numele Mythos și Fable au devenit importante în discuțiile despre riscurile AI. Administrația americană ar fi cerut Anthropic să retragă temporar cele mai puternice modele ale sale, invocând probleme de securitate națională, după ce au apărut temeri că anumite mecanisme de protecție ar putea fi ocolite. Ulterior, accesul limitat la Mythos 5 a fost reluat pentru un număr restrâns de organizații și instituții americane.

GLM-5.2 schimbă însă ecuația, pentru că nu funcționează ca un serviciu clasic controlat de o companie. Fiind un model open-weight, poate fi descărcat, modificat și folosit local, fără ca un furnizor să stea între utilizator și sistem. Asta înseamnă mai multă libertate pentru cercetare, dar și mult mai puțină vizibilitate asupra felului în care este utilizat.

Companii de securitate precum Semgrep și Graphistry au observat că modelul se descurcă bine la identificarea bugurilor și la sarcini de cybersecurity. Exact aici apare problema: același tip de performanță care poate ajuta o companie să-și repare aplicațiile poate ajuta și un hacker să găsească mai repede puncte slabe. Playtech a scris recent despre cum inteligența artificială a învins hackeri de elită, iar GLM-5.2 duce discuția mai departe: ce se întâmplă când astfel de capacități devin ușor de obținut?

O armă cu două tăișuri pentru securitatea cibernetică

Pentru echipele defensive, modelele AI avansate pot fi extrem de utile. Ele pot analiza cod, pot găsi erori, pot sugera remedieri și pot accelera investigații care altădată necesitau zile sau săptămâni de muncă. Într-un mediu digital în care vulnerabilitățile apar constant, viteza este esențială.

Pentru atacatori, însă, aceeași viteză poate fi folosită pentru a automatiza pași importanți ai unui atac. Nu mai vorbim doar despre e-mailuri de phishing scrise mai convingător, ci despre sisteme care pot ajuta la descoperirea breșelor, adaptarea tacticilor și testarea unor variante de atac. Avertismentele legate de modele precum Mythos au apărut tocmai pentru că astfel de sisteme pot deveni utile în mâini greșite, așa cum s-a discutat și în contextul modelului Anthropic capabil să găsească breșe software.

Un alt motiv de îngrijorare este faptul că experți citați în presa americană spun că deja apar discuții despre jailbreak-uri pentru GLM-5.2 pe forumuri folosite de hackeri. În cazul unui serviciu controlat de o companie, activitatea suspectă poate fi monitorizată, limitată sau blocată. În cazul unui model rulat local, aceste mecanisme dispar aproape complet.

De ce modelul chinezesc schimbă balanța

Până de curând, cele mai puternice modele AI păreau concentrate în mâinile câtorva companii americane, cu acces controlat, prețuri mari și reguli clare de utilizare. GLM-5.2 arată că distanța tehnologică se micșorează rapid, iar modele foarte capabile pot apărea din afara ecosistemului american, la costuri mai mici și cu mai puține restricții.

Există și suspiciuni că Z.ai ar fi folosit tehnici de distilare, adică antrenarea unui model „student” cu ajutorul ieșirilor generate de modele mai puternice. Este o practică discutată intens în industrie, mai ales când rezultatul pare să recupereze foarte repede diferențe de performanță. Indiferent de explicație, efectul este același: un model avansat ajunge mai ușor la mai mulți utilizatori.

Pentru publicul larg, toate acestea pot părea departe de viața de zi cu zi. În realitate, consecințele pot apărea în atacuri mai rapide, campanii de fraudă mai bine pregătite sau breșe descoperite înainte ca firmele să aibă timp să le repare. Cazul JadePuffer, despre care Playtech a scris în articolul despre un agent AI care a lansat singur un atac ransomware, arată cât de repede se schimbă amenințările.

GLM-5.2 nu este doar încă un model AI performant. Este un semnal că lupta pentru controlul celor mai puternice instrumente digitale devine tot mai greu de câștigat. Când o tehnologie capabilă să găsească vulnerabilități poate fi descărcată și modificată de aproape oricine, întrebarea nu mai este doar cine construiește cel mai bun AI, ci cine mai poate ține sub control felul în care este folosit.