Inteligența artificială a învins hackeri de elită într-o competiție de securitate cibernetică. Performanța record care ar trebui să ne îngrijoreze

Există momente în evoluția tehnologiei când un rezultat aparent spectaculos dintr-o competiție spune, de fapt, mult mai mult despre lumea reală decât despre trofeul pus în joc. Exact într-o astfel de categorie intră și performanța anunțată de startup-ul israelian Tenzai, care susține că agentul său AI a depășit 99% dintre cei aproximativ 125.000 de participanți umani într-o serie de șase competiții de hacking de tip capture the flag. La prima vedere, vestea poate părea doar o nouă bornă într-o cursă previzibilă a inteligenței artificiale spre rezultate tot mai impresionante. În realitate însă, implicațiile sunt mult mai serioase.

Competițiile CTF nu sunt simple jocuri pentru entuziaști. Ele simulează scenarii reale de securitate cibernetică, de la spargerea unor autentificări până la exploatarea vulnerabilităților ascunse în aplicații web sau în sisteme mai complexe. Participanții trebuie să treacă prin mai multe straturi de protecție pentru a obține un așa-numit flag, iar dificultatea crește constant. Dacă un agent AI ajunge să performeze la un nivel atât de ridicat într-un mediu de acest tip, discuția nu mai este despre cât de ingenioasă a devenit automatizarea, ci despre cât de ieftin și de accesibil ar putea deveni hacking-ul avansat.

Ce a reușit exact agentul AI al Tenzai

Potrivit informațiilor publicate de Forbes, Tenzai a construit un agent AI folosind modele de la OpenAI și Anthropic, adaptate pentru securitate ofensivă. Asta înseamnă că sistemul nu este gândit doar să detecteze probleme sau să analizeze cod în mod defensiv, ci să găsească metode concrete de a sparge protecții, de a combina vulnerabilități și de a ajunge la obiectivul final exact cum ar face un hacker foarte experimentat. Compania spune că tocmai această capacitate de a lega mai multe exploit-uri într-un lanț coerent a fost una dintre cele mai dificile de automatizat până acum.

Rezultatul este cu atât mai interesant cu cât agentul nu a concurat doar în probe clasice de hacking pentru aplicații web, ci și în provocări mai noi, care vizau compromiterea aplicațiilor bazate pe modele lingvistice prin prompturi și manipulări ale comportamentului AI. Cu alte cuvinte, nu discutăm despre un sistem care știe o singură meserie, ci despre unul care poate funcționa într-un peisaj de amenințări tot mai variat. Faptul că a depășit 99% dintre concurenți nu înseamnă că este neapărat mai bun decât cei mai mari experți ai planetei, dar înseamnă că a ajuns deja într-o zonă de elită în care, până de curând, te-ai fi așteptat să găsești exclusiv oameni.

Mai există un detaliu care schimbă radical ecuația. Costul total pentru rularea modelelor în toate cele șase competiții ar fi fost de doar 5.000 de dolari. Pentru o agenție guvernamentală, pentru o grupare de criminalitate cibernetică sau chiar pentru o companie de supraveghere, suma este aproape insignifiantă. Chiar și pentru indivizi bine motivați, vorbim despre un prag financiar surprinzător de mic pentru acces la o capabilitate care, în trecut, ar fi presupus echipe specializate, timp mult și expertiză rară.

De ce succesul acesta ar trebui să ne pună pe gânduri

Partea tulburătoare a poveștii este că democratizarea unei asemenea puteri schimbă complet regulile jocului. Dacă până acum atacurile sofisticate necesitau răbdare, cunoștințe avansate și uneori coordonare între mai mulți specialiști, AI-ul reduce dramatic bariera de intrare. Asta înseamnă că nu doar statele sau actorii foarte bine finanțați pot lansa operațiuni serioase, ci și jucători mult mai mici, cu motivații imprevizibile. Când ai la dispoziție un sistem care scurtează drumul dintre identificarea unei vulnerabilități și exploatarea ei de la zile sau săptămâni la câteva ore, întreaga arhitectură a apărării cibernetice intră sub presiune.

Tocmai de aceea, chiar fondatorii Tenzai spun că ar putea fi nevoie de reglementări urgente. Ideea lor este că modelele suficient de capabile să alimenteze agenți AI ofensivi nu ar trebui vândute pe scară largă oricui, ci eventual limitate la clienți selectați. Este o poziție care poate părea paradoxală venind din partea unei companii care dezvoltă exact acest tip de instrumente, dar tocmai asta face situația și mai interesantă. Când cei care construiesc tehnologia avertizează că ea s-ar putea răspândi prea repede, înseamnă că problema nu mai este ipotetică.

Vezi și:

Microsoft pariază pe AI și calculul cuantic: compania promite un computer cuantic funcțional până în 2029

Digi România bate palma cu statul român într-un contract de 196 de milioane de euro pentru un „ChatGPT românesc”. Tot ce trebuie să știi despre finanțarea prin SAFE

În același timp, există și o față mai puțin sumbră a acestei evoluții. Dacă AI-ul poate găsi vulnerabilități complexe la scară mare, atunci el poate fi folosit și pentru apărare, pentru audit automatizat și pentru repararea mai rapidă a sistemelor înainte ca cineva rău intenționat să profite de ele. Cu alte cuvinte, viitorul apropiat al securității informatice ar putea deveni o cursă între două tipuri de agenți AI: cei care găsesc primii problema ca să o exploateze și cei care o găsesc primii ca să o repare.

O cursă care abia începe

Performanța Tenzai nu apare din senin. În ultimii ani, au apărut deja semnale că AI-ul începe să concureze serios cu hackerii umani. Xbow a urcat pe HackerOne, Anthropic a testat Claude în competiții de hacking pentru studenți, iar compania a anunțat recent că modelul său a găsit peste 500 de vulnerabilități severe în software open source. Totuși, rezultatul de acum ridică ștacheta într-un mod diferit, pentru că sugerează maturizarea pieței, nu doar reușita unui experiment izolat.

Important este și faptul că agentul Tenzai nu a ocupat locul întâi absolut. Asta arată că, măcar pentru moment, vârful piramidei rămâne încă uman. Dar diferența dintre a fi cel mai bun din lume și a depăși 99% dintre profesioniști nu este atât de liniștitoare pe cât ar părea. În foarte multe scenarii reale, nu ai nevoie de perfecțiune absolută ca să faci ravagii. Ai nevoie doar de un instrument suficient de bun, suficient de rapid și suficient de ieftin.

Iar exact aici se află adevărata miză a acestui record. Nu faptul că o mașină a învins aproape toți hackerii dintr-o competiție, ci faptul că această capacitate începe să devină banal de accesibilă. În securitatea cibernetică, banalizarea puterii ofensive nu este niciodată o veste bună, conform Forbes.

Primul autobuz electric pentru ghețari duce 52 de turiști pe Athabasca: reduce până la 300 kg de CO2 pe zi de operare