Inteligența artificială îi fentează chiar și pe experții care încearcă să ne apere de hackeri. Cum au ajuns filtrele de siguranță o problemă

Marile companii de inteligență artificială au introdus filtre stricte pentru a împiedica folosirea modelelor în atacuri informatice. Măsura este justificată de riscurile uriașe, dar produce și un efect neașteptat: aceleași sisteme ajung să-i blocheze pe cercetătorii care încearcă să descopere și să repare vulnerabilitățile înaintea hackerilor.

Specialiștii în securitate cibernetică spun că modelele AI refuză uneori să analizeze un cod vulnerabil, să testeze dacă o breșă poate fi exploatată sau să explice comportamentul unui program malițios. Problema este că aceste solicitări pot arăta aproape identic indiferent dacă vin din partea unui atacator sau a unui expert care lucrează cu permisiunea proprietarului sistemului.

Inteligența artificială nu poate distinge întotdeauna hackerul de specialist

O investigație publicată de TechCrunch arată că filtrele implementate de companiile AI provoacă dificultăți tot mai mari în munca specialiștilor care efectuează teste de penetrare și cercetare ofensivă. Aceștia simulează atacuri în medii controlate pentru a demonstra că o vulnerabilitate este reală și trebuie remediată.

Din perspectiva unui model AI, cererea „găsește o metodă prin care acest cod poate fi exploatat” este periculoasă. Sistemul nu știe automat dacă utilizatorul testează propria infrastructură sau încearcă să compromită serverul altei persoane. Din acest motiv, poate refuza solicitarea înainte să analizeze contextul.

Chris Anley, cercetător în cadrul companiei de securitate NCC Group, explică faptul că identificarea modului în care poate fi exploatată o eroare reprezintă adesea singura metodă prin care un expert poate confirma gravitatea acesteia. Fără această etapă, companiile pot subestima problema și pot amâna dezvoltarea unui patch.

Situația seamănă cu folosirea unei unelte care poate avea atât scop constructiv, cât și distructiv. Aceeași analiză tehnică îi poate ajuta pe specialiști să repare un sistem, dar le poate oferi atacatorilor instrucțiuni pentru compromiterea lui. Filtrele automate încearcă să evite scenariul periculos, însă nu reușesc întotdeauna să interpreteze corect intenția utilizatorului.

Cercetătorii se îndreaptă spre modele AI fără restricții

Atunci când modelele comerciale refuză să răspundă, unii specialiști recurg la sisteme open-source instalate local. Acestea pot fi folosite fără filtrele impuse de furnizorii serviciilor cloud și fără ca informațiile despre vulnerabilități încă neraportate să fie trimise către serverele unei companii externe.

Această soluție elimină o parte dintre restricții, dar creează o altă problemă. Modelele fără protecții pot ajunge la fel de ușor în mâinile infractorilor cibernetici și pot fi adaptate pentru phishing, generarea de malware sau automatizarea atacurilor.

Riscul nu este doar teoretic. Am mai scris despre cazurile în care hackerii au folosit inteligența artificială Claude în atacuri informatice la scară largă. Alte grupări susținute de state au utilizat modele precum Gemini pentru cercetarea țintelor, dezvoltarea codului și pregătirea campaniilor de phishing.

Specialiștii mai invocă și confidențialitatea. O vulnerabilitate necunoscută publicului, denumită „zero-day”, poate avea o valoare enormă. Introducerea codului într-un serviciu AI online poate crea riscul ca informația să fie stocată, analizată sau expusă înainte ca producătorul programului afectat să publice o actualizare de securitate.

Companiile AI încearcă să ofere acces special experților verificați

OpenAI a lansat programul Trusted Access for Cyber, prin care cercetătorii și organizațiile verificate pot primi acces la modele cu mai puține refuzuri pentru activități legitime de securitate. Sunt permise operațiuni precum identificarea vulnerabilităților, analiza programelor malware, verificarea patch-urilor și ingineria inversă.

Rămân blocate activitățile care pot produce direct pagube, precum furtul datelor de autentificare, instalarea de malware sau compromiterea unor sisteme fără autorizație. Anthropic folosește un mecanism asemănător, prin care specialiștii trebuie să-și verifice identitatea și domeniul de activitate pentru a primi acces mai permisiv.

Chiar și cercetătorii acceptați în aceste programe susțin însă că rezultatele pot fi inconsistente. O cerere poate fi aprobată într-o zi și refuzată ulterior, iar specialiștii ajung să piardă timp reformulând întrebările pentru a convinge sistemul că activitatea lor este legitimă.

Inteligența artificială rămâne, totuși, una dintre cele mai promițătoare arme împotriva atacurilor informatice. Ea poate analiza volume uriașe de cod, poate identifica greșeli și poate propune corecții mult mai repede decât o echipă umană. Am explicat anterior de ce AI-ul ar putea ajunge să lupte mai eficient decât oamenii împotriva hackerilor.

Adevărata provocare este construirea unor filtre suficient de stricte pentru a opri atacurile, dar suficient de inteligente pentru a nu-i împiedica pe cei care încearcă să le prevină. Dacă acest echilibru nu este găsit, cercetătorii legitimi riscă să rămână în urma infractorilor care folosesc modele fără nicio restricție.

Se schimbă stimulentul de 1.000 de lei pentru copiii cu dizabilități din București. Cine va primi mai puțin din 2027