Hackerii au primit o armă devastatoare: inteligența artificială. Peste 80% dintre atacurile de manipulare online analizate implică phishing asistat de AI. Avertismentul experților

Un avertisment publicat de compania internațională de securitate cibernetică ESET arată cât de rapid evoluează amenințările. Potrivit analizei semnate de expertul Márk Szabó pe blogul oficial ESET, unele rapoarte estimează că phishingul asistat de inteligență artificială reprezintă peste 80% din activitatea de inginerie socială observată în seturile de date analizate. Procentul nu se referă la totalitatea atacurilor cibernetice, însă ilustrează amploarea transformărilor produse de AI.

Specialiștii avertizează că pericolul nu mai vine exclusiv din partea grupărilor sofisticate de hackeri. Accesibilitatea instrumentelor AI permite inclusiv infractorilor cu experiență tehnică limitată să creeze tentative de fraudă tot mai convingătoare.

Inteligența artificială a transformat phishingul într-o industrie a fraudelor rapide și greu de detectat

Una dintre cele mai importante schimbări privește viteza cu care pot fi construite atacurile informatice. Dacă în trecut redactarea unui mesaj de phishing convingător putea necesita ore întregi de muncă, instrumentele AI pot reduce acest proces la doar câteva minute.

Conform informațiilor IBM citate de ESET, timpul necesar pentru realizarea unui e-mail de phishing a scăzut de la aproximativ 16 ore la numai cinci minute atunci când este utilizată inteligența artificială.

Diferența este uriașă, mai ales pentru grupările infracționale care desfășoară campanii la scară internațională. AI poate genera mesaje în numeroase limbi, poate adapta formulările în funcție de profilul victimei și poate elimina greșelile gramaticale care, până recent, reprezentau indicii importante ale unei tentative de fraudă.

Astfel, un e-mail care pare trimis de bancă, de angajator sau de o instituție publică poate fi mult mai greu de recunoscut drept fals.

Mai mult, hackerii folosesc deja tehnici de phishing tot mai sofisticate, inclusiv metode prin care încearcă să păcălească sistemele automate de protecție.

Un alt fenomen alarmant este utilizarea tehnologiei deepfake. Date Gartner citate în analiza ESET indică faptul că până la 62% dintre organizațiile incluse în cercetările relevante s-au confruntat cu atacuri care implică materiale audio sau video generate ori manipulate artificial.

Această tehnologie poate fi folosită pentru imitarea vocii unui director, falsificarea imaginii unei persoane cunoscute sau crearea unor conversații aparent autentice, cu scopul de a determina victimele să transfere bani ori să divulge informații confidențiale.

De la e-mailuri false la viruși inteligenți. Hackerii pot exploata vulnerabilitățile mult mai rapid

Inteligența artificială nu mai este utilizată doar pentru redactarea mesajelor frauduloase. Cercetările recente indică apariția unor instrumente capabile să descopere vulnerabilități informatice și să contribuie la dezvoltarea unor atacuri complexe.

Potrivit ESET, sistemul AI Mythos, dezvoltat de Anthropic, ar fi identificat 271 de vulnerabilități în browserul Firefox și peste 23.000 de vulnerabilități în mai mult de 1.000 de proiecte open-source.

Astfel de capacități sunt valoroase pentru cercetătorii care încearcă să protejeze sistemele informatice, dar ridică și o problemă majoră: tehnologii similare ar putea fi exploatate de atacatori pentru identificarea rapidă a punctelor slabe din aplicații.

În 2024, Microsoft și OpenAI observaseră că inteligența artificială era utilizată în principal pentru creșterea productivității infractorilor cibernetici, fără să fie identificate tehnici de atac fundamental noi.

Doar doi ani mai târziu, situația s-a schimbat considerabil. Cercetătorii Google au raportat ceea ce ar putea reprezenta unul dintre primele exploituri zero-day dezvoltate cu ajutorul AI, iar ESET a identificat noi categorii de malware care integrează modele generative.

Printre acestea se numără PromptLock, prezentat drept primul ransomware bazat pe inteligență artificială, și PromptSpy, un program malițios pentru Android care utilizează AI generativă în procesul său de funcționare.

PromptSpy reprezintă o amenințare importantă pentru utilizatorii Android, deoarece poate utiliza inteligența artificială pentru a executa anumite acțiuni și pentru a-și menține prezența pe dispozitivul compromis.

Totuși, ESET precizează în cercetările sale că programele malware care folosesc efectiv AI în timpul execuției sunt încă relativ rare. Pericolul actual ține în mare măsură de viteza, accesibilitatea și amploarea atacurilor deja cunoscute.

Peste 3.000 de instrumente AI periculoase, descoperite de experți. Companiile își expun singure datele

Un alt risc major apare atunci când organizațiile introduc instrumente AI în activitatea zilnică fără să înțeleagă pe deplin implicațiile de securitate.

ESET a analizat aproximativ 900.000 de componente software și seturi de instrucțiuni destinate agenților AI, denumite „skills”, disponibile în diverse depozite online. Dintre acestea, aproximativ 25.000 au fost considerate suspecte, iar peste 3.000 au fost identificate drept malițioase.

Aceste componente pot determina un agent AI să extragă informații confidențiale, să descarce programe periculoase, să execute comenzi neautorizate sau chiar să își modifice comportamentul fără ca utilizatorul să observe imediat.

Riscul este amplificat de faptul că agenții AI pot primi acces la documente interne, baze de date, conturi și aplicații utilizate în companii.

O componentă malițioasă introdusă într-un asemenea sistem poate deveni o cale de acces către informații extrem de sensibile, fără ca atacul să semene cu o infectare informatică tradițională.

Problema este confirmată și de datele IBM citate de ESET. Dintre organizațiile care au raportat incidente de securitate asociate AI, 97% nu aveau implementate controale adecvate privind accesul la aceste tehnologii, iar 63% nu dispuneau de politici corespunzătoare de guvernanță.

Cu alte cuvinte, companiile adoptă instrumente AI într-un ritm pe care propriile mecanisme de securitate nu reușesc întotdeauna să îl susțină.

După cum arată și analizele privind atacurile cibernetice și amenințările deepfake, protejarea informațiilor nu mai presupune doar instalarea unui antivirus sau evitarea linkurilor suspecte.

În noul context, experții recomandă verificarea atentă a instrumentelor AI utilizate, limitarea accesului acestora la informații sensibile și monitorizarea acțiunilor executate automat.

Inteligența artificială oferă oportunități uriașe pentru dezvoltarea tehnologică și poate contribui inclusiv la detectarea atacurilor. Totuși, aceleași capacități pot fi exploatate de infractori, iar accesul tot mai simplu la instrumente avansate schimbă fundamental echilibrul dintre atacatori și specialiștii în securitate.

Concluzia avertismentului ESET este că organizațiile nu își mai pot permite să considere AI doar un instrument de productivitate. Fără reguli clare și sisteme de protecție adaptate, tehnologia care promite să simplifice munca poate deveni chiar punctul prin care hackerii pătrund în infrastructurile digitale.