Inteligența artificială schimbă regulile jocului în securitatea cibernetică: Atacatorii încă dezavantajați, dar nu pentru mult timp

La conferința Black Hat 2025, experții în securitate au avertizat că, deși inteligența artificială ajută în prezent apărătorii mai mult decât atacatorii, această balanță s-ar putea inversa rapid.

Săptămâna dedicată „Hacker Summer Camp”, care reunește evenimentele Black Hat, DEF CON și BSides, a început cu o observație optimistă, dar și cu un avertisment.

Mikko Hyppönen, cercetător principal la compania finlandeză WithSecure, aflat la final de mandat, a declarat în deschiderea conferinței că, în prezent, AI oferă un avantaj mai clar apărătorilor decât atacatorilor.

„Toate companiile de securitate folosesc intensiv AI generativă în produsele lor. Da, și atacatorii o folosesc, dar sunt abia la început. Am văzut doar atacuri simple până acum. Lucrurile se vor schimba, dar momentan suntem înaintea lor”, a spus Hyppönen, potrivit The Register.

În 2024, nu a fost descoperită nicio vulnerabilitate zero-day de către sisteme AI, însă în 2025 au fost identificate aproximativ douăzeci, toate remediate. Hyppönen avertizează însă că hackerii încep să folosească AI în mod avansat și că, inevitabil, vor găsi mai multe breșe.

Red teaming cu AI, o chestiune cu promisiuni și limite

În cadrul conferinței, mai mulți specialiști au discutat despre utilizarea AI în testele de penetrare (red teaming), menite să simuleze atacuri cibernetice.

Deși utilă pentru automatizarea unor procese, tehnologia nu este considerată de încredere fără supraveghere umană.

Charles Henderson, vicepreședinte executiv la Coalfire, a explicat că AI poate rezolva aproximativ 60% dintr-o misiune de testare, dar doar atunci când este ghidată corect. „E ușor de implementat, dar mult mai greu de folosit eficient”, a spus el.

Chris Yule, director de cercetare a amenințărilor la Sophos, a subliniat că cea mai bună utilizare a AI în acest context este augmentarea abilităților umane, nu înlocuirea lor. Modelele trebuie setate cu obiective clare și limitate, fiind apoi ghidate de specialiști.

AI în apărare – rezultate promițătoare și cod open-source

În zona de apărare, DARPA (agenția americană de cercetare militară) a oferit 8,5 milioane de dolari pentru un concurs de dezvoltare a unui sistem AI capabil să detecteze și să repare vulnerabilități fără a destabiliza rețelele.

Echipa câștigătoare, formată din specialiști americani și sud-coreeni, a reușit să descopere și să remedieze inclusiv breșe care nu făceau parte din setul de test. Codul rezultat este acum open-source.

În prezent, AI excelează în identificarea vulnerabilităților SQL, ceea ce este încurajator având în vedere frecvența acestora.

Cu toate acestea, în ciuda temerilor privind locurile de muncă, mulți experți consideră că impactul AI asupra posturilor din securitate este exagerat. „Factorul uman rămâne esențial”, a concluzionat un CISO prezent la eveniment.