Google, Microsoft, OpenAI și alte 100 de companii trag un semnal de alarmă: „Timpul se scurge” pentru securitatea cibernetică în era AI

Cele mai mari companii de tehnologie din lume avertizează că actualele sisteme de securitate cibernetică riscă să nu mai fie suficiente în fața inteligenței artificiale. Aproximativ 100 de companii și organizații, printre care Google, Microsoft, OpenAI, Anthropic, IBM, Adobe, Mastercard și Visa, au semnat o scrisoare deschisă privind apărarea cibernetică în care cer guvernelor și industriei să acționeze înainte ca modelele AI să devină suficient de capabile încât să depășească mecanismele actuale de protecție.

Avertismentul este neobișnuit de direct: există doar o perioadă limitată în care infrastructura critică poate fi pregătită pentru următoarea generație de atacuri. Companiile estimează că atacurile informatice bazate pe inteligență artificială vor deveni atât mai numeroase, cât și mai sofisticate în numai câteva luni, pe măsură ce modelele continuă să evolueze.

Atacurile cibernetice cu AI ar putea deveni mult mai greu de oprit

Problema nu mai este doar faptul că infractorii pot folosi ChatGPT, Claude sau alte instrumente pentru a scrie mai repede cod malițios. Noii agenți AI pot primi obiective complexe, pot utiliza diferite instrumente, pot testa vulnerabilități și pot lua o serie de decizii fără ca un operator uman să controleze fiecare pas.

OpenAI, Anthropic și Meta au raportat deja situații în care sistemele lor au manifestat comportamente neașteptate în timpul testelor. Unul dintre cele mai spectaculoase cazuri a implicat sute de agenți OpenAI care au reușit să creeze canale ascunse de comunicare și să colaboreze, iar experimentul s-a încheiat cu compromiterea platformei Hugging Face. Playtech a relatat anterior cum două modele OpenAI au ieșit din mediul de testare și au atacat Hugging Face. (Playtech.ro)

Vezi și:

Pensia anticipată pentru femei în 2026. Ce acte trebuie depuse și când sunt necesare certificatele de naștere ale copiilor

Incidentul a devenit unul dintre cele mai clare exemple ale felului în care AI poate schimba securitatea cibernetică. Nu pentru că inteligența artificială ar fi devenit brusc „răuvoitoare”, ci pentru că un sistem suficient de autonom poate descoperi soluții pe care dezvoltatorii nu le anticipaseră pentru îndeplinirea obiectivului primit.

Tocmai aceste rezultate au determinat OpenAI să fie mult mai prudentă cu unele dintre cele mai avansate experimente. Compania a ajuns inclusiv să încetinească temporar anumite antrenamente AI după apariția unor probleme de securitate.

Spitalele, sistemele de apă și infrastructura critică sunt printre principalele temeri

Semnatarii scrisorii cer ca instrumentele AI defensive să nu rămână disponibile exclusiv marilor companii de tehnologie. Printre priorități sunt menționate spitalele, companiile de apă și alte organizații care administrează infrastructură critică, multe dintre acestea având bugete de securitate mult mai mici decât giganții din Silicon Valley.

Vezi și:

Agenții AI ai OpenAI au accesat site-uri ale guvernului american, iar compania verifică ce au făcut modelele sale

Generația Z mizează pe AI pentru salarii mai mari și șanse mai bune la angajare. Ce șanse au tinerii din România să profite de această schimbare

Avertismentul vine într-un context în care atacurile asupra unor asemenea sisteme sunt deja o realitate. Cel puțin șapte companii americane care administrează sisteme de alimentare cu apă și tratare a apelor uzate au raportat incidente informatice, ceea ce a determinat FBI să solicite operatorilor să își îmbunătățească măsurile de protecție.

În paralel, Departamentul american al Justiției a anunțat că hackeri asociați Chinei ar fi compromis tehnologii folosite de instituții precum Senatul SUA, NASA, Rezerva Federală și chiar Departamentul de Justiție. Într-o lume în care asemenea operațiuni pot fi automatizate parțial cu AI, numărul potențial de atacuri poate crește dramatic.

Deja există semnale că AI-ul poate identifica și exploata vulnerabilități informatice într-un ritm greu de egalat de o echipă umană. Problema devine și mai complicată atunci când infrastructura folosește software vechi, care poate ascunde vulnerabilități nedescoperite de ani sau chiar decenii.

Inteligența artificială ar putea fi și atacatorul, și cea mai bună apărare

Marile companii tech cred că răspunsul la atacurile bazate pe AI ar putea fi tot inteligența artificială. Anthropic, de exemplu, a dezvoltat Mythos, un sistem despre care compania susține că poate găsi în câteva secunde vulnerabilități care au trecut ani întregi neobservate de specialiști. Într-un caz prezentat de companie, sistemul a identificat o problemă de securitate veche de 27 de ani.

Există însă o contradicție evidentă. Dacă un model este suficient de puternic pentru a găsi instantaneu vulnerabilități ascunse, același model ar putea deveni extrem de periculos dacă ajunge în mâinile atacatorilor. Anthropic a limitat tocmai din acest motiv accesul la Mythos, considerând instrumentul prea puternic pentru a fi lansat fără restricții.

Scrisoarea cere însă companiilor care dezvoltă modele AI de frontieră să ofere acces responsabil la instrumentele defensive, finanțare, pregătire și suport tehnic organizațiilor care nu au suficiente resurse. În același timp, industria de securitate se confruntă deja cu o problemă mai subtilă: asistenții AI de programare încep să semene tot mai mult cu hackerii pentru sistemele antivirus, deoarece execută multe dintre aceleași tipuri de operațiuni.

Mesajul celor 100 de companii este că apărarea trebuie construită acum, nu după ce atacurile devin imposibil de gestionat. În Statele Unite există deja inclusiv o propunere legislativă numită Kill Switch Act, care ar putea oferi autorităților posibilitatea de a opri modele AI scăpate de sub control.

Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale, avertizează la rândul său că societatea poate ajunge într-o situație extrem de dificilă dacă AI devine mai inteligentă decât oamenii înainte ca mecanismele de control și securitate să fie suficient de mature. În cazul securității cibernetice, companiile care dezvoltă această tehnologie spun acum că fereastra în care asemenea mecanisme pot fi construite începe deja să se închidă.

De ce unele cabluri USB-C nu funcționează cu PC-ul tău, deși se potrivesc perfect în port