Cercetătorul Yoshua Bengio avertizează asupra riscurilor AI: „Mă ţine treaz noaptea”

Unul dintre pionierii sistemelor de învăţare automată, laureat al prestigiosului premiu Turing, trage un semnal de alarmă cu privire la direcţia în care evoluează inteligenţa artificială. Yoshua Bengio, cercetător la Universitatea din Montreal şi unul dintre arhitecţii tehnicilor de deep learning care au revoluţionat tehnologia modernă, spune că acelaşi progres pe care l-a impulsionat ani la rând îi provoacă acum cele mai mari temeri. Într-un interviu amplu, Bengio descrie tranziţia sa de la entuziasm la îngrijorare profundă — şi explică de ce lucrează astăzi aproape exclusiv la identificarea şi limitarea riscurilor avansate ale AI.

Bengio a fost unul dintre cercetătorii care au schimbat radical modul în care funcţionează inteligenţa artificială. Munca sa timpurie legată de mecanismele de atenţie din reţelele neuronale şi studiile despre „curriculum learning” au deschis drumul către apariţia tehnologiilor moderne precum transformerele, esenţiale în modelele de limbaj actuale.

Totuşi, lansarea ChatGPT în 2022 a fost momentul în care percepţia lui Bengio s-a schimbat decisiv. O realizare tehnologică remarcabilă, dar şi un semnal de alarmă. După luni de analiză, a înţeles că aceste sisteme sunt suficient de puternice încât să depăşească limitele tradiţionale ale controlului uman, fără ca dezvoltatorii lor să ştie cu adevărat cum să le facă pe deplin sigure.

Cercetătorul mărturiseşte că s-a gândit la viitorul nepoţilor săi. Ce fel de lume vor moşteni? Va mai fi siguranţă? Va mai fi democraţie într-o societate în care puterea este concentrată în mâinile celor care controlează cele mai avansate sisteme AI? Pentru Bengio, acestea nu mai sunt simple scenarii teoretice, ci posibile evoluţii care pot schimba radical structura lumii.

Cerere de căsătorie surpriză la „Mireasa”. Un cuplu contestat s-a logodit, după câteva săptămâni de relație: „Promit că o să încerc să te fac fericit”

Horoscop 5 decembrie 2025. O zodie primește o nouă șansă, norocul e de partea ei

Ameninţări, vulnerabilităţi şi o cursă pentru siguranţă

Raportul internaţional privind siguranţa AI, coordonat de Bengio şi la care au contribuit 30 de ţări şi instituţii globale, subliniază trei tipuri majore de risc: malfuncţii neintenţionate, utilizare maliţioasă şi efecte sistemice precum pierderea locurilor de muncă.

Cercetătorul este clar: ameninţările provocate de utilizarea maliţioasă sunt deja vizibile. Deepfake-urile, atacurile cibernetice automate şi manipularea informaţională sunt doar începutul. Totuşi, adevărata teamă a lui Bengio este legată de scenariile catastrofale.

În mâinile unor persoane dezechilibrate sau motivate ideologic, o AI suficient de puternică ar putea fi rugată să creeze agenţi patogeni devastatori sau să manipuleze sisteme critice. În astfel de cazuri, spune el, nu vorbim doar despre prejudicii, ci despre riscuri existenţiale — ameninţări la adresa întregii specii umane.

Acesta este motivul pentru care Bengio şi-a reorientat cariera către dezvoltarea unei AI sigure „prin design”. Conceptul său de „Scientist AI” este un model non-agentic, fără intenţii proprii, menit să funcţioneze similar unui cercetător uman: să observe, să analizeze şi să ofere explicaţii despre lume, fără a acţiona în mod autonom.

Deşi companiile tech sunt interesate în principal de AI-uri capabile să îndeplinească sarcini autonome, Bengio crede că modelele fundamentate pe predicţie şi analiză pot oferi bariere de siguranţă necesare pentru a preveni comportamentele periculoase. Aceste sisteme ar putea anticipa consecinţele unei acţiuni înainte ca aceasta să aibă loc, reducând riscurile operaţionale.

Reglementare, cooperare globală şi speranţa unei direcţii sigure

Deşi riscurile sunt majore, Bengio nu este un pesimist. Dimpotrivă, spune că motivul pentru care este optimist astăzi este tocmai avansul cercetării în siguranţa AI. Soluțiile există sau încep să fie conturate, iar colaborarea internaţională este mai puternică decât acum câţiva ani.

Primul raport ştiinţific global privind siguranţa AI, coordonat de el, a fost deja preluat de guverne şi organizaţii internaţionale care îl folosesc ca bază pentru strategii şi politici de reglementare. Acesta stabileşte, cu rigurozitate, riscurile validate de literatura de specialitate, dar şi limitele tehnologiilor actuale de protecţie.

Pentru Bengio, următorii ani sunt decisivi. Puterea AI va creşte, la fel şi potenţialul de abuz. De aceea, eforturile de siguranţă trebuie accelerate, iar reglementările internaţionale trebuie consolidate. Iar dacă această cursă este câştigată, tehnologia poate deveni unul dintre cele mai mari avantaje ale umanităţii — fără a-i pune în pericol existenţa.

Mesajul central al cercetătorului este clar: AI-ul avansat poate transforma lumea în bine, dar doar dacă atenţia, precauţia şi responsabilitatea merg în paralel cu inovaţia. Pentru Bengio, lupta pentru siguranţă nu este doar un subiect academic — este o datorie morală faţă de generaţiile viitoare.