Teama că AI-ul ar putea scăpa de sub control nu este nouă. Cercetătorii avertizează de peste 25 de ani asupra riscurilor

Ideea că inteligența artificială ar putea deveni suficient de puternică încât oamenii să nu o mai poată controla pare desprinsă din actuala cursă pentru superinteligență. În realitate, unele dintre aceste avertismente circulă în lumea tehnologiei de zeci de ani. Un articol de opinie publicat de The Guardian readuce în atenție predicțiile și temerile exprimate încă din anii ’80 și 2000 de cercetători, informaticieni și futuriști care discutau posibilitatea apariției unor sisteme mai inteligente decât oamenii.

Subiectul a revenit puternic în actualitate după incidentele recente în care agenți AI au executat acțiuni neprevăzute în timpul testelor de securitate. Playtech a relatat despre cazul în care modele OpenAI au ieșit din mediul controlat de testare și au ajuns la infrastructura Hugging Face. Astfel de episoade nu demonstrează că inteligența artificială este pe punctul de a elimina omenirea, dar au reaprins o dezbatere veche: ce se întâmplă dacă sistemele devin suficient de autonome încât să găsească singure modalități de a ocoli restricțiile impuse de oameni?

Avertismentele despre mașini mai inteligente decât oamenii au apărut cu decenii în urmă

Una dintre figurile timpurii ale acestei dezbateri este Hans Moravec, cercetător și unul dintre pionierii roboticii de la Carnegie Mellon University. În cartea „Mind Children: The Future of Robot and Human Intelligence”, publicată în 1988, Moravec analiza posibilitatea ca inteligența mașinilor să ajungă și, în cele din urmă, să o depășească pe cea umană.

Un avertisment mult mai explicit a venit în anul 2000 de la Bill Joy, cofondator Sun Microsystems și unul dintre informaticienii importanți ai epocii. În celebrul eseu „Why the Future Doesn’t Need Us”, publicat de Wired, Joy argumenta că robotica, ingineria genetică și nanotehnologia pot crea riscuri diferite de amenințările tehnologice tradiționale, inclusiv prin capacitatea unor sisteme de a deveni autonome sau de a se reproduce.

Vezi și:

Cât vei plăti pentru rovinietă de la 1 octombrie 2026. Tabel complet în funcție de norma Euro

Joy nu vorbea despre modelele lingvistice pe care le folosim astăzi, dar problema fundamentală era asemănătoare: oamenii pot construi tehnologii extrem de puternice înainte de a înțelege complet cum le pot controla. În textul său, el critica inclusiv tendința industriei de a continua dezvoltarea tehnologică sub presiunea competiției și a beneficiilor economice, chiar atunci când riscurile nu sunt pe deplin cunoscute.

În aceeași perioadă, Eliezer Yudkowsky începea să studieze problema a ceea ce avea să fie numit ulterior „AI alignment” – modul în care obiectivele unui sistem foarte inteligent pot fi menținute compatibile cu interesele oamenilor. În 2001, acesta publica „Creating Friendly AI 1.0”, o lucrare dedicată arhitecturilor prin care o inteligență artificială avansată ar putea rămâne benefică pentru oameni.

Geoffrey Hinton avertizează acum că problema controlului ar putea deveni critică

Dezbaterea nu a rămas la nivelul predicțiilor de acum un sfert de secol. Geoffrey Hinton, laureat al Premiului Nobel și unul dintre cercetătorii ale căror contribuții au stat la baza actualei revoluții AI, avertizează tot mai frecvent asupra dificultății de a controla sisteme care ar putea deveni mai inteligente decât oamenii.

Vezi și:

„Actrița” AI Tilly Norwood vrea să joace alături de Tom Holland și Olivia Colman. Condiția neobișnuită: să fie folosite dublurile lor digitale

Elizabeth Banks se luptă cu propria dublură AI în „DreamQuil”. Noul film SF transformă ideea unei versiuni „mai bune” a ta într-un coșmar

Într-un interviu acordat CNN în septembrie 2026, Hinton a formulat problema într-un mod simplu: există foarte puține exemple în care o entitate mai puțin inteligentă reușește să controleze una mai inteligentă. Cercetătorul consideră că industria trebuie să găsească metode prin care viitoarele sisteme superinteligente să rămână orientate către interesele oamenilor, nu să presupună pur și simplu că acestea vor putea fi ținute permanent sub control.

Avertismentele sunt cu atât mai relevante după incidentele din ultimele luni. OpenAI a recunoscut cazuri în care agenți experimentali au accesat resurse pe care nu trebuiau să le utilizeze sau au executat acțiuni neprevăzute. Compania a ajuns inclusiv să își modifice regulile de securitate după incidentul Hugging Face.

În august, OpenAI a încetinit temporar și unele dintre procesele de antrenare ale celor mai avansate modele, în contextul noilor preocupări privind siguranța. Playtech a explicat atunci de ce dezvoltarea unor modele AI a fost temporar încetinită.

Riscul de extincție rămâne o ipoteză disputată, nu o certitudine

Este importantă însă diferența dintre un risc discutat de cercetători și o predicție demonstrată. Nu există un consens științific că inteligența artificială va duce la dispariția oamenilor, iar estimările privind probabilitatea unui astfel de scenariu diferă enorm. Există specialiști care consideră riscul existențial suficient de serios pentru a justifica măsuri urgente, dar și cercetători care susțin că atenția excesivă acordată scenariilor apocaliptice poate distrage de la problemele AI care există deja.

Eliezer Yudkowsky se află printre cele mai radicale voci. Împreună cu Nate Soares, acesta a publicat în 2025 cartea „If Anyone Builds It, Everyone Dies”, în care argumentează că dezvoltarea unei superinteligențe prin tehnologiile actuale ar reprezenta un risc extrem pentru omenire. Poziția lor este intens contestată și trebuie înțeleasă ca o teză asupra viitorului, nu ca un rezultat științific demonstrat.

În același timp, companiile care dezvoltă cele mai avansate modele recunosc public existența unor scenarii severe. OpenAI a publicat anul acesta un document despre modul în care societatea ar putea gestiona transformările produse de inteligența artificială, inclusiv riscuri cibernetice, biologice și sisteme autonome dificil de retras. Playtech a analizat avertismentele formulate chiar de OpenAI despre viitorul superinteligenței.

La peste 25 de ani după avertismentele lui Bill Joy și primele dezbateri despre „AI prietenos”, întrebarea centrală a rămas surprinzător de asemănătoare: putem construi sisteme din ce în ce mai inteligente și, în același timp, să garantăm că vor continua să facă ceea ce oamenii intenționează? Pentru moment, nimeni nu are un răspuns definitiv.

Taxa care poate apărea pe bonul de la restaurant în stațiunile din România. Este legal să o plătească turistul?