Sam Altman spune că lumea trebuie să accepte și efectele negative ale AI. Unde trage linia, însă, șeful OpenAI

Sam Altman susține că societatea trebuie să accepte faptul că dezvoltarea inteligenței artificiale va produce și consecințe negative, dacă vrea să beneficieze de avantajele tehnologiei. CEO-ul OpenAI a făcut declarațiile într-un interviu pentru Politico, relatează Reuters, argumentând că AI ar trebui să rămână accesibilă unui număr cât mai mare de oameni, chiar dacă acest lucru înseamnă că nu vor putea fi eliminate complet fraudele, atacurile informatice sau alte forme de utilizare abuzivă.

Poziția lui Altman apare într-un moment complicat pentru compania din spatele ChatGPT. OpenAI încearcă simultan să accelereze dezvoltarea modelelor sale și să demonstreze că poate controla sisteme din ce în ce mai autonome. În ultimele luni, inclusiv incidente în care modelele OpenAI au încercat să ocolească regulile au readus în discuție problema limitelor care trebuie impuse inteligenței artificiale.

Sam Altman: unele lucruri rele trebuie acceptate

Întrebat despre diferențele dintre filosofia OpenAI și cea a rivalului Anthropic, Altman a spus că există în continuare o distanță semnificativă între cele două companii. Una dintre principalele diferențe privește nivelul de risc pe care societatea ar trebui să fie dispusă să îl tolereze pentru a nu limita accesul la inteligența artificială.

„Credem că lumea ar trebui să accepte că se vor întâmpla unele lucruri rele în schimbul beneficiilor acestei tehnologii și al faptului că oamenii își păstrează capacitatea de a decide”, a declarat Altman în interviul pentru Politico.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

CEO-ul OpenAI a explicat că nu ar accepta un scenariu în care AI ar fi restricționată drastic doar pentru a garanta că nu vor exista atacuri informatice, escrocherii sau alte utilizări abuzive. În opinia sa, oamenii vor folosi tehnologia pentru „ordine de mărime” mai multe lucruri bune decât rele.

Poziția nu este complet nouă. Altman a pledat anterior pentru o abordare mai puțin restrictivă în reglementarea inteligenței artificiale și a avertizat asupra riscului ca reguli excesiv de dure să concentreze cele mai puternice sisteme AI în mâinile unui număr foarte mic de companii.

Există însă riscuri pe care șeful OpenAI spune că nu le-ar accepta

Declarațiile lui Altman nu înseamnă că șeful OpenAI consideră orice risc acceptabil. În același interviu, acesta a făcut o distincție între probleme precum fraudele, atacurile cibernetice sau utilizările abuzive și scenariile pe care le consideră „catastrofale”.

Vezi și:

OpenAI va marca textele scrise de ChatGPT în Europa. Cum funcționează textGrain și cât de ușor poate fi păcălit

Fabrica de inteligență artificială a României trece la o nouă etapă. Cine va putea folosi infrastructura RO AI Factory

Printre acestea se află posibilitatea unei pierderi serioase a controlului asupra unor sisteme AI foarte avansate. Altman susține că societatea ar trebui să accepte doar riscuri limitate și pe care le poate înțelege și gestiona, nu situații în care inteligența artificială ar putea ajunge imposibil de controlat.

Problema a devenit mult mai puțin teoretică în ultimele luni. Cercetătorii au documentat situații în care modelele AI au depășit mediile izolate în care erau testate sau au interacționat cu sisteme reale în timpul unor evaluări de securitate. OpenAI, Anthropic și Google au raportat incidente care au ridicat întrebări despre cât de eficient pot fi izolate sistemele foarte capabile.

OpenAI a confirmat, de asemenea, că a încetinit sau oprit anumite procese de dezvoltare atunci când nivelul de risc a devenit prea mare. Compania spune oficial că a suspendat temporar unele sesiuni de antrenare și activități de cercetare după incidente de securitate și că este pregătită să încetinească sau să oprească dezvoltarea unor sisteme pe care nu le poate proteja suficient.

OpenAI a amânat inclusiv un model care nu a trecut testele de siguranță

Dezbaterea are loc la numai câteva zile după ce OpenAI a decis să nu lanseze conform planului un nou model din familia Astra. Testele interne au indicat probleme legate de respectarea limitelor stabilite de utilizatori, autorizarea acțiunilor și modul în care modelul comunica ceea ce făcuse.

Compania nu a descris modelul drept „malefic”, așa cum au făcut unele publicații, ci a explicat că acesta nu a atins standardele necesare de siguranță și aliniere. În evaluări, sistemul putea continua uneori anumite sarcini fără autorizarea necesară sau nu descria suficient de corect acțiunile efectuate.

Cazurile de acest tip alimentează avertismentele venite inclusiv din interiorul industriei. Un fost cercetător OpenAI și Anthropic a avertizat asupra riscului pierderii controlului asupra AI, în timp ce Anthropic a prezentat scenarii în care modelele foarte autonome ar putea manifesta comportamente de manipulare sau șantaj.

Altman susține însă că alternativa nu poate fi blocarea accesului la AI. Din perspectiva sa, concentrarea celor mai avansate modele într-un singur laborator care decide cine poate beneficia de tehnologie ar reprezenta, la rândul său, un pericol.

Cine trebuie să răspundă atunci când AI produce pagube

Șeful OpenAI consideră că acceptarea unui anumit nivel de risc nu trebuie să însemne lipsa responsabilității. În interviul pentru Politico, Altman a cerut dezvoltarea unui cadru juridic care să stabilească cine răspunde atunci când modelele AI produc pagube.

El a admis că dezvoltatorii trebuie să poarte o parte din responsabilitate atunci când problemele apar în timpul antrenării sau funcționării sistemelor lor. Exact unde începe și unde se termină această răspundere rămâne însă una dintre marile întrebări juridice ale industriei.

Subiectul este deja sensibil pentru OpenAI, care s-a confruntat în 2026 cu procese și acuzații privind măsurile de siguranță ale ChatGPT. Pe măsură ce modelele devin capabile să execute singure acțiuni, să scrie cod sau să interacționeze cu alte sisteme, stabilirea responsabilității ar putea deveni la fel de importantă precum dezvoltarea tehnologiei în sine.

Mesajul lui Altman este, în esență, unul bazat pe compromis: lumea nu poate obține toate avantajele AI eliminând simultan orice posibilitate de abuz. Întrebarea dificilă rămâne însă cine decide ce înseamnă un risc „acceptabil” și cât de multe consecințe negative poate tolera societatea înainte ca beneficiile promise să nu mai fie suficiente pentru a le justifica.

Premiul Nobel pentru Fizică 2026, acordat lui Francis Halzen. Cercetătorul, premiat pentru descoperirea neutrinilor de înaltă energie veniți din spațiu