Șeful OpenAI avertizează să nu transformăm AI-ul într-un Dumnezeu. Ce îl neliniștește pe omul din spatele ChatGPT

Un chatbot are răbdare, răspunde la orice oră și poate discuta inclusiv despre lucrurile pe care ne este greu să le spunem altcuiva. De aici până la a-i acorda o încredere fără limite poate fi însă un pas periculos. Sam Altman, directorul executiv al OpenAI, avertizează asupra tendinței de a atribui inteligenței artificiale o autoritate religioasă și de a renunța la propria judecată în fața ei.

Mesajul publicat pe X pe 3 octombrie vine într-un moment în care industria discută tot mai des despre conștiința modelelor AI. Întrebarea nu mai este doar ce pot face aceste sisteme, ci și cum ajung oamenii să le privească atunci când conversațiile par tot mai personale.

Altman spune că renunțarea la propria judecată este un risc real

În postarea sa, Altman spune că îl neliniștesc încercările de a atribui modelelor AI o putere religioasă sau de a le ceda judecata umană. El consideră această tendință o problemă reală de siguranță.

Șeful OpenAI nu a indicat o companie și nici nu a explicat ce anume i-a declanșat reacția. Business Insider plasează declarația în contextul dezvăluirilor recente despre discuțiile Anthropic cu reprezentanți religioși. Legătura rămâne însă una de context, nu o acuzație explicită formulată de Altman.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Subiectul are deja exemple concrete în viața utilizatorilor. Există chatboți religioși care promit îndrumare spirituală, iar unele aplicații folosesc un limbaj care poate sugera că răspunsurile vin din partea unei autorități divine. Tocmai această trecere de la instrument la autoritate face avertismentul relevant și dincolo de industria tech.

De ce întâlnirile Anthropic cu liderii religioși au reaprins discuția

Potrivit investigației The New York Times prezentate anterior în articolul despre întâlnirile Anthropic cu teologi, filosofi și lideri religioși, compania a căutat perspective asupra comportamentului moral al lui Claude și asupra posibilității ca modelele AI să aibă conștiință. Christopher Olah, cofondatorul companiei, a recunoscut că nu știe dacă asemenea sisteme sunt conștiente.

Poziția oficială poate fi citită și în „constituția” lui Claude, documentul care descrie valorile și comportamentele urmărite în antrenare. Anthropic exprimă incertitudine privind conștiința și statutul moral al modelului, dar insistă totodată că oamenii trebuie să îi poată supraveghea și corecta acțiunile.

Compania explică și de ce folosește termeni umani precum înțelepciune sau virtute: modelele sunt antrenate pe texte umane, iar asemenea concepte pot orienta comportamentul lor. Folosirea acestor cuvinte nu constituie, în sine, dovada unei vieți interioare.

Pentru utilizator, diferența contează: un răspuns cald sau convingător nu devine automat adevărat și nici nu capătă autoritate morală doar fiindcă vine de la AI. Discuția despre eventuala conștiință a programelor rămâne deschisă; responsabilitatea pentru deciziile luate cu ajutorul lor rămâne însă una cât se poate de umană.