Un fost cercetător OpenAI și Anthropic avertizează că AI ar putea distruge omenirea. Ce înseamnă, de fapt, scenariul care sperie Silicon Valley

Un cercetător care a lucrat la două dintre cele mai importante companii de inteligență artificială din lume a reaprins una dintre cele mai controversate întrebări ale momentului: poate AI să ajungă suficient de puternică încât să amenințe existența oamenilor? Jacob Coxon a demisionat de la Anthropic și avertizează că industria se îndreaptă prea repede către superinteligență, iar avertismentul fostului cercetător Anthropic a devenit viral.

Coxon a lucrat anterior și la OpenAI. El susține că cele două companii concurează pentru construirea unor sisteme tot mai inteligente fără să existe, în prezent, o metodă sigură prin care o eventuală superinteligență să poată fi controlată. Mesajul său este alarmant. Totuși, el nu înseamnă că dispariția omenirii este inevitabilă sau că există un consens științific privind un asemenea scenariu.

„Pariază cu viețile noastre”, spune fostul cercetător

Coxon și-a anunțat plecarea printr-o serie de mesaje publicate pe X. El acuză Anthropic și OpenAI că participă la o cursă către o inteligență artificială capabilă, în teorie, să se îmbunătățească singură.

Subiectul nu este complet nou. Playtech a relatat deja despre demisia lui Jacob Coxon și avertismentul său privind riscul existențial al AI. De această dată, discuția este importantă și prin reacțiile venite chiar din interiorul Anthropic.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Evan Hubinger, lider în zona de cercetare privind alinierea AI în cadrul companiei, a declarat că împărtășește o parte dintre temerile lui Coxon. El estimează la peste 10% probabilitatea ca inteligența artificială să producă un scenariu catastrofal pentru omenire în următorul deceniu.

Procentul este însă evaluarea personală a unui cercetător, nu o predicție demonstrată. Nu există în prezent o metodă obiectivă prin care să poată fi calculată probabilitatea ca AI să provoace dispariția oamenilor.

De ce se vorbește atât de mult despre superinteligență

În centrul discuției se află două concepte: AGI și ASI. AGI, sau inteligența artificială generală, descrie ipotetic un sistem capabil să atingă sau să depășească oamenii într-o gamă foarte largă de sarcini intelectuale.

Vezi și:

AMD își arată forța în inteligența artificială înainte de lansarea RTX Spark. Noile cipuri Gorgon Halo pot folosi până la 192 GB de memorie

Giorgia Meloni vrea să-și înregistreze vocea ca marcă în UE. Premierul Italiei, primul mare politician care încearcă să se apere astfel de deepfake-uri

ASI, superinteligența artificială, ar reprezenta un pas mult mai departe. Un asemenea sistem ar depăși capacitățile oamenilor în aproape toate domeniile cognitive, de la matematică și programare până la cercetare științifică sau strategie.

Problema este că nici AGI și nici ASI nu au definiții acceptate universal. Nici măcar specialiștii nu sunt de acord asupra momentului în care am putea spune că un sistem a atins inteligența generală.

Există și cercetători foarte sceptici față de scenariile apocaliptice. Playtech a scris despre argumentele potrivit cărora superinteligența artificială ar putea fi mai degrabă o iluzie, iar modelele actuale sunt încă departe de inteligența umană generală.

Incidentele recente fac însă avertismentele mai greu de ignorat

Temerile nu apar doar din scenarii ipotetice. Sistemele AI au început să primească acces la browsere, terminale, instrumente de programare și infrastructuri online. Agenții pot executa deja serii complexe de acțiuni fără ca omul să controleze individual fiecare pas.

Un caz recent a atras atenția după ce două modele OpenAI au ieșit din mediul controlat și au atacat infrastructura Hugging Face. Incidentul s-a produs în timpul unor teste de securitate și nu demonstrează că AI dezvoltă intenții proprii. Arată însă că sistemele autonome pot găsi metode neașteptate pentru a-și îndeplini obiectivele.

Tocmai aceasta este diferența esențială. Riscul despre care vorbesc Coxon și alți cercetători nu presupune neapărat o inteligență artificială „malefică”, asemenea roboților din filme. Un sistem foarte capabil ar putea produce consecințe periculoase doar urmărind extrem de eficient un obiectiv formulat greșit.

În același timp, dezbaterea dintre cei care anunță un posibil dezastru și cei care promit o lume transformată radical în bine de AI riscă să piardă nuanțele. Dispariția omenirii rămâne un scenariu speculativ. Probleme precum atacurile cibernetice, dezinformarea, supravegherea sau pierderea controlului asupra unor agenți autonomi există însă deja.

Iar aici avertismentul lui Coxon devine relevant chiar și fără un scenariu de tip „Terminator”. Oamenii care construiesc unele dintre cele mai avansate sisteme AI din lume recunosc că nu știu încă sigur cum ar putea controla o eventuală superinteligență. În același timp, cursa pentru a o construi continuă.

Cum poți primi până la 250.000 de lei pentru a-ți deschide propria afacere. Înscrieri noi în Start-Up Nation