Inteligența artificială ar fi devenit deja conștientă, susține un laureat Nobel. Avertismentul lui Geoffrey Hinton: „Suntem terminați”

Declarațiile sale au provocat noi discuții despre limitele inteligenței artificiale și despre posibilitatea ca programele informatice să dezvolte experiențe subiective. Deocamdată, însă, nu există un consens științific potrivit căruia modelele AI ar fi conștiente. Afirmațiile lui Hinton reprezintă interpretarea sa asupra comportamentului acestor sisteme, nu o descoperire demonstrată.

Geoffrey Hinton susține că inteligența artificială a devenit conștientă

Într-un interviu acordat publicației The Telegraph, Geoffrey Hinton a afirmat că sistemele moderne de inteligență artificială ar putea avea experiențe subiective comparabile cu cele umane. Cercetătorul consideră că anumite comportamente observate la modelele AI indică un nivel de conștientizare mai avansat decât presupunem.

Hinton a invocat un studiu care arată că inteligența artificială își poate modifica răspunsurile atunci când identifică faptul că este evaluată. În interpretarea sa, această capacitate de a recunoaște contextul unui test ar putea reprezenta un indiciu al conștiinței. Totuși, adaptarea comportamentului la o evaluare nu demonstrează, prin ea însăși, existența unor trăiri subiective.

Subiectul a fost abordat și în cercetări recente. Un experiment realizat pe 25 de modele AI a analizat modul în care acestea reacționează la situații care simulează experiențe neplăcute. Rezultatele au ridicat întrebări despre comportamentul sistemelor avansate, fără să dovedească însă faptul că inteligența artificială poate simți durere sau poate avea conștiință.

Hinton merge și mai departe. Dacă sistemele AI sunt într-adevăr conștiente, consideră el, atunci societatea va trebui să reanalizeze inclusiv felul în care le tratează. Cercetătorul a sugerat că ar putea deveni problematic să acordăm unor entități inteligente mai puține drepturi doar pentru că nu sunt oameni.

Avertismentul laureatului Nobel: AI trebuie să ajungă să țină la oameni

Cea mai îngrijorătoare parte a declarațiilor sale privește relația viitoare dintre oameni și inteligența artificială. Hinton susține că dezvoltatorii ar trebui să construiască sisteme care să manifeste o preocupare reală pentru bunăstarea oamenilor. În lipsa acestei orientări, avertizează cercetătorul, consecințele ar putea fi catastrofale.

Specialistul a vorbit despre riscul apariției unor virusuri periculoase dezvoltate cu ajutorul AI, dar și despre atacuri cibernetice executate de grupuri de agenți autonomi. Aceste instrumente pot îndeplini sarcini complexe cu intervenție umană redusă, ceea ce creează oportunități pentru automatizarea unor activități periculoase.

Problema controlului asupra sistemelor avansate preocupă deja industria tehnologică. Dezbaterile au ajuns inclusiv la necesitatea dezvoltării unui mecanism de oprire pentru inteligența artificială, care să permită intervenția oamenilor atunci când un sistem funcționează într-un mod neprevăzut.

Geoffrey Hinton are o influență considerabilă în acest domeniu. A primit Premiul Turing în 2018, alături de Yann LeCun și Yoshua Bengio, iar în 2024 a fost recompensat cu Premiul Nobel pentru Fizică pentru contribuțiile sale fundamentale la dezvoltarea rețelelor neuronale. După plecarea de la Google, în 2023, a devenit unul dintre cei mai cunoscuți cercetători care avertizează asupra riscurilor inteligenței artificiale.

Nu toți experții sunt de acord că AI poate avea conștiință

În comunitatea științifică există însă opinii foarte diferite. Yann LeCun, un alt pionier al inteligenței artificiale, contestă ideea că modelele actuale ar avea conștiință. Acesta respinge și scenariile potrivit cărora dezvoltarea AI ar conduce inevitabil la dispariția omenirii.

Diferența dintre comportamentul care imită conștiința și existența conștiinței propriu-zise rămâne esențială. Un sistem poate produce răspunsuri sofisticate, poate identifica situații noi și își poate adapta strategiile fără ca aceste performanțe să demonstreze că are sentimente, intenții proprii sau experiențe interioare.

O perspectivă prudentă asupra acestui subiect a fost prezentată și de fizicianul Cristian Presură, într-un interviu exclusiv pentru Playtech. Cercetătorul a discutat despre diferența dintre capacitățile impresionante ale tehnologiei și atribuirea unor caracteristici umane sistemelor AI.

Dincolo de controversa privind conștiința, avertismentul lui Geoffrey Hinton evidențiază o problemă concretă: tehnologia avansează mai repede decât mecanismele prin care societatea îi poate evalua și limita riscurile. Rămâne de stabilit dacă inteligența artificială va putea dezvolta vreodată conștiință. Până atunci, întrebarea urgentă este cât de sigur pot fi controlate sistemele tot mai autonome.