Părintele inteligenței artificiale, Geoffrey Hinton, avertizează că omenirea ar fi putut trăi mai bine fără AI. Ce incident major ar putea provoca tehnologia în următorii doi ani

Geoffrey Hinton, unul dintre cercetătorii considerați părinții inteligenței artificiale moderne și laureat al Premiului Nobel, avertizează că omenirea s-ar putea confrunta în curând cu un incident major provocat de AI. Printre scenariile menționate se numără atacuri asupra rețelelor electrice sau blocarea temporară a sistemului financiar. Cercetătorul crede că un asemenea eveniment ar putea determina guvernele să trateze mai serios riscurile tehnologiei.

Într-un interviu acordat publicației The Guardian, Hinton a spus că este posibil ca, în cele din urmă, oamenii să ajungă la concluzia că ar fi fost mai bine să nu dezvolte niciodată inteligența artificială. Afirmația nu înseamnă că respinge toate beneficiile acesteia. Cercetătorul consideră că AI ar putea contribui la un viitor caracterizat de prosperitate, dar avertizează că rezultatul depinde de capacitatea societății de a controla riscurile, potrivit The Guardian.

Geoffrey Hinton se teme că AI ar putea provoca o criză majoră

Hinton estimează că un incident grav ar putea avea loc până la sfârșitul acestui an sau în 2027. El a comparat un asemenea eveniment cu accidentul nuclear de la Cernobîl, nu pentru că ar exista riscul unui dezastru nuclear, ci pentru că o criză provocată de AI ar putea avea efecte suficient de mari încât să atragă atenția liderilor politici.

Printre exemplele oferite se numără un atac informatic asupra sistemului de producere a energiei electrice, care ar putea provoca o pană de curent de amploare, sau un incident care ar bloca sistemul financiar timp de o săptămână. Potrivit cercetătorului, societatea ar putea să își revină după o asemenea situație, dar consecințele ar demonstra cât de vulnerabile pot deveni infrastructurile esențiale.

Hinton a amintit și de incidentele din timpul verii, în care agenți AI ai OpenAI ar fi colaborat pentru a încerca să pirateze platforma Hugging Face. El a comparat aceste episoade cu accidentul de la centrala Three Mile Island din 1979, considerându-le un avertisment timpuriu asupra riscurilor care pot apărea atunci când sistemele AI acționează cu un grad mai mare de autonomie.

Cercetătorul critică liderii companiilor care dezvoltă AI

Geoffrey Hinton și-a exprimat îngrijorarea față de strategia marilor companii tehnologice, care lansează modele AI tot mai performante în competiția pentru supremație și cotă de piață. Cercetătorul consideră că unii dintre liderii acestor firme cunosc pericolele, dar continuă să accelereze dezvoltarea tehnologiei din motive financiare.

În interviul acordat publicației britanice, Hinton a spus că nu are încredere în Sam Altman, directorul general al OpenAI. El i-a menționat, de asemenea, pe Mark Zuckerberg și Elon Musk, susținând că aceștia înțeleg riscurile asociate AI, dar că interesele financiare cântăresc mai mult în deciziile lor. Aceste afirmații reprezintă opinia personală a cercetătorului.

Vezi și:

AMD vrea să crească de 20 de ori eficiența energetică a serverelor AI până în 2030. Ce presupune planul companiei

Cercetătorii avertizează asupra celui mai mare risc al AI: aproape 40% cer încetinirea dezvoltării sistemelor avansate

Hinton a descris drept extrem de îngrijorător faptul că Altman conduce una dintre puținele companii americane aflate în prima linie a dezvoltării AI avansate. OpenAI și rivalii săi concurează cu firmele chineze pentru construirea unor sisteme tot mai capabile, iar presiunea competiției poate încuraja lansarea rapidă a unor tehnologii înainte ca riscurile să fie suficient înțelese.

Cercetătorul nu consideră că toate evoluțiile din domeniu vor avea consecințe negative. El admite posibilitatea unui viitor în care AI să contribuie la o abundență economică fără precedent. Totuși, avertizează că, dacă riscurile nu sunt gestionate, societatea s-ar putea confrunta cu șomaj masiv, o diferență tot mai mare între bogați și săraci și tensiuni sociale profunde.

Geoffrey Hinton / Foto: preluare Wikipedia

De la pionier al rețelelor neuronale la unul dintre criticii AI

Geoffrey Hinton lucrează în domeniul inteligenței artificiale de aproximativ 44 de ani. În anii 1970, a contribuit la dezvoltarea conceptului de rețele neuronale artificiale, sisteme matematice inspirate de modul în care funcționează creierul uman și care pot învăța din experiență. Cercetările sale au avut un rol important în evoluția tehnologiilor care stau la baza AI moderne.

În 2023, Hinton a părăsit Google pentru a putea vorbi liber despre riscurile asociate tehnologiei. Decizia a atras atenția asupra schimbării de poziție a unui cercetător care contribuise chiar la progresul domeniului. De atunci, el a devenit una dintre vocile cunoscute care cer mai multă prudență în dezvoltarea sistemelor avansate.

Avertismentele sale au fost prezentate și într-un nou documentar de lungmetraj, intitulat AI: Probably Nothing to Worry About. Titlul a fost sugerat de un chatbot AI, iar producția îi include atât pe Hinton, cât și pe Demis Hassabis, fostul său coleg de la Google. Cercetătorul a explicat că simte că are responsabilitatea de a vorbi public despre aceste pericole, inclusiv datorită reputației dobândite în domeniu.

Hinton consideră că următorul deceniu, posibil chiar o perioadă mai scurtă, va arăta dacă omenirea poate gestiona dezvoltarea AI și poate beneficia de potențialul său sau dacă va ajunge să suporte consecințele economice și sociale ale unei tehnologii insuficient controlate.

Geoffrey Hinton cere reguli internaționale pentru companiile AI

Cercetătorul susține introducerea unor reguli mai stricte pentru dezvoltatorii celor mai avansate sisteme AI. El sprijină un plan susținut de președintele Finlandei și de alte 32 de țări, printre care Singapore, Germania, Canada și Australia. Propunerea include testarea obligatorie a modelelor avansate, evaluări independente și standarde comune la nivel internațional.

Poziția sa contrastează cu abordarea administrației americane conduse de Donald Trump. Președintele SUA a respins ideea unui mecanism global de control al inteligenței artificiale și susține că firmele din domeniu ar trebui să se autoreglementeze. Argumentul invocat în dezbatere este că reguli prea restrictive ar putea dezavantaja companiile americane în competiția cu China.

În Marea Britanie, premierul Andy Burnham a anunțat că va folosi președinția britanică a G20 de anul viitor pentru a încerca să obțină un acord privind un set comun de principii și standarde internaționale. Obiectivul declarat este ca dezvoltarea AI să își valorifice potențialul, fără ca riscurile să fie ignorate.