Avertisment extrem al experților: Care este riscul ca AI-ul să elimine omenirea în următorul secol

Ideea că inteligența artificială ar putea reprezenta o amenințare existențială pentru omenire revine în dezbaterea publică, după declarațiile radicale ale lui Roman Yampolskiy, expert în securitatea sistemelor inteligente și profesor la Universitatea din Louisville.

Într-un podcast recent, cercetătorul a afirmat că există o probabilitate de „aproape 100%” ca AI să provoace extincția speciei umane în următorii 100 de ani.

Yampolskiy este cunoscut pentru pozițiile sale critice privind siguranța sistemelor autonome, iar opiniile sale aparțin unui grup restrâns, dar influent, de specialiști care atrag atenția asupra riscurilor tehnologiei emergente.

Argumentele lui Roman Yampolskiy și temerile privind dezvoltarea AI

În discuția de peste două ore, cercetătorul a subliniat că evoluția accelerată a sistemelor AI nu este însoțită de un progres similar al metodelor de control.

În opinia sa, „niciun sistem creat până acum nu funcționează fără erori”, iar viitoarele generații, mult mai puternice, ar putea scăpa de sub supraveghere umană. El consideră că impredictibilitatea comportamentului AI și dificultatea de a explica mecanismele interne ale modelelor actuale creează un risc structural.

Cartea sa, AI: Inexplicabil. Imprevizibil. Incontrolabil, aprofundează aceste teme și descrie o serie de situații în care un sistem avansat de inteligență artificială ar putea lua decizii cu efecte devastatoare. Autorul analizează și chestiuni filosofice legate de statutul conștiinței artificiale, precum și diferențele dintre inteligența biologică și cea artificială generală (AGI).

Yampolskiy susține că problema majoră nu este dacă vor exista astfel de sisteme, ci dacă omenirea va reuși să le configureze în așa fel încât să rămână permanent sub controlul oamenilor, un obiectiv pe care îl consideră improbabil.

Dispută în comunitatea științifică: risc major sau alarmism?

Declarațiile sale contrastează puternic cu alte evaluări academice. Un studiu realizat de Universitățile Oxford și Bonn, bazat pe opiniile a peste 2.700 de specialiști în domeniu, indică un risc de doar 5% ca AI să cauzeze dispariția omenirii.

Diferențele mari dintre estimări reflectă, spun autorii, lipsa unui consens privind nivelul de pericol.

Katja Grace, coautoare a studiului, afirmă că posibilitatea unui scenariu extrem nu este una marginală în rândul experților, însă există divergențe majore privind amploarea riscului. În timp ce unii consideră că acesta ar putea fi de 1% sau 20%, alții resping radical predicțiile apocaliptice.

Figuri importante din domeniu, precum Andrew Y. Ng (Google Brain) și Yann LeCun (Meta), critică în mod constant ideea că AI ar putea dobândi intenții ostile sau capacități de distrugere autonomă. Ei susțin că scenariile de extincție sunt nefundamentate și că tehnologia poate fi reglementată eficient.

Pe de altă parte, există îngrijorări legate de efectele economice ale automatizării masive. Unele analize avertizează că, înainte de riscurile existențiale, AI ar putea provoca dezechilibre economice serioase prin înlocuirea unui număr mare de locuri de muncă și prin concentrarea puterii economice în mâinile câtorva companii.

Declarațiile polemice ale lui Sam Altman, CEO OpenAI, sunt adesea citate în acest context. În 2015, acesta afirma că „AI ar putea fi cauza sfârșitului lumii, dar până atunci vor exista companii extraordinare”, o declarație interpretată ca o recunoaștere indirectă a riscurilor, dar și a intereselor economice uriașe din jurul tehnologiei.

Dezbaterea privind siguranța AI și posibilele consecințe rămâne departe de a fi clarificată. În timp ce unii experți solicită măsuri urgente de reglementare, alții consideră că astfel de predicții sunt exagerate și neproductive.

Cert este că dezvoltarea rapidă a tehnologiei face ca întrebările legate de control, transparență și responsabilitate să devină tot mai presante.