De la arme biologice la colaps social: cinci scenarii în care AI-ul ar putea schimba radical viitorul oamenilor așa cum îl știm

Ideea că inteligența artificială ar putea ajunge să reprezinte o amenințare existențială pentru oameni pare desprinsă din filme SF, însă în ultimii ani a devenit un subiect discutat tot mai serios în comunitatea care dezvoltă sisteme AI. Declarațiile recente ale unor cercetători au readus în atenție întrebarea: dacă vom ajunge la o formă de AI mult mai capabilă decât oamenii, cum ar putea apărea, concret, un scenariu în care tehnologia scapă de sub control?

Toby Walsh, profesor de inteligență artificială la UNSW Sydney și autor al unui articol publicat în The Conversation, grupează aceste posibilități în cinci scenarii, citează The Guardian. Ele pornesc de la o situație pe care oamenii nici măcar nu ar putea să o anticipeze și ajung la una în care AI-ul nu distruge direct omenirea, ci contribuie la destabilizarea societății până când aceasta nu mai poate susține viața umană la scară largă.

Primul scenariu: nu am înțelege niciodată ce urmează

Unul dintre argumentele folosite în discuțiile despre superinteligență este tocmai dificultatea de a anticipa comportamentul unei inteligențe care ar depăși capacitățile umane. Dacă un sistem ar deveni mai inteligent decât noi în aproape toate domeniile, oamenii ar putea avea probleme în a înțelege ce intenționează să facă sau chiar în a identifica din timp un pericol.

Modelele actuale de AI sunt foarte performante în anumite sarcini, însă acest lucru nu înseamnă că sunt superinteligente în sensul în care folosesc termenul cercetătorii care discută despre riscurile existențiale. Ele pot rezolva probleme dificile, dar nu au o inteligență generală care să depășească omul în toate domeniile.

Totuși, progresul în anumite domenii este rapid. Walsh amintește că AI-ul a reușit recent să rezolve una dintre problemele matematice considerate extrem de dificile, iar rezultatele obținute în alte astfel de probleme alimentează dezbaterea despre cât de departe poate ajunge tehnologia.

În acest scenariu, problema fundamentală ar fi că oamenii nu ar putea anticipa comportamentul unei superinteligențe tocmai pentru că nu ar avea capacitatea de a gândi la același nivel.

Robotul AI din filmul Terminator / Foto: Profimedia

AI-ul care își urmărește obiectivul până la capăt, un scenariu cât se poate de posibil

Un al doilea scenariu este inspirat de celebrul experiment mental al filosofului Nick Bostrom. O inteligență artificială ar putea primi un obiectiv aparent banal, precum producerea unui număr cât mai mare de agrafe de birou, și ar putea deveni extrem de eficientă în atingerea lui.

Vezi și:

Opt state americane dau OpenAI în judecată. ChatGPT este acuzat că îi pune în pericol pe copii și adolescenți

O formulă matematică simplă ar putea prezice când AI-ul începe să dea răspunsuri periculoase

Problema apare dacă sistemul nu are nicio valoare asociată supraviețuirii oamenilor. Într-o versiune dusă la extrem, AI-ul ar putea considera oamenii, planeta și chiar alte resurse drept materie primă pentru atingerea obiectivului.

Nu ar fi vorba despre o inteligență care „urăște” oamenii. Dimpotrivă, pericolul ipotetic vine tocmai din lipsa unei intenții ostile. Sistemul ar urmări obiectivul primit cu o eficiență extraordinară, fără să înțeleagă sau să respecte valorile pe care oamenii le consideră importante.

Există însă o problemă importantă cu acest scenariu: inteligența nu înseamnă automat putere nelimitată. Chiar și un sistem extrem de capabil ar întâlni obstacole în lumea reală, de la infrastructură și resurse până la legi, instituții și opoziție umană.

Un AI suficient de capabil ar putea contribui la apariția unor arme biologice

Un alt scenariu discutat este mult mai concret: folosirea AI pentru dezvoltarea unor arme biologice periculoase. Într-o situație în care sistemele AI ar deveni suficient de capabile, ele ar putea accelera cercetarea în biologie și ar putea fi folosite pentru proiectarea unor agenți patogeni noi.

Walsh amintește experimentul unor cercetători de la Stanford, care au folosit un model AI specializat în genetică pentru a sintetiza 16 virusuri noi. Secvențele genetice au fost trimise unui laborator comercial, iar virusurile au fost produse în laborator, într-un experiment care ar fi costat câteva sute de mii de dolari.

Totuși, existența acestui risc nu înseamnă că un virus creat cu ajutorul AI ar putea elimina automat întreaga populație a planetei. Pentru un asemenea rezultat ar fi nevoie de o combinație foarte dificilă de caracteristici biologice. Un agent patogen ar trebui să se transmită extrem de eficient și, în același timp, să fie foarte letal.

Istoria pandemiilor arată cât de dificil este să apară simultan aceste proprietăți. COVID-19 a provocat milioane de decese, însă a avut o rată a mortalității mult mai mică decât cea necesară pentru un scenariu de extincție. Chiar și ciuma, care a ucis o parte uriașă a populației Europei în Evul Mediu, nu a eliminat omenirea.

Riscul unui război nuclear cu AI-ul

Un alt scenariu pornește de la armele nucleare și de la posibilitatea ca sistemele AI să ajungă, direct sau indirect, să influențeze lanțul de comandă și control militar.

Riscul nu presupune neapărat ca un AI să „apese pe buton”. Un sistem ar putea, într-un scenariu ipotetic, furniza informații false sau ar putea contribui la interpretarea greșită a unei situații militare. Într-un context în care deciziile trebuie luate foarte rapid, o astfel de eroare ar putea avea consecințe greu de reparat.

Istoria recentă arată că lumea a trecut deja prin situații în care erorile de interpretare sau incidentele tehnice au apropiat statele de un conflict nuclear. În plus, atacul informatic Stuxnet, care a afectat centrifugele iraniene, a demonstrat că infrastructura nucleară poate fi influențată prin intermediul unor instrumente software.

Chiar dacă arsenalele nucleare au scăzut față de nivelurile din perioada Războiului Rece, ele rămân suficient de mari pentru a provoca o catastrofă globală. Într-un scenariu extrem, efectele nu s-ar limita la exploziile inițiale, ci ar putea include foamete și perturbări climatice asociate unui posibil „nuclear winter”.

Cel mai mare risc ar putea veni tot de la oameni, din păcate

Ultimul scenariu este și cel mai diferit. AI-ul nu ar trebui să decidă să distrugă oamenii pentru ca societatea să ajungă într-o situație în care viața umană este grav afectată.

O combinație de automatizare masivă și pierderi de locuri de muncă, dezinformare generată la scară largă, polarizare politică și relații sociale tot mai dependente de companioni artificiali ar putea exercita presiuni serioase asupra societății.

În această variantă, AI-ul ar acționa mai degrabă ca un accelerator al unor probleme existente. Dacă instituțiile, economia și relațiile dintre oameni ar deveni suficient de fragile, societatea ar putea pierde treptat capacitatea de a susține condițiile necesare vieții la scară largă.

Este, de altfel, scenariul în care AI nu trebuie să devină o entitate autonomă care decide că omenirea trebuie eliminată. Este suficient ca oamenii să folosească tehnologia într-un mod care amplifică problemele deja existente.

Trebuie avut în vedere faptul că cele cinci scenarii nu reprezintă predicții despre ceea ce se va întâmpla și nici nu demonstrează că o superinteligență va apărea în viitorul apropiat. Ele descriu moduri diferite în care riscurile asociate unor sisteme AI mult mai capabile decât cele actuale ar putea fi înțelese. Unele sunt experimente mentale, altele pornesc de la riscuri tehnologice deja cunoscute.