Estimare alarmantă: 99.9% șanse ca AI să distrugă omenirea. Ce spun specialiștii
Un cercetător de la Universitatea din Louisville, Roman Yampolskiy, a făcut o declarație șocantă în cadrul unui episod recent al podcastului lui Lex Fridman. El a afirmat că există o șansă de 99.9% ca inteligența artificială (AI) să eradice umanitatea în următorii o sută de ani.
Această prognoză sumbră se bazează pe posibilitatea dezvoltării unei superinteligențe generale care ar putea scăpa de sub controlul uman.
Rezultatele sondajului nu sunt concludente
Într-un sondaj realizat la începutul acestui an, peste jumătate din cei 2.778 de cercetători chestionați au afirmat că există o șansă de 5% ca oamenii să fie aduși la extincție de AI sau alte „consecințe extrem de grave”. Totuși, 68.3% dintre respondenți au considerat că „rezultatele bune ale AI superioare” sunt mai probabile decât cele negative, ceea ce arată lipsa unui consens clar în rândul experților.
„Dacă creăm superinteligențe generale, nu văd un rezultat pozitiv pe termen lung pentru umanitate,” a declarat Yampolskiy. „Singura modalitate de a câștiga acest joc este să nu-l jucăm”.
El a subliniat riscurile percepute ale dezvoltării tehnologiilor AI, menționând haosul pe care modelele de limbaj mari existente deja l-au cauzat.
„Au făcut deja greșeli”, a spus el.
„Am avut accidente, au fost sparte. Nu cred că există un singur model de limbaj mare astăzi care să nu fi fost făcut să facă ceva ce dezvoltatorii nu intenționau să facă”.
O perspectivă controversată
Afirmațiile lui Yampolskiy sunt extrem de pesimiste, dar nu sunt unice în comunitatea AI. Alți membri de profil înalt, precum Yann LeCun de la Meta, Demis Hassabis de la Google și fostul CEO Google Eric Schmidt, au avertizat, de asemenea, că tehnologia AI ar putea reprezenta un risc existențial. Totuși, rezultatele sondajului arată că mințile de top sunt departe de a ajunge la un consens.
Știința de a prezice unde ne va duce obsesia actuală pentru AI în viitorul îndepărtat este încă în stadiu incipient. În concluzie, ar trebui să luăm comentariile lui Yampolskiy cu o doză sănătoasă de scepticism. Zilele noastre ca specie pe Pământ nu sunt numărate încă, și oricum, planeta noastră are destule alte amenințări existențiale de gestionat.
Inteligența artificială (AI) prezintă numeroase pericole care pot afecta profund societatea și existența umană. Unul dintre cele mai mari riscuri este dezvoltarea unei superinteligențe care ar putea scăpa de sub controlul uman, luând decizii ce ar putea fi catastrofale pentru omenire. Aceasta ar putea exploata vulnerabilități în sistemele noastre și ar putea provoca daune semnificative, intenționate sau neintenționate.
De asemenea, utilizarea necorespunzătoare a AI poate amplifica problemele existente, precum discriminarea și inegalitatea, prin algoritmi părtinitori care perpetuează stereotipuri și prejudecăți. AI-ul poate fi folosit și în scopuri malefice, cum ar fi dezvoltarea de arme autonome sau atacuri cibernetice sofisticate. Astfel, fără măsuri de reglementare și control adecvate, AI-ul ar putea reprezenta o amenințare serioasă la adresa securității și stabilității globale.