Apocalipsa inteligenței artificiale: când vine, conform unui specialist în domeniu

Un cercetător în domeniul siguranței OpenAI trage un semnal de alarmă cu privire la perspectiva sumbră că inteligența artificială ar putea aduce, în cele din urmă, sfârșitul umanității.

„Cred că poate există o șansă de 10-20% de preluare a AI, cu mulți sau majoritatea oamenilor morți”, a spus fostul cercetător OpenAI, Paul Christiano, pentru podcastul „Bankless”, recent.

Când a discutat despre posibilitatea apocalipsei AI, Christiano a spus că, spre deosebire de Eliezer Yudkowsky, care a strigat de pe acoperișuri despre un scenariu „Terminator” alimentat de AI, el crede că sfârșitul nostru din cauza AI va veni mai treptat.

Cum ar veni apocalipsa AI

„Am tendința de a-mi imagina ceva mai degrabă ca o tranziție de un an de la sistemele AI, care sunt o problemă destul de mare, la un fel de accelerare a schimbării, urmată de o accelerare ulterioară”, a spus el în podcast.

Odată ce AI depășește pragul sensibilității umane, toate pariurile sunt oprite.

Noua organizație nonprofit a fostului membru al echipei de siguranță OpenAI se bazează pe conceptul de aliniere AI, pe care Christiano l-a definit în linii mari încă din 2018, ca având motivele mașinilor aliniate cu cele ale oamenilor.

Cât valorează haina de blană pe care a purtat-o Regina Întunericului după înmormântarea lui Silviu Prigoană. De la cine a primit-o Gabriela Lucuțar

Rețeta de sarmale pufoase a lui Nicolai Tand: cum să le fierbi pentru un gust desăvârșit

În timp ce OpenAI susține că „țintește ca inteligența generală artificială (AGI) să fie aliniată cu valorile umane și să urmeze intenția umană”, doar conceptul de AGI în sine este suficient pentru a oferi cercetătorilor precum Christiano acest fel de gânduri.

Mai degrabă decât AI să iasă „din senin” și să omoare pe toată lumea, Christiano a spus că „cel mai probabil mod în care murim” presupune ca toată IA desfășurată în viața de zi cu zi să se unească pentru a ne ucide.

„Dacă dintr-un motiv oarecare, Doamne ferește, toate aceste sisteme AI ar încerca să ne omoare, ne-ar ucide cu siguranță”, a conchis el.

Una peste alta, acest tip de afirmație nu inspiră exact încredere – dar, hei, cel puțin o spune cineva, nu?