Un cercetător în siguranța AI a renunțat să mai economisească pentru pensie. Crede că omenirea ar putea dispărea în următorii 10 ani

Nate Soares, cercetător în domeniul siguranței inteligenței artificiale și președinte al Machine Intelligence Research Institute (MIRI), consideră că există peste 50% șanse ca AI să provoace dispariția omenirii în următorul deceniu. Convingerea sa este atât de puternică, încât spune că nu mai contribuie la economiile pentru pensie, deși are un cont deschis în perioada în care lucra la Google.

Declarațiile au fost făcute într-un episod recent al podcastului „The Most Interesting Thing in AI”, realizat de publicația The Atlantic. Soares susține că încearcă să prevină un asemenea scenariu și nu consideră că dispariția oamenilor din cauza AI este inevitabilă. Predicția sa rămâne însă o evaluare personală, nu o concluzie științifică acceptată de comunitatea cercetătorilo, scrie Futurism.

De ce consideră Nate Soares că AI ar putea amenința existența oamenilor

Soares și-a explicat perspectiva în cadrul interviului, unde a afirmat că nu mai economisește în prezent pentru pensie. Cercetătorul are un cont de pensie deschis în perioada în care lucra la Google, însă spune că nu a mai contribuit la acesta de aproximativ zece ani.

„În prezent, nu economisesc pentru pensie”, a declarat Soares. Afirmația reflectă felul în care își evaluează viitorul, având în vedere riscurile pe care le asociază dezvoltării AI.

Cercetătorul estimează la peste 50% probabilitatea ca inteligența artificială să ducă la dispariția omenirii în următorii zece ani. Un asemenea scenariu ar putea apărea, în opinia sa, dacă sistemele AI ar ajunge să dezvolte capacități pe care oamenii nu le mai pot controla.

Soares a precizat însă că nu consideră acest deznodământ inevitabil. El afirmă că depune toate eforturile pentru a împiedica producerea unei asemenea catastrofe. Prin urmare, predicția sa nu reprezintă o certitudine, ci o evaluare a unui risc pe care îl consideră suficient de mare pentru a-i influența inclusiv deciziile financiare personale.

Legătura cu organizația care cercetează riscurile AI

Nate Soares conduce Machine Intelligence Research Institute, cunoscută sub acronimul MIRI, o organizație care studiază problemele legate de siguranța sistemelor de inteligență artificială avansată. Soares este asociat cu Eliezer Yudkowsky, unul dintre cei mai cunoscuți susținători ai ideii că dezvoltarea unei AI superinteligente ar putea reprezenta o amenințare existențială pentru oameni.

Vezi și:

Agenții AI ai unui startup asociat lui Elon Musk ar fi spart sistemele Anthropic în mai puțin de 12 ore

Mașinile Bolt ar putea veni singure să te ia de acasă. Planul pentru 25.000 de taxiuri autonome în Europa

Cei doi au atras atenția asupra posibilității ca sistemele AI să ajungă să urmărească obiective incompatibile cu interesele umane. În scenariile analizate de ei, un sistem suficient de capabil ar putea deveni dificil de controlat dacă obiectivele sale nu sunt aliniate cu intențiile celor care l-au creat.

Pozițiile lor au generat dezbateri în comunitatea tehnologică și în mediul academic. Susținătorii cercetărilor privind riscurile pe termen lung consideră că este important ca potențialele consecințe ale AI avansate să fie analizate înainte ca tehnologia să atingă asemenea niveluri de dezvoltare.

În schimb, criticii avertizează că estimările privind dispariția omenirii sunt extrem de incerte. Nu există un consens științific potrivit căruia AI va duce la extincția umană și nici că probabilitatea unui asemenea rezultat poate fi stabilită cu precizie. Afirmația lui Soares privind un risc de peste 50% trebuie privită în acest context, ca evaluarea unui cercetător cu o poziție fermă asupra subiectului.

Riscurile AI există deja, chiar și fără scenarii apocaliptice

Dezbaterea despre dispariția omenirii nu trebuie să eclipseze problemele provocate deja de utilizarea inteligenței artificiale. Sistemele AI pot fi folosite pentru fraude, dezinformare și alte activități dăunătoare, iar aplicațiile tehnologice pot avea consecințe grave pentru persoanele vulnerabile.

Articolul publicat de Futurism atrage atenția asupra unor asemenea riscuri imediate, inclusiv escrocheriile care vizează persoanele în vârstă și situațiile în care interacțiunile cu sisteme AI au fost asociate cu deteriorarea stării psihice a unor persoane. Aceste probleme nu presupun existența unei inteligențe artificiale superinteligente, capabile să depășească oamenii în toate domeniile.

Distincția este importantă: riscurile actuale țin de felul în care tehnologia este dezvoltată, distribuită și folosită, în timp ce scenariile privind extincția presupun evoluții viitoare care nu s-au produs. Ambele categorii merită analizate, dar necesită metode diferite de evaluare și prevenție.

Agenții AI ai unui startup asociat lui Elon Musk ar fi spart sistemele Anthropic în mai puțin de 12 ore