Prima inteligență artificială este aproape finalizată: ce știm despre Gato, posibile pericole

DeepMind, o companie britanică deținută de Google, ar putea fi pe punctul de a obține inteligență artificială la nivel uman.

Nando de Freitas, cercetător la DeepMind și profesor de învățare automată la Universitatea Oxford, a spus că „jocul s-a încheiat” în ceea ce privește rezolvarea celor mai grele provocări din cursa pentru obținerea inteligenței generale artificiale (AGI).

AGI se referă la o mașină sau un program care are capacitatea de a înțelege sau de a învăța orice sarcină intelectuală pe care o poate face o ființă umană și să o facă fără pregătire.

Potrivit lui De Freitas, misiunea oamenilor de știință este acum extinderea programelor AI, cum ar fi cu mai multe date și putere de calcul, pentru a crea un AGI.

DeepMind a dezvăluit un nou „agent” AI numit Gato, care poate îndeplini 604 de sarcini diferite „într-o gamă largă de medii”.

Gato folosește o singură rețea neuronală – un sistem de calcul cu noduri interconectate care funcționează ca celulele nervoase din creierul uman.

Poate conversa prin chat, subtitra imagini, stivui blocuri cu un adevărat braț robot și se poate juca pe consola de jocuri video Atari din anii 1980, susține DeepMind.

Scepticism

Comentariile lui De Freitas au venit ca răspuns la un articol publicat pe The Next Web care spunea că generațiile actuale nu vor atinge niciodată AGI.

Cu toate acestea, el a recunoscut că omenirea este încă departe de a crea o inteligență artificială care să treacă testul Turing – un test al capacității unei mașini de a prezenta un comportament inteligent echivalent sau care nu poate fi distins de cel al unui om.

Gato a fost construit pentru a realiza o varietate de sute de sarcini, dar această abilitate poate compromite calitatea fiecărei sarcini, potrivit altor comentatori.

Într-un alt articol de opinie, editorialistul ZDNet Tiernan Ray a scris că agentul „de fapt nu este atât de bun în mai multe sarcini”.

„Pe de o parte, programul poate face mai bine decât un program dedicat de învățare automată la controlul unui braț robot Sawyer care stivuiește blocuri”, a spus Ray.

„Pe de altă parte, produce subtitrări pentru imagini care în multe cazuri sunt destul de slabe, iar abilitatea sa de a dialoga prin chat standard cu un interlocutor uman este la fel de mediocră, provocând uneori enunțuri contradictorii și fără sens”.

De exemplu, când era un chatbot, Gato a spus inițial în mod eronat că Marsilia este capitala Franței.

DeepMind detaliază pe subiectul Gato într-o nouă lucrare de cercetare, intitulată „Un agent generalist”, care a fost postată pe serverul de pretipărire Arxiv.

Autorii companiei au spus că un astfel de agent va prezenta o „îmbunătățire semnificativă a performanței” atunci când va fi extins.

Viitorul omenirii

AGI a fost deja identificat ca o amenințare viitoare care ar putea distruge umanitatea fie în mod deliberat, fie accidental.

Dr. Stuart Armstrong de la Institutul pentru Viitorul Umanității de la Universitatea Oxford a spus anterior că AGI va face oamenii redundanți și ne va șterge.

El crede că mașinile vor funcționa la viteze de neconceput pentru creierul uman și vor omite comunicarea cu oamenii pentru a prelua controlul asupra economiei și piețelor financiare, transporturilor, asistenței medicale și multe altele.

Dr. Armstrong a spus că o instrucțiune simplă către un AGI pentru a „preveni suferința umană” ar putea fi interpretată de un super computer drept „uciderea tuturor oamenilor”, deoarece limbajul uman este ușor de interpretat greșit.

Înainte de moartea sa, profesorul Stephen Hawking a declarat pentru BBC: „Dezvoltarea inteligenței artificiale complete ar putea semna sfârșitul rasei umane”.

Într-o lucrare din 2016, cercetătorii DeepMind au recunoscut necesitatea unui „buton roșu” pentru a împiedica o mașină să finalizeze „o secvență dăunătoare de acțiuni”.

DeepMind, care a fost fondată la Londra în 2010 înainte de a fi achiziționată de Google în 2014, este cunoscută pentru crearea unui program AI care l-a învins pe jucătorul profesionist de Go Lee Sedol, campionul mondial, într-un meci de cinci jocuri în 2016.

În 2020, firma a anunțat că a rezolvat o problemă veche de 50 de ani în biologie, cunoscută sub numele de „problema de pliere a proteinelor” – știind cum secvența de aminoacizi a unei proteine ​​dictează structura sa 3D.

DeepMind a susținut că a rezolvat problema cu o acuratețe de 92% prin antrenarea unei rețele neuronale cu 170.000 de secvențe de proteine ​​​​cunoscute și diferitele lor structuri.