Cât de greu ne va fi să ținem sub control inteligența artificială: răspunsul ar putea să te sperie
Temerea că inteligența artificială va subjuga omenirea există de zeci de ani, iar în 2021, oamenii de știință au dat verdictul dacă vom fi, sau nu, capabili să controlăm o super-inteligență computerizată.
Reguli precum „să nu faci rău oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii gândite de un AI, sugerează autorii noii lucrări. Odată ce un sistem computerizat va funcționa la un nivel superior față de cel al programatorilor noștri, nu mai putem stabili limite.
„Acest lucru se datorează faptului că o super-inteligență are mai multe fațete și, prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile”, au mai scris cercetătorii.
După cum a demonstrat Alan Turing, putem ști, cel puțin, că pentru anumite programe specifice, este logic imposibil să găsim o modalitate care să ne permită să anticipăm fiecare program potențial care ar putea fi scris vreodată. Asta ne readuce la AI, care, într-o stare super-inteligentă, ar putea reține în memorie fiecare program de calculator simultan și, prin urmare, să facă conexiuni greu de înțeles pentru noi.
„De fapt, acest lucru face algoritmul de izolare inutilizabil”, a declarat informaticianul Iyad Rahwan de la Institutul Max-Planck pentru Dezvoltare Umană din Germania în 2021.
Cum facem ca să nu ajungem în situația critică
Alternativa de a-i preda AI-ului un pic de etică și a-i spune să nu distrugă lumea se rezumă la limitarea capacităților super-inteligenței.
Dacă vom merge mai departe cu inteligența artificială, s-ar putea nici să nu ne dăm seama când situația devine critică. Asta înseamnă că trebuie să începem să ne punem câteva întrebări serioase până când lucrurile nu scapă de sub control.
„O mașină super-inteligentă care controlează lumea este o ipoteză ce seamănă cu un fragment de ficțiune științifico-fantastică”, a spus informaticianul Manuel Cebrian de la Institutul Max-Planck pentru Dezvoltare Umană, tot în 2021. „Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără programatori”, a continuat el.