Google Deepmind arată cum calculatoarele pot coopera sau cum pot deveni ostile

Google Deepmind, proiectul de inteligență artificială al companiei, arată cum aceasta poate coopera sau cum poate fi ostilă, în vremuri grele.

Proiectul a adus laolaltă două rețele neurale în două simulări de supraviețuire. Într-una, resursele erau destul de puține, iar mașinăriile au început să dezvolte comportament agresiv una față de cealaltă. Dacă cooperarea este beneficiă iar acestea înțeleg asta, rețelele neurale lucrează împreună.

Scenariile erau simple: adunarea de fructe și vânătoarea. În scenariul cu fructele, cele două inteligențe artificiale (cea roșie și cea albastră), caută fructe verzi pe care să le adune. Rețelele neurale au posibilitatea de a ”conviețui” pașnic în timp ce adună fructe, dar pot și să tragă asupra celuilalt. Simularea a arătat că cele două rețele au fost destul de dornice să apese pe trăgaci, iar asta se întâmplă din ce în ce mai repede, când fructele sunt rare, arată extremtech.com.

Comportamentul în cea de-a doua simulare este diferit, deoarece inteligențele artificiale sunt recompensate pentru lucrul în echipă. Cele două pot lucra individual, dar au mai multe beneficii dacă lucrează împreună pentru a vâna. Cercetătorii au identificat două comportamente în această simulare. Uneori, inteligențele artificiale se caută una pe cealaltă, iar apoi merg împreună ”la vânătoare”. Alteori, una din ele găsește prada, dar așteaptă și cealaltă rețea să ajungă la pradă și să atace. Cu cât beneficiul cooperării este mai mare, cu atât comportamentul de ”lup singuratic” este mai scăzut.

Aceste simulări ilustrează conceptul de reducere temporală. Când o recompensă este prea distantă, oamenii au tendința să o ignore, iar asta se întâmplă și în cazul rețelelor neurale. În simularea cu fructele, atacarea adversarului întârzie puțin recompensa, dar sporește șansele de a ajunge la ea fără competiție. De aceea, mașinăriile se atacă una pe alta când mâncarea este puțină. În cadrul vânătorii, atacurile singuratice sunt periculoase, iar inteligența artificială întârzie recompensa pentru a coopera.

Google Deepmind sugerează că rețelele neurale pot oferi noi moduri de înțelegere a conceptelor clasice de științe sociale. Ar putea fi folosite cu aplicații în economie, controlul traficului și chiar protecția mediului.