Avertismentul ”nașului inteligenței artificiale”: cine ar câștiga lupta dintre bine și rău

Geoffrey Hinton, profesor la Universitatea din Toronto, numit adesea „Nașul AI” datorită cercetărilor sale de pionierat asupra rețelelor neuronale, a făcut o serie de afirmații controversate legate de inteligența artificială.

La conferința Collision, de săptămâna aceasta, din Toronto, Hinton și-a expus motivele de îngrijorare. În timp ce companiile promovează inteligența artificială ca soluție pentru orice, de la încheierea unui contract de închiriere până la livrarea de bunuri, Hinton trage un semnal de alarmă.

El nu este convins că inteligența artificială bună va ieși învingătoare, în lupta cu cea „rea”.

Inteligența artificială, la fel de bună sau rea ca oamenii care au creat-o

Hinton a susținut că inteligența artificială este la fel de bună ca  oamenii care au creat-o și că tehnologia rea ar putea câștiga, în anumite condiții.

Prezența la vot în timp real la alegerile prezidențiale 2024. Câți români au votat până la ora 18.00

Condensul de pe ferestre dispare cu un truc simplu. Vei observa diferența imediat

„Nu sunt convins că un AI bun care încearcă să oprească un AI rău poate câștiga”, a explicat el.

Ar putea fi dificil să oprești complexul militar-industrial să producă roboți de luptă, de exemplu, susține omul de știință. Companiile și armatele ar putea „adoră” războaiele în care victimele sunt mașini care pot fi înlocuite cu ușurință.

Și, în timp ce Hinton consideră că modelele AI ar putea duce la creșteri uriașe ale productivității, el se declară îngrijorat că unii ar putea folosi tehnologia în scopuri mai puțin bune.

Hinton și-a reiterat, de asemenea, opinia mult mediatizată conform căreia AI ar putea reprezenta un risc existențial pentru umanitate.

Dacă inteligența artificială devine mai inteligentă decât oamenii, nu există nicio garanție că oamenii vor rămâne la cârmă.

Există o mulțime de probleme existente, a adăugat acesta. El susține că părtinirea și discriminarea rămân probleme importante, deoarece datele deformate de formare a AI pot produce rezultate nedrepte pentru unii oameni.

De asemenea, algoritmii creează zone de ecou care întăresc dezinformarea și problemele de sănătate mintală. Hinton a avertizat, de asemenea, că AI răspândește informații greșite dincolo de aceste zone.