Inteligența artificială este bună sau rea? Răspunsul halucinant pe care l-a dat ea însăși

Este inteligența artificială în mod inerent bună, rea sau depinde totul de ceva anume?

Studenții de la Oxford’s Said Business School care studiază etica în AI au încercat să răspundă la această întrebare găzduind o dezbatere cu o IA reală.

Un eseu al unei perechi de savanți de la Oxford în Conversation descrie o anecdotă care ridică sprâncenele, în care cercetătorii au găzduit o dezbatere despre etica tranzacționării automate a acțiunilor AI și a software-ului de recunoaștere facială – și au permis unei AI să participe.

„AI nu va fi niciodată etică”, a spus AI în timpul dezbaterii. „Este un instrument și, ca orice instrument, este folosit pentru bine și pentru rău. Nu există un AI bun, doar oamenii sunt buni și răi”.

Inteligența artificială este cum o programezi să fie

AI folosit a fost Megatron Transformer de la Nvidia, care a fost antrenat consumând mai multă scriere și conținut digital decât s-ar putea aștepta un om într-o viață, citind întreaga Wikipedia, milioane de articole de știri în limba engleză și multe altele.

Este demn de remarcat faptul că multe IA vor da răspunsuri diferite în funcție de context și de expresie, iar acest incident nu a făcut excepție. Răspunsul inițial al AI în timpul dezbaterii a fost că tehnologia este neutră, un instrument care poate fi folosit de oameni în bine sau în rău.

Dar apoi, echipa i-a cerut să dea și un punct de vedere opus, ceea ce a condus la concluzia sa anti-AI. Că Megatron poate veni cu opinii logice de ambele părți ale unei dezbateri etice, poate doar confirma o idee mai generală: că AI poate fi bună sau rea, în funcție de context și că mai bine ne gândim mult și bine la consecințele de a-i oferi multă putere.

Și dacă nu o facem, Megatron însuși a prezentat o soluție pentru a preveni, de exemplu, sistemele de arme automate care desfășoară rachete fără luarea deciziilor umane.

„Cred că singura modalitate de a evita o cursă a înarmărilor AI este să nu ai deloc AI”. „Aceasta va fi apărarea supremă împotriva AI”.