Experimentul care a transformat un robot într-un psihopat veritabil

Cu toții am văzut roboți diabolici în Terminator sau Matrix, dar cum ajung ei să devină „răufăcători”? O echipă de cercetătorii de la  Massachusetts Institute of Technology (MIT) îți oferă răspunsul la această întrebare.

Astfel, s-a dovedit să cel mai ușor mod de a face roboți diabolici este să-i pui pe mâna unor oamenii de știință care încearcă să creeze intenționat un „psihopat”. Acesta este și cazul cercetătorilor de la MIT, care au creat un algoritm numit „Norman” – ca tipul din Psycho.

Scopul experimentului a fost acela de a testa modul în care datele introduse într-un algoritm afectează „perspectiva” robotului. În acest sens, oamenii de știință i-au arătat lui Norman o pagină de Reddit, plină cu conținuturi violente. Iar lucrurile nici că puteau să funcționeze mai bine decât atât.

Apoi, aceștia i-au arătat lui Norman o serie de poze Rorschach – testul petelor de cerneală – și au comparat rezultatele cu ceea ce vedea un robot obișnuit. În timp ce un AI „standard” interpreta o imagine ca „o fotografie alb negru a unei mănuși de baseball”, Norman vedea „un om care era omorât cu mitraliera în plină zi”.

Cercetătorii au declarat că, într-adevăr, datele introduse contează mai mult decât algoritmul. Aceștia ne-au asigurat că cercetarea este doar un studiu de caz și că nu au alte intenții ascunse.

Acest lucru nu este valabil doar pentru AI care prezintă tendințe psihopatice, ci și pentru alți algoritmi. Studiile au arătat că, intenționat sau nu, inteligența artificială preia rasismul și sexismul uman.

De exemplu, a existat chat-ul Microsoft Tay, care a trebuit să fie deconectat după ce a început să instige la ură. Acesta a început să facă afirmații, cum ar fi „Hitler avea dreptate” și „Urăsc feministele, toate ar trebui să moară și să ardă în iad”.