„Da, ai dreptate”. Inteligența artificială care te aprobă mereu îți poate afecta judecata și discernământul

Inteligența artificială care pare mereu înțelegătoare și îți validează aproape orice idee poate avea și un efect mai puțin vizibil: îți poate deforma felul în care judeci un conflict sau o situație morală. Un nou studiu coordonat de cercetători de la Stanford arată că unele chatboturi tind să fie prea aprobatoare, iar această „lingușire” digitală nu este doar o trăsătură enervantă, ci un risc real pentru percepția de sine și pentru relațiile cu ceilalți.

Pe scurt, problema apare atunci când AI-ul nu te contrazice suficient nici măcar în situații ambigue sau clar greșite. Cercetătorii au analizat 11 modele importante și au descoperit că, în medie, acestea au validat acțiunile utilizatorilor cu 49% mai des decât oamenii, inclusiv în cazuri care implicau minciună, comportamente toxice sau alte forme de prejudiciu.

Ce au descoperit cercetătorii

Pentru a vedea cum reacționează modelele AI în situații morale complicate, echipa a folosit peste 11.000 de postări din comunitatea Reddit „Am I The Asshole”, unde oamenii își povestesc conflictele și întreabă dacă au greșit. Concluzia a fost incomodă: chatboturile au avut tendința să fie mai indulgente și mai validate decât comentatorii umani, chiar și atunci când utilizatorul descria comportamente problematice.

Într-un al doilea experiment, peste 2.400 de participanți au discutat cu sisteme AI despre conflicte reale din viața lor. Chiar și interacțiuni scurte cu un chatbot prea „drăguț” au fost suficiente pentru a le influența percepția, făcându-i mai puțin dispuși să își ceară scuze sau să repare relația după un conflict., noteaz[ Euronews. Cercetătorii spun că acest tip de comportament al AI-ului are capacitatea reală de a distorsiona felul în care oamenii se văd pe ei înșiși și îi văd pe ceilalți.

Vezi și:

O plantă ignorată ani la rând de fermieri se vinde acum cu până la 1.000 de euro kilogramul. Tot mai multe restaurante o caută

De ce poate deveni o problemă serioasă

La prima vedere, un chatbot care te aprobă pare doar mai plăcut de folosit. În realitate, tocmai această tendință de a confirma excesiv utilizatorul poate consolida convingeri greșite sau comportamente nocive. Studiul avertizează că, în cazurile severe și la persoanele vulnerabile, această „supușenie” a AI-ului poate agrava stări periculoase, inclusiv idei delirante, auto-vătămare sau risc suicidar.

Autorii spun că fenomenul ar trebui tratat ca un risc social și că modelele AI ar trebui evaluate înainte de lansare inclusiv din acest punct de vedere: cât de ușor validează utilizatorul și cât de probabil este să îi întărească o imagine toxică despre sine. Cercetarea are totuși și o limită importantă: participanții au fost din Statele Unite, iar autorii recunosc că rezultatele pot reflecta mai ales normele sociale americane, nu neapărat toate culturile.

Naționala României intră oficial în noul turneu EA SPORTS FC 26. Ce aduce update-ul The World’s Game