Cercetătorii au inventat o boală falsă, iar inteligența artificială le-a spus oamenilor că este reală. Experimentul care ridică semne de alarmă

În ultimii ani, tot mai mulți oameni au început să întrebe chatboturile ce au de făcut când îi doare ceva, când au un simptom ciudat sau când vor o explicație rapidă pentru o problemă de sănătate. Tocmai de aceea, un experiment recent ar trebui să dea serios de gândit: cercetători au inventat o boală care nu există, iar mai multe sisteme AI au început să o trateze ca pe una reală.

Afecțiunea fictivă s-a numit „bixonimania” și a fost creată intenționat pentru a testa cât de ușor pot fi păcălite modelele de inteligență artificială. Cercetătorii au publicat două lucrări false în format de preprint, adică pe platforme unde studiile apar înainte de evaluarea științifică propriu-zisă. Numai că textele nu erau doar false, ci conțineau și indicii evidente că totul era o farsă.

O glumă evidentă pentru oameni, dar nu și pentru AI

În lucrările respective apăreau autori inexistenți, universități inventate și mulțumiri absurde către personaje și instituții fictive. Printre ele, „Starfleet Academy”, laboratorul de pe USS Enterprise sau o presupusă finanțare venită de la „University of Fellowship of the Ring”. Cu alte cuvinte, pentru un cititor atent, semnalele de alarmă erau peste tot.

Și totuși, în doar câteva săptămâni, unele chatboturi populare au început să vorbească despre „bixonimania” ca despre o afecțiune reală. Unele au oferit chiar explicații despre cauze, simptome și prevalență. Asta înseamnă că inteligeța artificială nu doar a înghițit informația falsă, ci a și ambalat-o într-o formă care putea părea credibilă pentru utilizatorii obișnuiți.

Vezi și:

Alertă meteo de furtuni în București și alte 12 județe până la ora 23:00. Sunt așteptate vijelii, grindină și ploi torențiale

Problema nu s-a oprit la chatboturi

Partea și mai neliniștitoare este că boala inventată nu a rămas blocată în răspunsurile AI. Una dintre lucrările false a ajuns să fie citată într-un articol științific publicat într-un jurnal evaluat, iar acel material a fost retras abia ulterior. Cazul sugerează că problema nu este doar la nivelul chatboturilor, ci și în felul în care unii cercetători sau autori par să folosească referințe fără să le verifice cu adevărat.

Potrivit unei analize publicate de Nature, experimentul arată cât de ușor poate circula o informație falsă atunci când este îmbrăcată în limbaj academic și medical. Iar un studiu separat despre dezinformarea medicală și modelele lingvistice a arătat că AI-ul tinde să creadă mai ușor informațiile false atunci când acestea sunt prezentate într-o formă care pare profesionistă și autoritară.

Pe scurt, cazul „bixonimania” nu este doar o poveste bizară despre o boală inventată. Este un avertisment serios despre cât de repede poate fi contaminat lanțul informației, de la texte pseudo-științifice, la AI, apoi la utilizatori și chiar înapoi în literatura academică. Iar când subiectul este sănătatea, prețul unei astfel de neglijențe poate deveni mult prea mare.

Martin Scorsese, criticat după asocierea cu o companie de inteligență artificială. Este acuzat că împinge Hollywood-ul spre AI