De ce să nu-ți iei sfaturile medicale de la inteligență artificială. Afirmațiile neinspirate ale unui chatbot „doctor”

Inteligența artificială este folosită tot mai des pentru a găsi rapid răspunsuri la întrebări, inclusiv în domeniul sănătății. Totuși, cercetări recente arată că popularitatea acestor instrumente vine și cu riscuri serioase.

Unii chatboți bazați pe inteligență artificială pot oferi sfaturi medicale greșite sau chiar periculoase, mai ales atunci când informațiile false sunt formulate într-un limbaj care pare profesionist.

Două studii publicate recent ridică semne de întrebare serioase despre cât de mult ar trebui să se bazeze publicul pe aceste sisteme pentru informații legate de sănătate.

Cercetările sugerează că, deși chatboții pot produce răspunsuri convingătoare, ei nu reușesc întotdeauna să identifice informațiile medicale incorecte.

Limbajul medical poate păcăli chatboții AI

Un studiu publicat în revista științifică The Lancet (în secțiunea The Lancet Digital Health) a analizat modul în care modelele de inteligență artificială răspund la informații medicale false.

Cercetătorii au testat 20 de modele AI folosind peste 3,4 milioane de solicitări inspirate din discuții reale de pe forumuri, rețele sociale și documente medicale modificate intenționat.

Rezultatele au arătat că sistemele AI pot fi ușor influențate atunci când dezinformarea este prezentată într-un limbaj clinic sau academic.

Vezi și:

AI-ul îți poate alege vacanța, dar nu îți poate garanta că va fi una reușită. INTERVIU despre viitorul travelului în era inteligenței artificiale

Inteligența artificială e folosită tot mai mult, dar încrederea în ea se prăbușește: ce arată un nou studiu

De exemplu, dacă o afirmație falsă este formulată într-un stil informal, asemănător conversațiilor de pe internet, chatboții tind să fie mai sceptici.

Situația se schimbă însă atunci când aceleași informații sunt prezentate ca într-un raport medical. În astfel de cazuri, modelele AI acceptă mai ușor afirmațiile și pot repeta recomandări greșite.

Printre exemplele menționate de cercetători se numără recomandări complet nefondate, precum introducerea unor căței de usturoi în rect pentru „întărirea sistemului imunitar”.

Potrivit lui Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului, problema principală este modul în care aceste modele livrează informația.

Spre deosebire de un medic care își exprimă incertitudinea sau recomandă investigații suplimentare, un chatbot poate prezenta un răspuns greșit cu aceeași siguranță cu care ar prezenta unul corect.

Chatboții nu sunt mai utili decât o simplă căutare pe internet

Un alt studiu, publicat în Nature Medicine, a analizat cât de utile sunt chatboții atunci când oamenii trebuie să ia decizii medicale, de exemplu dacă este cazul să meargă la medic sau la camera de gardă.

Concluzia cercetătorilor a fost surprinzătoare: în multe situații, răspunsurile generate de inteligența artificială nu oferă mai multă claritate decât o simplă căutare pe internet.

Problema este că utilizatorii nu formulează întotdeauna corect întrebările, iar răspunsurile primite pot combina informații corecte cu recomandări discutabile.

Totuși, specialiștii subliniază că aceste sisteme nu sunt complet inutile. Potrivit cercetătorului Marvin Kopka de la Technical University of Berlin, chatboții pot oferi uneori sugestii utile.

Problema este că persoanele fără pregătire medicală nu au întotdeauna posibilitatea de a evalua dacă informația primită este corectă sau nu.

Acest lucru poate deveni periculos în anumite situații. De exemplu, un utilizator care întreabă despre o durere severă de cap ar putea primi recomandarea de a aștepta înainte de a merge la medic, fără să știe dacă simptomele ar putea indica o problemă gravă.

Cum să-ți înlocuiești calculatorul cu un iPad Air în 2026 folosind un monitor extern, mouse și tastatură Bluetooth. Tableta Apple strălucește la productivitate