Cum păcălește inteligența artificială oamenii de știință: ChatGPT, mai capabil decât un om?

Cum păcălește inteligența artificială oamenii de știință: ChatGPT, mai capabil decât un om?

Inteligența artificială (AI) ChatGPT a devenit suficient de bună pentru a păcăli oamenii de știință instruiți, făcându-i să creadă că citesc texte scrise de un om.

O echipă de cercetători a folosit AI pentru a genera rezumate false ale lucrărilor de cercetare, pentru a testa dacă alți oameni de știință le-ar putea identifica.

Rezumatele sunt ordonate în partea de sus a lucrărilor de cercetare, pentru a oferi o imagine de ansamblu a ceea ce este studiat. ChatGPT a fost însărcinat să scrie 50 de rezumate de cercetare medicală, după ce a fost „instruit” pe o selecție de la British Medical Journal (BMJ) și Nature Medicine.

Inteligența artificială a reușit să inducă în eroare cercetătorii

Chatbot-ul, care a luat cu asalt internetul de când a fost lansat publicului în noiembrie, nu a dezamăgit. Nu numai că textul computerului a trecut cu succes printr-un detector anti-plagiat, dar oamenii de știință nu au putut identifica falsurile. Evaluatorii umani au identificat corect doar 68% din rezumatele ChatGPT și 86% dintre cele autentice.

Grupul de cercetători medicali credea că 32% dintre rezumatele generate de AI sunt reale.

„Sunt foarte îngrijorată”, a spus Sandra Wachter, care studiază tehnologia și reglementarea la Universitatea din Oxford.

Profesoara Wachter nu a fost implicat în cercetare, dar a declarat pentru Nature.com: „Dacă acum ne aflăm într-o situație în care experții nu sunt capabili să determine ce este adevărat sau nu, pierdem intermediarul de care avem nevoie disperată pentru a ne ghida prin subiecte complicate”.

Cercetătorii care au efectuat testul, conduși de Catherine Gao de la Universitatea Northwestern din Chicago, Illinois, au spus că limitele etice ale acestui nou instrument nu au fost încă determinate.

„ChatGPT scrie rezumate științifice credibile, deși cu date complet generate”, au explicat ei în textul studiului lor.

„Acestea sunt originale fără niciun plagiat detectat, dar sunt adesea identificabile folosind un detector de ieșire AI și recenzori umani sceptici. Evaluarea abstractă pentru reviste și conferințe medicale trebuie să adapteze politica și practica, pentru a menține standarde științifice riguroase. Sugerăm includerea detectorilor de ieșire AI în procesul editorial și dezvăluirea clară dacă aceste tehnologii sunt utilizate”.

„Granițele utilizării etice și acceptabile a modelelor de limbaj mari pentru a ajuta scrierea științifică rămân de stabilit”.