Revistele științifice se confruntă cu un val ridicol de mare de articole generate de AI. Cercetătorii avertizează asupra riscului de falsificare a studiilor

Revistele științifice, considerate de peste un secol un canal esențial prin care descoperirile cercetătorilor ajung în spațiul public, se confruntă cu o problemă tot mai dificilă: un volum tot mai mare de materiale generate sau manipulate cu ajutorul inteligenței artificiale. Instrumentele AI pot produce rapid articole, referințe bibliografice și imagini care par autentice, dar care pot ascunde informații inventate sau cercetări de slabă calitate.

Problema a fost analizată de Ross Andersen într-un articol publicat în revista The Atlantic. Autorul atrage atenția că procesul de verificare a lucrărilor științifice era deja dificil înainte de apariția ChatGPT, însă răspândirea modelelor lingvistice a amplificat presiunea asupra editorilor și a specialiștilor care evaluează studiile, scrie The Atlantic.

Publicarea cercetărilor era deja dificil de controlat

Revistele academice au folosit timp de decenii evaluarea inter pares, cunoscută și drept peer review, pentru a verifica relevanța și calitatea lucrărilor înainte de publicare. În acest sistem, editorii trimit articolele către experți independenți, care analizează metodologia, rezultatele și argumentele prezentate de autori.

Mecanismul a apărut ca o soluție la numărul tot mai mare de materiale trimise spre publicare. Editorii nu puteau verifica singuri fiecare lucrare, așa că au apelat la cercetători din domeniile respective. În multe cazuri, aceștia contribuie la proces fără să fie plătiți pentru timpul investit.

Potrivit lui Ross Andersen, această structură este acum supusă unei presiuni suplimentare. La scurt timp după ce modelele lingvistice de mari dimensiuni au devenit accesibile publicului larg, redacțiile revistelor științifice au început să primească un număr fără precedent de manuscrise.

Volumul mai mare de lucrări complică activitatea editorilor și a evaluatorilor. Fiecare articol necesită timp pentru verificarea surselor, a metodelor de cercetare și a concluziilor, iar creșterea numărului de trimiteri poate afecta capacitatea publicațiilor de a menține aceleași standarde.

AI poate face cercetările false să pară credibile

Inteligența artificială nu este folosită doar pentru redactarea unor texte. Instrumentele generative pot oferi unor lucrări frauduloase sau de slabă calitate o aparență de profesionalism, făcând mai dificilă identificarea problemelor la o primă lectură.

Mandy Hill, director general pentru publicarea academică la Cambridge University Press & Assessment, a explicat că editorii trebuie să fie atenți inclusiv la referințe bibliografice inventate și la rezultate de cercetare fabricate cu ajutorul AI. O lucrare poate avea o structură convingătoare și un limbaj academic corect, fără ca informațiile prezentate să fie reale.

Verificarea acestor elemente consumă timp suplimentar. Editorii trebuie să stabilească dacă sursele citate există, dacă rezultatele pot fi susținute de date și dacă imaginile sau graficele reflectă observații autentice. În unele cazuri, informațiile false pot fi suficient de bine integrate în text încât să nu atragă atenția imediat.

Hill consideră că această situație va duce la o competiție permanentă între cei care folosesc AI pentru a produce materiale înșelătoare și cei care încearcă să le identifice. Ea descrie evoluția drept o cursă continuă, în care metodele de verificare vor trebui adaptate pe măsură ce instrumentele generative devin mai performante.

Imaginile fabricate pot compromite dovezile din cercetarea medicală

Un alt risc important este posibilitatea de a genera imagini științifice false. Inteligența artificială poate crea ilustrații care par să provină dintr-un experiment real, iar unele dintre acestea pot trece neobservate în procesul editorial.

Ross Andersen amintește cazul unui articol de sinteză publicat în 2024 și retras ulterior, care conținea o ilustrație generată cu AI. Imaginea înfățișa un șobolan cu testicule disproporționat de mari, o eroare atât de evidentă încât a devenit un exemplu ridicol al folosirii necorespunzătoare a tehnologiei în publicațiile științifice.

Deși cazul a fost stânjenitor pentru revista care a publicat materialul, consecințele au fost limitate. Problemele mai serioase apar atunci când AI produce imagini suficient de realiste pentru a fi confundate cu dovezi experimentale.

În cercetarea biomedicală, imaginile unor secțiuni subțiri de țesut, ale unor câmpuri microscopice sau ale gelurilor de electroforeză pot susține concluziile unui studiu. Dacă astfel de materiale sunt fabricate, ele pot crea impresia că un experiment a fost realizat și a produs anumite rezultate, deși dovezile respective nu există.

Spre deosebire de o ilustrație evident greșită, o imagine microscopică falsificată poate fi mult mai greu de identificat fără verificări specializate. Riscul nu se limitează astfel la reputația unei reviste, ci privește credibilitatea rezultatelor pe care alți cercetători le-ar putea folosi în propriile studii.

Evaluarea inter pares are nevoie de metode noi de verificare

Creșterea numărului de manuscrise generate cu AI pune sub presiune un sistem care depinde deja de timpul și disponibilitatea cercetătorilor. Editorii trebuie să verifice nu doar calitatea argumentelor, ci și autenticitatea referințelor, a datelor și a materialelor vizuale.

În acest context, evaluarea inter pares nu mai poate fi privită doar ca o verificare a coerenței și relevanței unui articol. Procesul trebuie să includă și metode prin care să fie identificate conținuturile fabricate sau modificate cu ajutorul instrumentelor generative. Totuși, identificarea textelor scrise cu AI nu este suficientă pentru a demonstra că o cercetare este falsă. Contează dacă datele, experimentele și concluziile pot fi verificate independent.

ADN-ul a peste 4.700 de oameni antici rescrie istoria Europei. Descoperirea surprinzătoare despre originea limbilor engleză, germană și celtice