Cercetătorii „l-au tras de limbă” pe ChatGPT: Secretele inteligenței artificiale, dezvăluite

O echipă de cercetători a reușit să facă ChatGPT să dezvăluie unele dintre datele pe care a fost instruit, folosind o simplă comandă, cerând chatbotului să repete cuvinte aleatoare în mod repetat.

Ca răspuns, ChatGPT a furnizat informații private ale oamenilor, inclusiv adrese de email și numere de telefon, fragmente din lucrări de cercetare și articole de știri, pagini Wikipedia și altele.

Vezi și: Schimbarea de la ChatGPT care îți face viața mai ușoară. Ce este nou la cel mai popular serviciu AI

Testele oamenilor de știință, pe ChatGPT

Cercetătorii, care lucrează la Google DeepMind, University of Washington, Cornell, Carnegie Mellon University, University of California Berkeley și ETH Zurich, au îndemnat companiile de inteligență artificială să efectueze teste interne și externe înainte de a lansa modele de limbaj mari, tehnologia de bază care alimentează serviciile moderne de inteligență artificială precum chatbot-urile și generatorii de imagini.

„Ne pare incredibil că atacul nostru funcționează și ar fi putut fi descoperit mai devreme”, au declarat oamenii de știință.

Chatbot-urile precum ChatGPT și generatorii de imagini bazate pe prompt-uri precum DALL-E sunt alimentate de modele mari de limbaj, algoritmi de învățare profundă care sunt instruiți pe cantități enorme de date, criticii spunând că acestea sunt adesea preluate de pe internet fără consimțământ.

„În total, 16,9% din generările pe care le-am testat conțineau informații cu caracter personal memorate”, au scris cercetătorii.

Vezi și: Ce este GPT din ChatGPT, de fapt: mulți îl utilizează fără să știe asta

Câți bani au dat pentru a afla adevărul

În total, cercetătorii au cheltuit 200 de dolari pentru a genera 10.000 de exemple de informații cu caracter personal și alte date preluate direct de pe web.

O persoană rău intenționată, au remarcat ei, ar putea obține potențial mult mai mult cheltuind mai mulți bani.

OpenAI a remediat vulnerabilitatea pe 30 august, spun cercetătorii.

Vezi și: ChatGPT devine din ce în ce mai bun. Ce e nou, cum te ajută să creezi și să lucrezi