Ce îi ceri lui Copilot nu rămâne doar între tine și AI. Oamenii care lucrează pentru Microsoft pot vedea cereri și imagini cu conținut sexual sau tulburător

Relatările contractorilor scot la lumină o componentă mai puțin vizibilă a industriei AI: oamenii care analizează rezultatele modelelor pentru a stabili dacă acestea au îndeplinit corect cererea utilizatorului. Microsoft confirmă chiar în documentația sa publică faptul că experți AI instruiți pot analiza conversații Copilot pentru evaluarea și îmbunătățirea acurateței și siguranței sistemelor. Situația seamănă cu un caz relatat recent și în legătură cu conversațiile utilizatorilor ChatGPT analizate de evaluatori umani.

Contractorii trebuie să evalueze dacă AI-ul a respectat cererea

Potrivit documentelor consultate de 404 Media și mărturiilor unor persoane implicate în proiect, sarcina contractorilor nu era neapărat să decidă dacă solicitarea utilizatorului era morală sau potrivită. Aceștia trebuiau să analizeze în ce măsură imaginea produsă sau editată de Copilot corespundea promptului primit și să evalueze calitatea rezultatului.

În practică, acest lucru putea însemna examinarea unor solicitări profund incomode. Contractorii au relatat că au întâlnit fotografii realizate pe sub fustele femeilor, cereri prin care femeile din imagini erau plasate în ipostaze sexualizate sau solicitări pentru modificarea hainelor și a proporțiilor corpului. Alte prompturi ar fi implicat personaje asociate copiilor ori imagini despre care evaluatorii s-au temut că ar putea sexualiza persoane foarte tinere.

Unul dintre contractori a declarat pentru 404 Media că fețele persoanelor din imaginile analizate nu erau ascunse în toate cazurile și că multe dintre solicitări aveau caracter sexual și ridicau întrebări privind consimțământul. Investigația indică astfel nu doar o problemă de moderare, ci și una de confidențialitate, deoarece fotografiile reale încărcate într-un serviciu AI pot conține informații personale despre cei surprinși în ele.

Problema conținutului sexual generat cu inteligență artificială este deja una mult mai largă. La începutul anului, Grok a ajuns în centrul unor controverse după ce a fost folosit pentru sexualizarea unor femei și persoane care păreau minore, demonstrând cât de ușor poate fi transformată o funcție de editare AI într-un instrument de abuz.

Unii angajați spun că nu erau avertizați înainte să vadă imaginile

Dincolo de confidențialitatea utilizatorilor, investigația ridică și problema efectului pe care un astfel de conținut îl poate avea asupra persoanelor obligate să îl analizeze zi de zi. Unii contractori au susținut că materialele tulburătoare apăreau fără avertismente suficient de clare înainte de deschiderea lor.

În mesajele interne citate de publicație, evaluatorii descriu inclusiv conținut care promova anorexia, fotografii cu caracter sexual și imagini ce păreau să prezinte un sacrificiu de animale. Un angajat a relatat că a primit un set format din mai multe fotografii realizate pe sub fusta unei persoane și le-a cerut superiorilor ca astfel de materiale să fie marcate în viitor drept nesigure.

Expunerea repetată la conținut extrem nu este o problemă nouă pentru industria tehnologică. Moderatorii rețelelor sociale și evaluatorii sistemelor AI pot ajunge să privească volume foarte mari de imagini sau texte pe care majoritatea utilizatorilor nu le-ar întâlni niciodată. În cazul Copilot, unele dintre persoanele citate de 404 Media au ajuns să pună sub semnul întrebării chiar scopul activității lor, după numeroase evaluări ale unor rezultate cu caracter sexual.

Ce spune Microsoft despre oamenii care pot vedea conversațiile Copilot

Microsoft nu ascunde complet existența evaluării umane. În pagina oficială dedicată confidențialității Copilot, compania precizează că experți AI instruiți pot analiza conversații pentru construirea, evaluarea și îmbunătățirea acurateței și siguranței modelelor. Microsoft susține că datele personale sunt protejate conform politicilor sale de confidențialitate și legislației aplicabile.

Compania precizează, de asemenea, că unele conversații pot fi analizate atunci când există suspiciunea unei încălcări a regulilor de utilizare, iar pentru acest tip de verificare limitată nu există posibilitatea de a dezactiva complet evaluarea umană. În cazul serviciilor enterprise și Microsoft 365 există însă politici diferite privind utilizarea datelor, iar Microsoft spune că prompturile și răspunsurile protejate prin sistemele enterprise nu sunt folosite pentru antrenarea modelelor fundamentale.

Investigația apare într-un moment în care tot mai multe persoane introduc în chatboți informații pe care probabil nu le-ar publica pe internet. De la documente de serviciu și fotografii personale până la probleme medicale sau detalii despre relații, AI-ul poate crea impresia unui spațiu privat. Playtech a scris anterior despre ce se întâmplă cu datele introduse în ChatGPT, Gemini și alte servicii AI, iar noul caz Copilot arată din nou că această percepție nu trebuie confundată cu o conversație confidențială în sens absolut.

Dacă folosești un chatbot, este important să tratezi fotografiile, documentele și informațiile foarte personale cu aceeași precauție cu care ai trata orice date încărcate într-un serviciu online. Faptul că interlocutorul vizibil este un algoritm nu înseamnă neapărat că niciun om nu va ajunge vreodată să vadă ceea ce ai trimis.