Meta vrea să urmărească fiecare click al angajaților pentru a antrena AI. Noua inițiativă ar putea crea probleme serioase cu GDPR

Inteligența artificială are nevoie de date pentru a deveni mai performantă. Însă una dintre cele mai noi metode folosite de Meta pentru a-și antrena sistemele AI ridică semne de întrebare nu doar în interiorul companiei, ci și în Europa, unde legislația privind protecția datelor este printre cele mai stricte din lume.

Gigantul care deține Facebook și Instagram a dezvoltat un instrument intern prin care poate înregistra modul în care angajații folosesc calculatorul în activitatea de zi cu zi. Vorbim despre mișcări ale mouse-ului, clicuri, utilizarea meniurilor și alte interacțiuni cu aplicațiile de lucru, toate acestea fiind folosite pentru dezvoltarea unor agenți AI capabili să execute sarcini pe computer într-un mod cât mai apropiat de cel uman, scrie Reuters.

De ce vrea Meta să înregistreze activitatea angajaților

Proiectul face parte din strategia mai amplă a companiei de a crea agenți AI care să poată îndeplini activități digitale fără intervenție umană constantă. Pentru ca aceste sisteme să învețe cum utilizează oamenii aplicațiile, dezvoltatorii au nevoie de exemple reale de interacțiune cu software-ul.

Instrumentul, cunoscut intern sub numele de Model Capability Initiative (MCI), a fost implementat pe calculatoarele unor angajați din Statele Unite. Potrivit documentelor interne apărute în presă, sistemul poate monitoriza activitatea desfășurată în sute de aplicații și servicii utilizate la locul de muncă. În anumite situații, acesta poate colecta inclusiv informații suplimentare pentru a oferi context modului în care utilizatorii își desfășoară activitatea.

Meta susține că datele nu sunt folosite pentru evaluarea performanței angajaților și că au fost implementate mecanisme de protecție pentru informațiile sensibile. Cu toate acestea, explicațiile companiei nu au reușit să liniștească toate îngrijorările.

Mai mulți angajați și-au exprimat nemulțumirea după anunțarea programului, iar unii au criticat lipsa unei opțiuni de refuz. Reacțiile au devenit suficient de puternice încât în unele birouri Meta au apărut inclusiv materiale de protest împotriva inițiativei.

Unde apare problema pentru Europa

Controversa nu se limitează însă la relația dintre companie și propriii angajați. Potrivit informațiilor apărute recent, sistemul ar putea ajunge să colecteze și date care implică persoane aflate în afara Statelor Unite. De exemplu, dacă un angajat american comunică prin e-mail sau chat cu un coleg din Europa, conversația respectivă ar putea fi inclusă în datele folosite pentru antrenarea inteligenței artificiale.

Vezi și:

Meta a tăiat mii de joburi pentru AI, iar propriul director tehnic recunoaște că moralul angajaților s-a prăbușit

Haos în noua echipă AI de la Meta. Angajații descriu divizia lui Zuckerberg drept un „gulag” corporatist

Acesta este motivul pentru care experți în protecția datelor avertizează că proiectul ar putea intra în conflict cu normele europene privind confidențialitatea și utilizarea informațiilor personale. Regulamentul GDPR impune condiții stricte pentru colectarea, prelucrarea și reutilizarea datelor, iar folosirea unor conversații profesionale pentru antrenarea modelelor AI ar putea ridica probleme juridice complexe.

Subiectul este cu atât mai sensibil cu cât Meta investește masiv în dezvoltarea inteligenței artificiale și în automatizarea unor procese care până acum erau realizate exclusiv de oameni. Criticii companiei se tem că angajații contribuie involuntar la construirea unor sisteme care, pe termen lung, ar putea prelua o parte dintre sarcinile lor.

Deocamdată, Meta insistă că scopul proiectului este strict tehnic și că datele sunt folosite pentru îmbunătățirea capacităților AI. Totuși, pe măsură ce autoritățile europene analizează implicațiile unei astfel de colectări de informații, compania s-ar putea confrunta cu un nou front de dispute privind confidențialitatea datelor, un domeniu în care a avut deja numeroase conflicte cu reglementatorii din Uniunea Europeană.

Apare o nouă materie opțională în licee. Ce vor învăța elevii la „Ora de GIS”