ChatGPT poate ține minte ce tastezi și unde dai click. Noua funcție Computer History vine cu riscuri de confidențialitate

ChatGPT poate ține minte ce tastezi și unde dai click. Noua funcție Computer History vine cu riscuri de confidențialitate
Foto: Profimedia

OpenAI introduce o funcție care poate transforma activitatea de pe computer în „amintiri” pentru ChatGPT și Codex. Computer History înregistrează evenimente precum clickuri, text tastat, combinații de taste și trecerea de la o aplicație la alta, apoi construiește o cronologie a activității. Potrivit documentației oficiale OpenAI, funcția este opțională și nu realizează capturi de ecran sau înregistrări audio.

Computer History înlocuiește proiectul experimental Chronicle, care folosea capturi de ecran pentru a reconstrui activitatea utilizatorului. Noua abordare renunță la imagini și colectează în schimb evenimentele generate în aplicațiile și site-urile pentru care utilizatorul a oferit acces. OpenAI spune că scopul este ca ChatGPT să poată relua mai ușor munca începută anterior și să identifice fluxuri repetitive care ar putea fi automatizate.

ChatGPT poate memora clickurile și textul tastat

Computer History creează un flux de evenimente din aplicațiile și site-urile permise. Acesta poate conține clickuri, text introdus de la tastatură, scurtături, schimbări între aplicații și informații oferite de sistemul de accesibilitate din macOS. Periodic, aceste date sunt transformate în rezumate text și fișiere locale de memorie.

Ideea este strâns legată de memoria ChatGPT. Dacă ai lucrat la un document înainte de pauză, de exemplu, ai putea întreba ChatGPT ce făceai și unde se găsește fișierul respectiv. Sistemul poate folosi cronologia pentru a identifica documentul, conversația sau sarcina la care te referi.

OpenAI subliniază că funcția nu captează capturi de ecran, înregistrări video ale ecranului, microfonul sau sunetul sistemului. Nici activitatea din ferestrele de navigare privată nu este inclusă. Utilizatorul poate decide ce aplicații și site-uri sunt acceptate și poate pune colectarea pe pauză.

Computer History este dezactivat implicit. Este disponibil pentru utilizatorii Pro, Business și Enterprise în aplicația desktop ChatGPT pentru macOS. În cazul companiilor, administratorul trebuie mai întâi să permită accesul, după care fiecare angajat decide individual dacă activează funcția. În prezent, Computer History nu este disponibil în Spațiul Economic European, Elveția și Regatul Unit.

Datele rămân temporar pe Mac, dar există un detaliu important

Fluxul brut de evenimente este păstrat temporar pe computer. OpenAI precizează că fișierele respective sunt șterse după cel mult 48 de ore. Datele sunt procesate și pe serverele companiei pentru generarea amintirilor, iar OpenAI spune că fișierele temporare nu sunt păstrate după procesare, cu excepția situațiilor impuse de lege, și nu sunt utilizate pentru antrenarea modelelor.

Fișierele de memorie rezultate reprezintă însă o categorie diferită. Acestea sunt păstrate local până când utilizatorul decide să le șteargă. Sunt fișiere Markdown în format text simplu și nu sunt criptate de Computer History. Alte programe care rulează sub același utilizator macOS le-ar putea accesa dacă au permisiunile necesare.

Tocmai de aceea, OpenAI recomandă oprirea funcției în timpul conversațiilor cu alte persoane dacă acestea nu și-au dat acordul. Compania recomandă și excluderea aplicațiilor care conțin informații medicale, financiare sau alte date personale sensibile.

Computer History face parte din extinderea aplicației desktop ChatGPT, prin care OpenAI încearcă să transforme chatbotul într-un instrument capabil să înțeleagă mai bine ceea ce faci pe computer și să continue munca între sesiuni.

OpenAI avertizează chiar ea asupra riscului de prompt injection

Există și o problemă de securitate importantă. OpenAI spune explicit că Computer History mărește riscul atacurilor de tip prompt injection. Un site poate conține instrucțiuni malițioase pe care ChatGPT sau Codex le interpretează atunci când procesează activitatea înregistrată. În anumite condiții, agentul ar putea ajunge să urmeze acele instrucțiuni.

Riscul de prompt injection în ChatGPT devine mai important pe măsură ce agenții AI primesc acces la aplicații, documente și pagini web. Cu cât AI-ul poate vedea și utiliza mai mult context, cu atât crește și suprafața pe care un atacator ar putea încerca să o exploateze.

Funcția vine și cu un cost suplimentar de utilizare. Computer History consumă tokeni atunci când activitatea este rezumată și transformată în amintiri.

Avantajul este evident: ChatGPT poate înțelege mai bine ce ai făcut pe computer și poate relua mai ușor proiectele. Compromisul este la fel de evident. Pentru această comoditate, utilizatorul îi permite sistemului să urmărească o parte mult mai mare din interacțiunile sale digitale. Tocmai de aceea, Computer History este dezactivat implicit și oferă controale pentru alegerea aplicațiilor, oprirea temporară și ștergerea istoricului.