Cum a ajuns inteligența artificială de la OpenAI un instrument de supraveghere în masă pentru Pentagon. Ce ascunde Sam Altman

Când o companie precum OpenAI intră în jocul contractelor guvernamentale, tentația este să crezi că „siguranța” și „principiile” sunt linii roșii clare, scrise cu markerul pe perete. În realitate, totul se negociază în limbaj juridic, iar diferența dintre o interdicție reală și o promisiune de PR poate ajunge să stea în câteva cuvinte aparent inofensive. În cazul acordului cu Pentagonul, discuția nu mai este despre cât de bun este un model sau cât de rapid evoluează AI-ul, ci despre cine stabilește limitele, cine le verifică și cât de ușor pot fi ocolite prin formulări elastice.

Miza nu este doar morală, ci și strategică. Un LLM puternic este, prin definiție, o mașină de găsit tipare. Iar supravegherea modernă înseamnă tipare: comportamente, deplasări, contacte, tranzacții, preferințe, rutină, vulnerabilități. În momentul în care o instituție cu acces la volume uriașe de date obține și un instrument care poate corela totul la scară, discuția despre „supraveghere în masă” devine mai puțin teoretică. În acest context, modul în care Sam Altman și OpenAI își prezintă acordul cu Pentagonul ridică o întrebare simplă: este vorba despre limite reale sau despre o reinterpretare abilă a legalității, astfel încât aproape orice să poată fi justificat.

De la „principii” la „orice utilizare legală”: cum se diluează o interdicție

În comunicarea publică, mesajul a fost prezentat ca o victorie a principiilor: OpenAI ar fi reușit să includă în contract interdicții privind supravegherea în masă a americanilor și responsabilitatea umană în folosirea forței, inclusiv în raport cu sistemele autonome de armament. Formularea sună liniștitor, mai ales pentru un public care asociază AI-ul militar cu două spaime clasice: statul care știe tot și mașina care decide singură să ucidă.

Dar esența criticii apărute imediat după anunț se leagă de o diferență de substanță: dacă un acord se bazează pe ideea de „utilizare legală”, atunci nu ai introdus o interdicție nouă, ci ai acceptat cadrul existent. Iar cadrul existent, în istoria recentă a SUA, a permis programe de supraveghere pe scară largă, justificate prin interpretări juridice și memorii interne care susțineau că totul este „în limite”. Cu alte cuvinte, dacă red line-ul tău devine „respectăm legea”, iar legea este suficient de elastică sau suficient de reinterpretabilă, interdicția nu mai este interdicție. Devine o declarație de intenție.

De aici apare suspiciunea că „principiile” sunt de fapt un packaging. Nu spui că accepți supravegherea în masă, spui că accepți „orice utilizare legală”, apoi adaugi câteva calificative precum neconstrâns, generalizat sau open-ended. Problema este că astfel de cuvinte nu blochează un sistem, ci creează spațiu de manevră pentru leadership. Îți permit să susții, intern și extern, că nu ai cedat, chiar dacă în practică ai lăsat o portiță suficient de mare pentru utilizări pe care publicul le-ar considera exact ceea ce ai promis că nu faci.

Supravegherea în masă în era AI: de ce „legal” nu înseamnă „acceptabil”

Înainte de AI-ul modern, supravegherea în masă era costisitoare: aveai nevoie de oameni, de timp și de infrastructură. Acum, multe dintre aceste costuri se comprimă. Un sistem bun poate lua date aparent banale, dispersate și „nepericuloase” individual și le poate transforma într-un profil coerent: geolocație, istoricul deplasărilor, obiceiuri de consum, interacțiuni publice, rețele sociale, imagini din camere, registre publice, date cumpărate de la brokeri. Nu ai nevoie de o singură bază de date „malefică”, ai nevoie de o capacitate de a agrega.

Aici apare o problemă de compatibilitate între lege și tehnologie. O lege gândită pentru o lume în care analiza era limitată uman poate deveni insuficientă într-o lume în care analiza devine automată, continuă și aproape gratuită la scară. Când un acord se sprijină pe un set de acte normative și directive deja existente, el moștenește și toate zonele lor gri. Iar istoria arată că, în momente de criză sau de oportunitate strategică, interpretarea „tehnic legal” poate fi împinsă mult mai departe decât ar accepta un public informat.

Vezi și:

Cum îl faci pe ChatGPT să fie mai sincer? Trucurile simple care pot schimba complet răspunsurile AI

Cerșește pe trotuar și primește donații prin telefon. Robotul din China care a devenit fenomen online

Mai există și o diferență importantă între a colecta și a analiza. Poți afirma că nu „colecționezi în masă” dacă datele sunt deja colectate de altcineva sau dacă sunt cumpărate, dar poți face analiză în masă pe ele. Poți spune că nu faci „monitorizare generalizată”, dar poți rula interogări repetate, segmentate, care în final produc același rezultat: profilare la scară. Aici, AI-ul nu este doar un instrument, ci un multiplicator de putere. De aceea, multe voci au considerat că o interdicție reală ar fi trebuit să fie explicită, nu ambalată în limbaj care depinde de interpretări.

„Garda” tehnică promisă: clasificatoare, verificări și limita reală a controlului

Un argument prezentat în favoarea acordului este introducerea de mecanisme tehnice care ar preveni încălcarea liniilor roșii: clasificatoare care pot monitoriza, eticheta sau bloca anumite acțiuni, plus ideea că OpenAI își păstrează un grad de verificare independentă prin arhitectura de implementare și prin accesul unor angajați cu clearance.

În teorie, sună ca un sistem de frâne. În practică, frânele tehnice au două limite majore. Prima este că un clasificator vede un prompt sau o ieșire, nu vede întotdeauna intenția operațională din spate. O interogare despre activitatea unei persoane poate fi un caz punctual sau poate fi o piesă dintr-un proces de profilare în masă. La nivel de text, diferența poate fi imposibil de detectat fără context complet, iar contextul complet este, de regulă, exact ceea ce o companie privată nu controlează într-un contract guvernamental.

A doua limită este cea juridică. Dacă filosofia acordului este „orice utilizare legală”, atunci mecanismele tehnice nu pot bloca ceva ce autoritatea contractantă consideră legal. Într-un asemenea cadru, clasificatoarele devin mai degrabă instrumente de conformitate și raportare, nu instrumente de veto. Și aici apare din nou ruptura dintre ce înțelege publicul prin red line și ce poate însemna red line într-un contract care prioritizează legalitatea interpretată de stat, nu etica sau standardele interne ale unei companii.

Mai este și problema verificării efective a „omului în buclă”. Poți avea limbaj despre responsabilitate umană, dar un sistem tehnic nu poate confirma ușor dacă o decizie a fost revizuită înainte, în timpul sau după. Poate doar să presupună, să logheze sau să ceară confirmări formale. Într-un lanț operațional complex, unde deciziile sunt distribuite între sisteme, echipe și proceduri, responsabilitatea poate deveni o etichetă, nu o garanție.

Armele autonome și linia roșie care depinde de politici schimbătoare

Pe partea de folosire a forței, un detaliu esențial este modul în care se definește interdicția. Dacă spui că tehnologia nu va fi folosită să „direcționeze independent” arme autonome doar în cazurile în care legea, regulamentele sau politica departamentului cer control uman, atunci ai o interdicție condiționată. Nu interzici categoria de utilizare, ci spui că respecți regulile existente. Iar regulile existente se pot interpreta, se pot actualiza și se pot reîncadra în funcție de administrație și de context geopolitic.

În plus, există o zonă de mijloc extrem de importantă, rar explicată public: lanțul decizional înainte de „apasarea trăgaciului”. Chiar dacă un sistem nu execută direct lovitura, el poate contribui la identificare, prioritizare, recomandare, evaluare de risc, corelare de informații, generare de scenarii. Dacă un model puternic optimizează acest lanț, el poate accelera și automatiza decizii care în trecut cereau mult mai multă fricțiune umană. În acel moment, distincția dintre „nu trage” și „face aproape tot ce duce la tragere” devine mai puțin reconfortantă.

De aceea, critica adusă unei interdicții formulate în limbaj condiționat este că lasă deschisă exact zona în care AI-ul poate avea cel mai mare impact. Nu trebuie să existe un robot care apasă singur un buton ca să vorbim despre autonomie sporită. Este suficient să existe un sistem care scurtează deliberarea și produce încredere artificială în concluzii, într-un cadru în care responsabilitatea umană devine formală.

Ce „ascunde” Sam Altman: ambiguitatea ca strategie de comunicare

Dacă vrei să înțelegi ce se întâmplă dincolo de titluri, uită-te la diferența dintre limbajul de PR și limbajul contractual. PR-ul vrea certitudini și principii ferme. Contractul vrea flexibilitate, spațiu pentru interpretare și compatibilitate cu legislația și politica de moment. Când cele două sunt amestecate, apare ambiguitatea strategică: comunici suficient cât să liniștești publicul și angajații, dar nu suficient cât să te blochezi juridic sau să pierzi contractul.

Asta pare să fie zona sensibilă: modul în care o companie poate spune că a protejat o linie roșie, în timp ce a acceptat formula „orice utilizare legală” și a lăsat interdicțiile să fie definite de interpretări și calificative. Într-o asemenea arhitectură, Sam Altman nu trebuie să „mintă” în sens clasic. Este suficient să aleagă cuvinte care permit două lecturi simultan: una pentru public și una pentru instituțiile care vor operabilitate maximă.

Dacă vrei să-ți construiești propria evaluare, gândește-te la două teste simple. Primul: interdicția este explicită, directă, fără condiționări, sau este o promisiune de conformitate cu cadre existente. Al doilea: cine are puterea finală de a decide ce se poate face, compania printr-un veto tehnic și contractual, sau statul prin interpretarea a ceea ce este legal. Dacă răspunsul înclină spre a doua variantă, atunci „red line”-ul este mai mult o narațiune decât o barieră, conform The Verge.

Nici sare, nici gheață. Metoda sigură pentru a congela o bere în doar 15 minute