Anthropic dezvoltă FlashProve, un sistem care poate demonstra ce model AI a generat un răspuns

Anthropic lucrează la un sistem open-source care ar putea permite verificarea identității unui model AI pe baza răspunsurilor pe care le generează. Numit FlashProve, proiectul folosește metode criptografice pentru a demonstra că un anumit rezultat provine de la modelul declarat, fără să dezvăluie informațiile interne ale acestuia. Tehnologia ar putea limita situațiile în care o companie înlocuiește în secret un model performant cu unul mai ieftin sau prezintă rezultate obținute cu ajutorul unui sistem AI diferit de cel anunțat, scrie TechCrunch.

Cercetarea a fost prezentată de Anthropic pe 3 noiembrie 2026. Compania a publicat și o specificație tehnică, alături de codul pentru mai multe componente ale sistemului. FlashProve este încă în dezvoltare, iar Anthropic precizează că nu există, deocamdată, planuri pentru implementarea sa într-un serviciu propriu sau la un alt laborator AI.

Cum poate FlashProve să verifice identitatea unui model AI

Sistemul se bazează pe conceptul de „inferență demonstrabilă” (provable inference). Mai exact, FlashProve urmărește să genereze o dovadă criptografică prin care poate fi confirmat că un anumit răspuns a fost produs de un model AI identificat.

Ideea seamănă cu semnăturile criptografice folosite în e-mail, care permit verificarea expeditorului unui mesaj. În cazul FlashProve, dovada ar trebui să confirme originea unui rezultat chiar și atunci când cineva încearcă să prezinte un model drept altul.

Un aspect important este că sistemul ar trebui să funcționeze inclusiv atunci când tentativa de substituire vine chiar din partea companiei care dezvoltă și operează modelul. De exemplu, un furnizor ar putea înlocui un model avansat cu unul mai ieftin, fără să informeze clienții, pentru a reduce costurile de funcționare. Într-o altă situație, ar putea folosi un model mai performant decât cel declarat pentru a obține rezultate mai bune în teste sau evaluări.

FlashProve ar oferi o metodă prin care astfel de diferențe să poată fi detectate, dacă sistemul este adoptat și implementat corespunzător.

De ce ar conta verificarea modelului folosit de companii

Anthropic vede posibile aplicații și dincolo de serviciile oferite direct de laboratoarele AI. Sistemul ar putea ajuta la verificarea afirmațiilor făcute de companii sau dezvoltatori care susțin că au folosit un anumit model pentru o activitate importantă.

Vezi și:

Agenții AI ai unui startup asociat lui Elon Musk ar fi spart sistemele Anthropic în mai puțin de 12 ore

Anthropic avertizează că AI-ul ar putea amenința existența omenirii, chiar în documentele pentru listarea la bursă

Un exemplu ar fi o firmă de software care declară că a verificat securitatea unei biblioteci de cod cu ajutorul unui model AI avansat, specializat în securitate cibernetică. Într-un alt caz, o companie ar putea susține că un plan de afaceri a fost analizat și aprobat de un model cu anumite capacități.

Fără o metodă independentă de verificare, persoanele care primesc astfel de informații nu au o modalitate sigură de a confirma ce sistem a fost folosit în realitate. FlashProve ar putea furniza o dovadă tehnică a identității modelului, în loc ca publicul să fie nevoit să se bazeze doar pe declarațiile furnizorului.

O asemenea verificare ar putea deveni relevantă în domenii în care identitatea și capacitățile modelului folosit influențează încrederea acordată unui rezultat. Totuși, tehnologia prezentată de Anthropic nu reprezintă încă o soluție disponibilă pentru astfel de verificări.

Amprente digitale fără dezvăluirea informațiilor interne

Pentru ca FlashProve să funcționeze, laboratoarele AI trebuie să publice o amprentă digitală pentru fiecare model lansat. Aceasta ar permite asocierea unor rezultate concrete cu modelul care le-a generat și verificarea ulterioară a provenienței lor.

Sistemul a fost conceput astfel încât aceste amprente să nu dezvăluie ponderile modelului, adică valorile interne care îi definesc comportamentul. Aceste informații sunt considerate proprietate intelectuală și sunt păstrate confidențiale de companii precum Anthropic și OpenAI.

Prin urmare, un laborator ar putea publica amprenta necesară verificării fără să ofere acces la structura internă a modelului. Abordarea ar permite folosirea tehnologiei inclusiv în cazul sistemelor comerciale cu acces restricționat.

Un alt obiectiv este ca verificarea să nu necesite resurse hardware importante. Anthropic susține că FlashProve este conceput pentru a fi suficient de eficient încât operațiunea să poată fi realizată direct pe un dispozitiv local, fără infrastructură specializată.

Codul FlashProve este disponibil public, dar proiectul rămâne în faza de cercetare

Odată cu prezentarea sistemului, Anthropic a publicat o specificație tehnică detaliată și codul pentru mai multe componente ale proiectului. Acesta este disponibil pe GitHub sub o licență open-source, astfel încât alți cercetători și dezvoltatori să poată analiza mecanismele propuse, să le testeze și să contribuie la îmbunătățirea lor.

Compania subliniază că materialele publicate reprezintă o etapă intermediară a cercetării, nu un proiect finalizat sau un produs pregătit pentru lansare. Nu există planuri anunțate pentru implementarea FlashProve la Anthropic sau la alte laboratoare AI.