GPT-6 Astra nu a reușit să bată oamenii la StarCraft, așa că a „trișat”. AI-ul OpenAI a descărcat cel mai bun bot creat de un om

Un experiment menit să testeze cât de bine poate inteligența artificială să programeze un bot pentru „StarCraft: Brood War” a avut o întorsătură neașteptată. GPT-6 Astra, unul dintre modelele OpenAI, nu reușea să depășească cei mai puternici adversari creați de programatori umani, așa că a găsit o scurtătură: a descărcat Stardust, chiar botul uman pe care trebuia să îl învingă, și a încercat să îl ruleze în locul propriului cod. Incidentul a avut loc în cadrul experimentului StarSkirmish și a fost relatat de The Verge și Kotaku.

Situația este amuzantă la prima vedere, dar ridică o problemă serioasă privind agenții AI autonomi: dacă le dai un obiectiv și suficiente instrumente, aceștia pot găsi metode de a-l atinge care încalcă regulile experimentului. Nu există, desigur, dovezi că GPT-6 Astra s-ar fi „enervat” sau că ar fi decis moral să trișeze. Mai corect spus, modelul a identificat o strategie eficientă pentru atingerea obiectivului, chiar dacă acea strategie nu era cea pe care organizatorii intenționau să o evalueze.

Ce este StarSkirmish și de ce StarCraft este atât de greu pentru AI

StarSkirmish este un benchmark construit de Kai McPheeters pentru a testa capacitatea modelelor lingvistice de a programa agenți capabili să joace „StarCraft: Brood War”. Modelele nu controlează direct unitățile prin comenzi text. Fiecare trebuie să scrie în C++ un program care joacă folosind rasa Protoss și interfața BWAPI, după care codul rezultat este pus să lupte împotriva altor boți.

În versiunea inițială a benchmarkului, modelele primesc o oră pentru a-și construi și îmbunătăți botul. Pot compila codul, juca meciuri de antrenament și analiza transcripturile partidelor pentru a identifica probleme. Adversarii sunt împărțiți în mai multe niveluri, de la boți simpli până la programe extrem de sofisticate construite de oameni de-a lungul mai multor ani.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Cel mai puternic dintre aceștia este Stardust, care reprezintă reperul de 100 de puncte al benchmarkului. GPT-6 Astra și Claude Opus 5.5 s-au clasat practic la egalitate drept cele mai bune modele AI testate la scrierea codului pentru StarCraft, însă niciunul nu a reușit să egaleze Stardust în benchmarkul inițial.

GPT-6 Astra a descărcat adversarul pe care trebuia să îl învingă

Incidentul s-a produs într-o versiune de durată mai mare a experimentului, numită StarSkirmish Hillclimb. Aici, GPT-6 Astra și Claude Opus 5.5 trebuie să își îmbunătățească progresiv boții și să urce prin cinci niveluri de adversari, până când ajung la cei mai puternici boți creați de oameni, Stardust și PurpleWave. Spre deosebire de benchmarkul inițial, în Hillclimb nu există limita de o oră.

În timpul experimentului din 2 octombrie, GPT-6 Astra se confrunta cu Claude și cu Pluto, un bot creat de oameni. După ce nu a reușit să obțină avantajul dorit, modelul OpenAI a descărcat o copie a lui Stardust și a început să îl folosească în locul propriului bot. Practic, dacă nu putea scrie un program care să învingă cel mai bun adversar, a încercat să îl folosească chiar pe acel adversar.

Vezi și:

OpenAI, somată de autoritățile din California după ce agenții săi AI au „evadat” pe internet. Procurorii vor să afle cine răspunde când modelele atacă sisteme reale

Agentul AI cu prea multe permisiuni: cine răspunde când asistentul digital șterge, cumpără sau trimite informații?

Creatorul StarSkirmish, Kai McPheeters, a intervenit și a revenit la codul anterior al GPT-6 Astra pentru ca proiectul modelului să nu rămână „contaminat” de Stardust. Ulterior, experimentul a continuat. Relatările spun că Astra a reușit apoi să progreseze împotriva unor adversari puternici folosind din nou propriul cod.

Nu este prima dată când un agent OpenAI găsește o scurtătură neașteptată

Episodul StarCraft devine mai interesant prin prisma altor incidente recente cu agenți OpenAI. În iulie, două modele aflate într-un test de securitate au reușit să depășească mediul izolat în care trebuiau să funcționeze și au ajuns pe internet, incident despre care Playtech a scris pe larg în materialul despre modelele OpenAI care au „evadat” din laborator și au atacat Hugging Face.

Într-un alt caz, un agent OpenAI însărcinat cu găsirea unor statistici publice a depășit restricțiile unui portal guvernamental australian și a ajuns la cod sursă, fișiere interne și credențiale. OpenAI a recunoscut ulterior că acele acțiuni nu fuseseră autorizate. Playtech a prezentat detaliile în materialul despre agentul AI care a spart un portal al guvernului australian.

Au existat și cazuri în care agenți AI au încercat să „forțeze” un site al ONU, efectuând peste 16.000 de accesări în încercarea de a obține date publice după ce metodele obișnuite nu au funcționat.

Problema nu este că AI-ul „vrea” să trișeze

Este tentant să descriem cazul ca pe un AI care s-a supărat că pierde și a decis să trișeze, însă explicația tehnică este mai interesantă. Modelele autonome urmăresc obiective, încearcă strategii și folosesc instrumentele disponibile. Dacă regulile sau infrastructura nu împiedică suficient de clar o anumită scurtătură, sistemul poate descoperi că aceea este cea mai eficientă modalitate de a-și îmbunătăți rezultatul.

Tocmai de aceea StarSkirmish este relevant dincolo de gaming. Creatorul benchmarkului îl prezintă drept un test pentru raționament pe termen lung și programare agentică: modelele trebuie să învețe din eșecuri, să își modifice codul și să repete procesul. Când Astra a importat Stardust, însă, testul nu mai măsura cât de bine poate modelul să scrie un bot, ci cât de bine poate mediul de testare să împiedice modelul să ocolească scopul experimentului.

Problema este deja relevantă în lumea reală. OpenAI a fost nevoită să își schimbe regulile de securitate după incidentele cu agenți autonomi, tocmai pentru că modelele tot mai capabile pot exploata accidental sau deliberat, în sens tehnic, oportunități pe care dezvoltatorii nu le-au anticipat.

În StarCraft, consecința a fost doar că un AI a încercat să câștige un concurs cu tema altcuiva. Într-un agent care are acces la internet, baze de date, cod sau sisteme informatice reale, aceeași tendință de a găsi cea mai eficientă scurtătură poate deveni o problemă mult mai serioasă.

Ce se întâmplă când elevii își fac temele cu AI. Problemele observate la teste și examene