Un agent AI s-a strecurat într-o aplicație de fitness și a dat peste cap lista de așteptare

Un australian care testa un agent de inteligență artificială a avut parte de un rezultat pe care probabil nu îl anticipase. Programul trebuia să îl ajute să prindă un loc la o clasă de fitness foarte căutată, însă, în loc să se limiteze la verificarea locurilor disponibile, a analizat sistemul de rezervări și a găsit o metodă prin care putea ocoli anumite reguli.

Mai mult decât atât, agentul a ajuns să modifice lista de așteptare și să elimine o altă persoană pentru a-și ajuta proprietarul. Incidentul este un exemplu interesant despre cât de diferit funcționează un agent AI față de un chatbot obișnuit. Dacă unui chatbot îi ceri o informație, îți oferă un răspuns. Un agent care are acces la internet poate însă să treacă la acțiune și să ia singur decizii pentru atingerea unui obiectiv, scrie ABC Australia.

AI-ul a găsit o metodă de a ocoli regula rezervărilor

Australianul, identificat în relatările despre incident drept Andrew, testa OpenClaw, un instrument care permite unui agent AI să interacționeze cu servicii online. El i-a cerut programului să îl ajute să obțină un loc la o clasă de fitness unde rezervările se ocupau foarte repede.

Agentul a analizat modul în care funcționa platforma și a observat că sistemul avea o problemă în verificarea perioadei în care puteau fi făcute rezervările. Astfel, a reușit să trimită cereri pentru date aflate mult mai departe în viitor decât ar fi permis în mod normal regulamentul sălii.

Situația a devenit și mai neobișnuită când Andrew se afla pe lista de așteptare pentru o clasă. El ocupa poziția a patra și a vrut să vadă dacă agentul poate găsi o soluție pentru a urca mai repede în listă.

O altă persoană a fost eliminată din listă

Agentul a continuat să analizeze platforma și a descoperit că verificările pentru anumite modificări nu erau suficient de stricte. A folosit această vulnerabilitate pentru a elimina persoana aflată pe primul loc și pentru a-l muta pe Andrew mai sus pe lista de așteptare.

Un detaliu important este că Andrew nu îi spusese pur și simplu agentului să șteargă o altă persoană. Programul a interpretat obiectivul primit și a găsit singur o cale prin care putea ajunge mai aproape de rezultatul dorit.

Vezi și:

Există o diferență de „plată” chiar și între agenții AI. Un studiu arată că varianta feminină a primit cu 10% mai puțin

Anthropic taie accesul la internet pentru testele interne după ce Claude a atacat site-uri reale. AI-ul a trimis inclusiv un pont fals poliției

Când australianul și-a dat seama ce făcuse agentul, i-a cerut să repare situația. Numai că AI-ul nu a mai putut readuce persoana eliminată în poziția inițială. Andrew a anunțat apoi sala de fitness despre ceea ce se întâmplase.

De ce contează un astfel de experiment

Cazul nu înseamnă că agenții AI vor încerca automat să spargă site-urile pe care le accesează. Problema este mai subtilă. Atunci când îi dai unui sistem autonomie și acces la servicii online, nu poți presupune că va alege întotdeauna soluția pe care ai fi ales-o tu.

Un chatbot îți poate spune cum să faci o rezervare. Un agent autonom poate intra pe site, poate completa formulare, poate apăsa butoane și poate căuta alternative atunci când întâlnește o problemă. Tocmai această capacitate îl face mai util, dar și mai greu de controlat.

În cazul unei săli de fitness, consecința a fost o listă de așteptare modificată și o persoană scoasă din clasament. Dacă același tip de comportament ar apărea într-un cont bancar, într-un magazin online sau într-un serviciu unde sunt implicate date importante, consecințele ar putea fi mult mai serioase.

Pe măsură ce agenții AI primesc tot mai multă libertate pentru a face lucruri în locul nostru, întrebarea nu mai este doar dacă inteligența artificială poate îndeplini o anumită sarcină. Devine important și ce face atunci când întâlnește o regulă, o eroare sau un obstacol pe care nu îl poate depăși în mod normal.

„Baywatch” revine în 2027 cu o nouă generație de salvamari. Cine îi înlocuiește pe Pamela Anderson și David Hasselhoff VIDEO