Agenții AI pot face cumpărături și rezervări în locul tău, dar site-urile încep să îi blocheze

Agenții AI personali intră într-o nouă etapă, în care nu se mai limitează la răspunsuri și conversații, ci pot face acțiuni în locul oamenilor. Pot rezerva bilete de avion, pot face rezervări la restaurante, pot comanda produse și pot îndeplini alte sarcini online. Problema este că site-urile pe care trebuie să le acceseze nu sunt întotdeauna pregătite să îi primească.

Meta, prin agentul său AI Muse, se confruntă deja cu această situație. Amazon a blocat recent accesul lui Muse la site-ul său de retail, ceea ce împiedică agentul să caute produse sau să facă achiziții. Situația nu este însă singulară. Unele blocaje sunt deliberate, în timp ce altele apar din cauza sistemelor tradiționale de protecție împotriva roboților și activității automate, scrie TechCrunch.

Site-urile nu știu întotdeauna dacă agentul AI este „bun” sau „rău”

Pentru persoanele care folosesc agenți AI, diferența dintre un blocaj intenționat și unul accidental nu este întotdeauna evidentă. Un site poate interpreta activitatea agentului drept trafic automat nedorit, chiar dacă acesta încearcă să realizeze o sarcină solicitată de un client real.

Walmart este un exemplu relevant. Mai multe persoane au relatat că Muse nu a reușit să finalizeze cumpărături pe site-ul companiei. Walmart a precizat însă că aceste blocaje nu au fost intenționate. Compania este parteneră cu Meta și își dorește ca serviciile sale să fie accesibile prin intermediul experiențelor bazate pe agenți AI.

Problema pare să apară în anumite situații atunci când site-ul afișează un buton prin care trebuie verificat dacă vizitatorul este o persoană reală. Dacă agentul nu poate finaliza această verificare în modul așteptat de sistem, sesiunea poate fi întreruptă, iar agentul este eliminat de pe site.

Astfel de situații arată limitele mecanismelor actuale de protecție împotriva spamului și roboților. Sistemele concepute pentru a diferenția oamenii de traficul automat nu fac întotdeauna diferența dintre un agent care încearcă să acționeze în interesul unei persoane și un bot folosit pentru activități nedorite.

Rezervările de zbor sunt printre cele mai dificile sarcini

Rezervarea biletelor de avion este unul dintre scenariile promovate pentru agenții AI, însă și aici apar probleme de acces. Mai multe persoane au raportat că agenții lor au fost respinși de site-urile unor companii aeriene.

Vezi și:

Prompt injection în companie: cum poate un document malițios să preia controlul unui agent AI?

OpenAI, somată de autoritățile din California după ce agenții săi AI au „evadat” pe internet. Procurorii vor să afle cine răspunde când modelele atacă sisteme reale

Delta a transmis că ia măsuri pentru protejarea clienților împotriva activităților automate neautorizate. Compania nu are în prezent un parteneriat sau o integrare care să permită unui agent AI terț să caute sau să rezerve zboruri Delta în numele unui client pe platformele sale digitale.

„În timp ce Delta nu are în prezent un parteneriat sau o integrare care să permită unui agent AI terț să caute sau să rezerve zboruri Delta în numele unui client pe platformele noastre digitale, continuăm să evaluăm modul în care noile tehnologii, inclusiv agenții AI externi, ar putea îmbunătăți interacțiunea clienților cu Delta”, a declarat Heena Chavda, directorul general pentru comunicare globală al companiei.

United Airlines are o abordare diferită în ceea ce privește regulile de utilizare a site-ului. Termenii companiei interzic folosirea roboților, spiderilor sau altor dispozitive automate pentru monitorizarea ori copierea site-ului sau a conținutului acestuia în scopuri neautorizate, fără permisiunea scrisă prealabilă.

Pe rețelele sociale au apărut relatări despre blocarea agenților AI și pe alte platforme, printre numele menționate aflându-se Yelp, eBay, Zillow, Pizza Hut și Adidas. Unele persoane au susținut inclusiv că anumite conturi eBay au fost suspendate după folosirea unor agenți AI, iar un alt utilizator a afirmat că Google a eliminat agentul Instinct în timp ce acesta îi organiza inboxul din Gmail.

Meta, Walmart și alte companii lucrează la un standard pentru agenții AI

Problema accesului este suficient de importantă încât mai multe companii au început să lucreze la un standard deschis destinat comunicării dintre agenții AI și companii. Printre partenerii implicați se numără Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE și Decagon.

Potrivit Meta, protocolul va fi orientat în special către comunicarea agent-la-agent pentru comerțul online. Scopul este de a permite separarea agenților legitimi, care acționează la cererea unei persoane, de roboții folosiți pentru activități malițioase sau neautorizate.

Yelp a precizat că nu permite trafic non-uman pe platformă decât în situația în care agentul are drept de acces la conținut și date prin programul său de licențiere. În lipsa unui parteneriat formal, un agent care încearcă să obțină o ofertă, să înscrie o persoană pe o listă de așteptare sau să facă o rezervare la un restaurant poate fi blocat.

eBay a explicat că nu urmărește să interzică toți agenții de cumpărături terți. Regulile sale vizează agenții și acțiunile neautorizate, inclusiv colectarea automată de date și folosirea conținutului pentru antrenarea modelelor.

Cloudflare este, la rândul său, un actor important în această zonă. Compania oferă servicii de protecție pentru site-uri și a introdus mecanisme prin care proprietarii pot controla accesul roboților AI la date. Unele persoane au asociat problemele întâmpinate de Muse cu schimbări ale regulilor pentru crawler-ele Cloudflare, însă compania a precizat că nu are date specifice care să explice blocarea agenților personali precum Muse.

Agenții AI au nevoie de un internet construit și pentru ei

Pe măsură ce agenții AI devin mai capabili să execute sarcini, internetul trebuie să se adapteze la o realitate în care nu toate accesările sunt inițiate direct de un om. Un agent poate reprezenta o persoană reală, poate avea permisiunea acesteia și poate încerca să cumpere un produs sau să facă o rezervare, dar sistemele unui site pot interpreta activitatea drept trafic automat nedorit.

Meta încearcă să rezolve problema prin parteneriate directe cu companiile și prin dezvoltarea unor standarde comune. Muse are deja o listă de „connectors”, adică servicii partenere disponibile în aplicație, iar numărul acestora continuă să crească.

Pentru companii, acceptarea agenților AI vine însă cu propriile riscuri. Accesul trebuie să fie controlat astfel încât să fie protejate conturile, datele clienților și infrastructura, fără ca mecanismele de securitate să blocheze automat orice agent care încearcă să acționeze în numele unei persoane.

Meta susține că refuzarea unui agent personal înseamnă, în practică, refuzarea clientului din spatele acestuia. Direcția propusă de companie presupune reguli mai clare, un control mai previzibil pentru companii și standarde care să permită agenților să interacționeze mai eficient cu serviciile online.

Pentru moment, însă, tranziția este încă la început. Agenții AI pot face tot mai multe lucruri în locul oamenilor, dar succesul unei sarcini depinde și de disponibilitatea site-ului de a le permite accesul.

Facebook schimbă modul în care se deschide aplicația: Reels ajung în prim-plan