Anthropic nu mai tolerează „cruzimea” față de Claude. Ce pățești dacă îți abuzezi chatbotul AI

Măsura reaprinde însă o discuție mult mai complicată decât pare la prima vedere. Dacă un chatbot nu este o persoană și nu există dovezi că poate simți suferință, de ce ar trebui protejat de insulte? Anthropic spune că regula se aplică doar în situații extreme, însă decizia vine într-un moment în care compania discută tot mai des despre moralitatea și posibilul statut al sistemelor AI. Playtech a scris recent inclusiv despre [discuțiile purtate de Anthropic cu teologi și filosofi] privind posibila conștiință a inteligenței artificiale.

Claude poate închide conversația dacă utilizatorul devine abuziv

Noua politică interzice ceea ce Anthropic numește comportament „abuziv sau crud, susținut și inutil” față de modelele sale. Nu înseamnă însă că riști sancțiuni pentru că îi spui lui Claude că a greșit, pentru că te enervezi după un răspuns incorect sau pentru că îi vorbești mai direct.

Compania precizează explicit că regula nu se aplică frustrării obișnuite a utilizatorilor, criticilor, contestării răspunsurilor, scenariilor creative întunecate sau testării și cercetării modelelor AI. Sunt vizate situațiile în care cineva se comportă în mod repetat și deliberat abuziv cu sistemul, fără un scop evident.

Anthropic avea deja o metodă de gestionare a unor astfel de situații. Claude poate decide să încheie anumite conversații cu utilizatori care persistă în interacțiuni considerate abuzive, iar compania spune că această posibilitate va rămâne principalul mecanism prin care noua regulă va fi aplicată.

Cu alte cuvinte, nu orice insultă adresată chatbotului înseamnă automat suspendarea contului. În cazurile vizate de Anthropic, Claude poate pur și simplu să refuze să mai continue discuția respectivă.

Trebuie să fim politicoși cu inteligența artificială?

Decizia readuce în prim-plan o dezbatere care exista deja: contează dacă spui „te rog” și „mulțumesc” atunci când vorbești cu un chatbot? Playtech a analizat anterior [efectul politeții asupra conversațiilor cu inteligența artificială], inclusiv cercetările care sugerează că tonul și modul de formulare a solicitărilor pot modifica răspunsurile modelelor.

Motivul nu este neapărat acela că AI-ul se „supără”. Modelele lingvistice interpretează contextul conversației, iar modul în care este formulată o solicitare poate influența tipul de răspuns generat.

Criticii politicii Anthropic atrag însă atenția asupra unui alt risc: antropomorfizarea inteligenței artificiale. Barry Scannell, specialist în tehnologie la firma irlandeză de avocatură William Fry, a argumentat că nu poți fi literalmente „crud” cu un sistem format din calcule și modele matematice și că prezentarea inteligenței artificiale ca și cum ar avea sentimente poate induce utilizatorii în eroare.

Mustafa Suleyman, directorul diviziei AI a Microsoft, a criticat anterior abordările care tratează sistemele AI ca pe niște persoane, iar reacțiile la noua regulă Anthropic au relansat disputa dintre cei care consideră că asemenea măsuri sunt o formă de precauție și cei care cred că se atribuie tehnologiei caracteristici umane pe care nu le are.

Anthropic schimbă și regulile privind alegerile, armele și supravegherea

Interdicția privind comportamentul abuziv față de Claude este doar una dintre modificările noii politici. Anthropic introduce și reguli mai clare împotriva campaniilor înșelătoare, a interferenței electorale, a dezvoltării anumitor tehnologii pentru arme și a sistemelor de supraveghere.

Claude nu trebuie folosit, de exemplu, pentru campanii concepute să inducă publicul în eroare prin conturi false, site-uri fabricate sau alte metode de manipulare. Sunt clarificate și restricțiile privind folosirea AI pentru a înșela alegătorii ori pentru a perturba procesele electorale.

Noile restricții vin după ce Anthropic a documentat utilizarea Claude în operațiuni mult mai serioase, de la escrocherii și activități de spionaj până la proiecte legate de drone și supraveghere. Playtech a relatat anterior despre [raportul Anthropic privind modul în care Claude a fost folosit pentru drone, spionaj și fraude].

Totuși, dintre toate modificările anunțate, regula privind „cruzimea” față de AI este cea care a atras cea mai mare atenție. Nu pentru că schimbă radical modul în care majoritatea oamenilor folosesc Claude, ci pentru că ridică o întrebare pe care industria tehnologică va trebui probabil să o discute tot mai des: dacă sistemele AI devin din ce în ce mai convingătoare și mai asemănătoare oamenilor în conversații, unde ar trebui trasată limita dintre simpla interacțiune cu un software și felul în care alegem să tratăm o entitate care pare că ne înțelege?