Chatbotul DPD își înjură clienții și vorbește compania „de rău”. Când inteligența artificială o ia razna
Compania de curierat DPD s-a văzut nevoită să dezactiveze o parte a chatbotului de asistență online, după ce acesta a înjurat un client.
DPD utilizează inteligența artificială în cadrul chat-ului online pentru a răspunde la întrebările clienților, alături de operatori umani.
Cu toate acestea, o nouă actualizare a provocat un comportament neașteptat, inclusiv înjurături și critici la adresa companiei.
Vezi și: Giganții de inteligență artificială, mai „secretoși” decât ar fi bine pentru omenire. Ce s-a aflat
DPD ar fi dezactivat partea „trivială” a chatbotului
DPD a declarat că a dezactivat partea chatbotului responsabilă pentru comportamentul nepotrivit și că își actualizează sistemul cât de curând.
Chiar dacă firma a promis că va remedia neplăcerile, în mod evident știrea s-a răspândit pe rețele de socializare cu o viteză amețitoare.
O singură postare a fost vizualizată de 800.000 de ori în 24 de ore, iar aceste cifre urcă, pe măsură ce timpul trece.
„Este absolut inutil, nu poate răspunde la întrebări și, când am pus o întrebare, a făcut o poezie despre cât de groaznică este firm”, a scris Ashley Beauchamp, pe X, ca mai apoi să menționeze că AI-ul l-a și înjurat ulterior.
Cum funcționează inteligența artificială
Multe modele moderne de chatbot folosesc modele de limbaj, precum cel popularizat de ChatGPT. Prin intermediul tehnologiei, chatbot-ul devine capabil să simuleze conversații reale cu oameni reali, deoarece este antrenat pe cantități vaste de text scrise de oameni.
Compromisul este că un chatbot pot fi adesea convins să spună lucruri pentru care nu a fost conceput.
În momentul în care Snap și-a lansat chatbot-ul în 2023, compania a avertizat asupra acestui fenomen și le-a spus oamenilor că răspunsurile sale „pot include conținut părtinitor, incorect, dăunător sau înșelător”.