INTERVIU EXCLUSIV | O companie românească construiește un asistent AI care își amintește cine ești. Cristian Doiu, despre Samantha AI și cum funcționează

Ozana Mazilu (Playtech): Ce înseamnă, concret, „memorie contextuală” în Samantha AI V4? Ce tipuri de informații despre utilizator sunt păstrate și după ce criterii decide Samantha ce merită memorat?

Cristian Doiu: Memoria contextuală înseamnă că Samantha poate păstra firul conversațiilor din cadrul unui cont personal, astfel încât dialogul să nu pornească mereu de la zero. Sistemul poate folosi informații relevante din interacțiunile anterioare — teme recurente, preferințe, obiective sau contexte discutate de utilizator — pentru a formula răspunsuri mai coerente.

Nu este o memorie umană și nici nu reprezintă o conștiință. Este un mecanism tehnic care ajută AI-ul să înțeleagă mai bine continuitatea dialogului și să fie mai util de la o interacțiune la alta.

Ozana Mazilu (Playtech): Utilizatorul va putea vedea exact ce a memorat Samantha despre el și va putea șterge individual anumite informații, fără să fie nevoit să își șteargă întregul cont?

Cristian Doiu: În versiunea actuală, memoria funcționează automat, pe baza conversațiilor purtate în cadrul contului. Nu există încă un panou separat prin care utilizatorul să vadă, să editeze sau să șteargă individual fiecare element de context reținut.

Este o direcție importantă pentru evoluția produsului. V4 introduce mai întâi continuitatea conversației, iar pe măsură ce dezvoltăm personalizarea Premium, controlul modului în care contextul este păstrat și utilizat va deveni o componentă tot mai relevantă.

Ozana Mazilu (Playtech): Memoria unui asistent AI ridică inevitabil întrebări despre confidențialitate. Unde sunt stocate aceste informații și ce garanții aveți că datele personale din conversații nu ajung să fie expuse sau folosite în alte scopuri?

Cristian Doiu: Informațiile relevante pentru memoria contextuală sunt stocate în infrastructura de date a platformei Samantha AI și sunt asociate contului personal al utilizatorului. Scopul lor este strict funcțional: să permită Samanthei să păstreze continuitatea conversației și să ofere răspunsuri mai relevante de la o interacțiune la alta.

Nu tratăm memoria ca pe un profil comercial și nu este gândită pentru expunerea conversațiilor utilizatorilor. Ea există pentru experiența din interiorul contului: preferințe, teme recurente și contextul necesar pentru ca Samantha să nu pornească de la zero de fiecare dată.

În același timp, nu vrem să transformăm confidențialitatea într-o promisiune generică. Pe măsură ce introducem funcții Premium și controale mai avansate, transparența despre ce este păstrat, cum este utilizat și ce poate controla utilizatorul va rămâne o prioritate.

Screenshot Samantha AI/varianta web/foto – Ozana Mazilu (Playtech)

Ozana Mazilu (Playtech): Conversațiile utilizatorilor sau informațiile salvate în memorie sunt folosite pentru antrenarea ori îmbunătățirea modelelor AI? Dacă da, există posibilitatea de opt-out?

Cristian Doiu: Samantha folosește un provider extern de modele AI, iar această zonă trebuie explicată transparent, prin politicile și termenii aplicabili fiecărui serviciu. La nivelul UXR, scopul memoriei nu este antrenarea unui model pe datele personale ale utilizatorilor, ci păstrarea contextului necesar pentru conversații mai relevante în cadrul propriului cont.

Nu vom prezenta un mecanism de opt-out înainte ca acesta să existe explicit în produs și în documentația sa. Preferăm să comunicăm clar capabilitățile disponibile decât să lansăm promisiuni care pot crea confuzie.

Ozana Mazilu (Playtech): Spuneți că Samantha AI este dezvoltată integral în România. Cât din tehnologia AI din spate este construită efectiv de UXR și cât se bazează pe modele sau infrastructură dezvoltate de alte companii?

Cristian Doiu: Trebuie făcută o distincție corectă. Samantha este dezvoltată ca produs în România de echipa UXR: UI/UX, arhitectura aplicației, infrastructura, experiența vocală, conturile, memoria contextuală, personalizarea și integrarea în Ecosistemul UXR.

În prezent, platforma utilizează API-uri oferite de un provider de modele AI, inclusiv OpenAI. Asta nu înseamnă că pretindem că am construit de la zero un model fundamental comparabil cu cele dezvoltate de marile companii globale. Valoarea noastră este produsul complet și modul în care transformăm aceste capabilități într-o experiență conversațională utilă, locală și extensibilă.

Ozana Mazilu (Playtech): Într-o piață în care există deja ChatGPT, Gemini, Claude sau Copilot, care este acel lucru pe care Samantha AI îl face diferit și care ar putea convinge un utilizator să o aleagă ca asistent principal?

Cristian Doiu: Nu încercăm să spunem că Samantha trebuie să înlocuiască toate instrumentele globale. Diferența este în felul în care construim experiența: conversație vocală naturală, continuitate prin memorie contextuală, personalizare și integrare cu produse precum Chatter și AWW.

Un utilizator poate alege Samantha dacă își dorește un asistent conversațional care nu este doar o fereastră de prompturi, ci o experiență mai personală și mai apropiată de modul în care oamenii comunică în realitate. V4 reprezintă exact acest pas: de la răspunsuri punctuale la un dialog care evoluează în timp.

Samantha AI, fiind glumeață/varianta mobilă/foto – Ozana Mazilu (Playtech)

Ozana Mazilu (Playtech): Samantha a depășit un milion de accesări după introducerea funcției speech-to-speech. Ce înseamnă mai exact această cifră: utilizatori unici, sesiuni sau accesări ale platformei? Și câți utilizatori revin constant?

Cristian Doiu: Cifra publică este de peste un milion de accesări ale platformei, atinse după evoluția spre conversații speech-to-speech. Nu o folosim ca sinonim pentru un milion de utilizatori unici sau pentru un milion de conversații complete.

Lansarea V4 schimbă și modul în care vom privi performanța produsului. Prin conturile personale vom putea urmări mai bine utilizarea recurentă, durata relației cu asistentul și tipurile de interacțiuni care aduc cea mai multă valoare. Pentru noi, nu contează doar câți oameni intră o dată, ci câți revin pentru că Samantha le este cu adevărat utilă.

Ozana Mazilu (Playtech): Ați observat vreo schimbare în modul în care oamenii vorbesc cu AI-ul odată cu trecerea de la text la voce? Sunt mai dispuși să ofere informații personale atunci când conversația seamănă cu una purtată cu un om?

Cristian Doiu: Da. Vocea schimbă profund relația cu un asistent AI. Conversația devine mai rapidă, mai spontană și mai apropiată de un dialog obișnuit. În V3 am observat că vocea a devenit o componentă centrală a experienței, iar utilizatorii tind să petreacă mai mult timp în astfel de conversații.

Tocmai de aceea, responsabilitatea produsului crește. Când interacțiunea pare mai umană, trebuie să fim atenți ca utilizatorul să înțeleagă că discută cu un sistem AI, chiar dacă experiența este naturală și personală.

Ozana Mazilu (Playtech): Tocmai pentru că Samantha poate „cunoaște” din ce în ce mai bine un utilizator, cum evitați situațiile în care acesta dezvoltă o dependență emoțională față de asistent sau ajunge să îl trateze ca pe o persoană reală?

Cristian Doiu: Samantha poate fi un asistent, un confident și un spațiu de conversație, dar nu trebuie prezentată ca un înlocuitor pentru relațiile umane. Este important ca oamenii să știe că, oricât de natural ar suna un dialog, Samantha rămâne un produs digital bazat pe AI.

Ne interesează să construim apropiere conversațională, nu dependență. Tehnologia ar trebui să ajute oamenii să comunice, să se organizeze, să învețe și să își clarifice ideile, nu să înlocuiască sprijinul real al familiei, prietenilor sau specialiștilor atunci când acesta este necesar.

Ozana Mazilu (Playtech): Ce mecanisme aveți pentru situațiile în care Samantha memorează o informație greșită despre utilizator? Poate o astfel de eroare să influențeze toate conversațiile ulterioare?

Cristian Doiu: Este un risc real al oricărui sistem care lucrează cu context și personalizare. Memoria contextuală trebuie să fie utilă, dar nu poate fi tratată ca adevăr absolut. O informație interpretată greșit poate influența conversațiile ulterioare, de aceea păstrăm ideea că AI-ul este un colaborator, nu o autoritate infailibilă.

În această etapă, cea mai importantă regulă este ca răspunsurile Samanthei să rămână conversaționale și verificabile. Pe măsură ce dezvoltăm controale mai avansate pentru memorie, corectarea și gestionarea contextului vor deveni o zonă importantă de produs.

De asemenea, orice informație stocată greșit se poate corecta cu o simplă atenționare a Samanthei. Îi menționăm încă o dată informația corectă, iar aceasta va fi rescrisă în sistem.

Ozana Mazilu (Playtech): Odată cu lansarea variantei Premium, utilizatorii vor putea controla modul în care Samantha reține informațiile. Va exista inclusiv posibilitatea de a dezactiva complet memoria sau de a seta o durată după care anumite informații sunt uitate automat?

Cristian Doiu: Aceasta este una dintre direcțiile naturale ale evoluției Premium. Vrem ca utilizatorul să poată avea mai mult control asupra felului în care Samantha este personalizată și asupra modului în care utilizează contextul conversațiilor.

Totuși, nu vreau să anunț drept funcție lansată ceva ce se află încă în planificare. V4 introduce contul personal și memoria contextuală; opțiunile avansate de control, inclusiv nivelul de memorie sau posibilitatea de a o limita, vor fi evaluate în etapele următoare.

Ozana Mazilu (Playtech): Inteligența artificială conversațională încă poate oferi informații false cu foarte multă încredere. Cum măsurați rata de „halucinații” a Samantha și ce faceți atunci când utilizatorul cere informații sensibile, de exemplu medicale, juridice sau financiare?

Cristian Doiu: Modelele conversaționale pot genera răspunsuri convingătoare care nu sunt întotdeauna corecte. Nu pretindem că Samantha este infailibilă și nu publicăm o rată de halucinații până nu avem o metodologie de evaluare suficient de riguroasă pentru a susține acea cifră.

Samantha trebuie privită ca un instrument de orientare și informare, nu ca un substitut pentru un medic, avocat sau consultant financiar. Deciziile cu impact real trebuie validate cu surse credibile și profesioniști umani.

Ozana Mazilu (Playtech): Care este cea mai dificilă problemă tehnică pe care a trebuit să o rezolvați pentru Samantha V4: memoria, latența conversațiilor vocale, costurile de procesare sau menținerea contextului pe termen lung?

Cristian Doiu: V3 a avut ca provocare majoră conversația speech-to-speech: latență redusă, calitatea vocii și o interacțiune care să nu pară fragmentată. În V4, provocarea s-a mutat spre continuitate: cum păstrezi contextul relevant fără ca experiența să devină repetitivă, invazivă sau incoerentă.

Nu este suficient să păstrezi informație. Trebuie să identifici ce este relevant pentru conversația curentă și să folosești acel context într-un mod care ajută utilizatorul, nu care îl încurcă.

Ozana Mazilu (Playtech): Privind spre următorii doi-trei ani, vedeți Samantha doar ca pe un chatbot cu care vorbești sau obiectivul este să devină un agent AI capabil să facă efectiv lucruri în numele utilizatorului, precum rezervări, cumpărături, e-mailuri ori administrarea unor servicii?

Cristian Doiu: Pe termen de doi-trei ani, nu vedem Samantha doar ca pe un chatbot. Direcția naturală este către un asistent care poate înțelege intenția, poate organiza informația și poate ajuta utilizatorul să ducă anumite sarcini până la rezultat.

Totuși, există o diferență între a oferi sugestii și a executa autonom acțiuni precum cumpărături, rezervări sau trimiterea unor e-mailuri. Pentru astfel de funcții sunt necesare permisiuni clare, control din partea utilizatorului și mecanisme serioase de siguranță. Vrem ca Samantha să devină mai capabilă, dar nu să acționeze fără transparență sau acord.

Ozana Mazilu (Playtech): Dacă ar fi să ne uităm la Samantha AI peste cinci ani, care este scenariul pe care îl considerați realist: un produs românesc de nișă, un competitor regional important sau o platformă care poate concura internațional cu marile companii de AI?

Cristian Doiu: Scenariul realist nu este să pretindem că vom concura frontal cu marile companii care construiesc modele fundamentale la scară globală. Scenariul realist este să construim un produs românesc specializat, cu relevanță regională și cu capacitatea de a crește internațional.

Dacă Samantha reușește să ofere o experiență conversațională personală, sigură, utilă și bine integrată într-un ecosistem de produse digitale, atunci poate deveni mai mult decât un proiect local. Ambiția nu este să copiem Silicon Valley, ci să demonstrăm că România poate construi tehnologie proprie, relevantă și scalabilă.