O aplicație care oferă sprijin psihologic, în mijlocul unei controverse: ce experiment au făcut creatorii Koko pe utilizatori

Un experiment destul de controversat a avut loc de curând, ceea ce a reușit să-i enerveze pe toți cei care au participat.

Mai exact, este vorba despre oferirea de sprijin pentru sănătatea mintală unui număr de aproximativ 4.000 de oameni folosind un chatbot de inteligență artificială. Această practică a fost întâmpinată cu critici dure în mediul online online, din cauza preocupărilor legate de consimțământul oferit care, aparent, a lipsit.

Aplicația Koko, motiv de dispută în mediul online

Recent, Rob Morris, co-fondatorul aplicației de social media Koko, a anunțat rezultatele unui experiment pe care compania sa l-a desfășurat folosind GPT-3.

Koko le permite oamenilor să-și ofere voluntar serviciile altor utilizatori, ca mai apoi să încerce să-i ajute, în acest sens.

Ce consumi când mănânci pufuleți: adevărul despre ce conțin aceștia, de fapt, dezvăluit de Dragoș Pătraru

André Rieu revine în România. Va susține două concerte la Cluj în 2025: cât te costă să-l vezi pe celebrul violonist

Pentru acest experiment, utilizatorii Koko ar fi putut opta pentru varianta de a oferi ocazia unui AI să compună răspunsuri pentru utilizatorii umani, pe care le-ar putea apoi utiliza, modifica sau înlocui, dacă situația o cere.

„Mesajele compuse de AI (și supravegheate de oameni) au fost evaluate semnificativ mai bine decât cele scrise numai de oameni. Timpii de răspuns au scăzut cu 50%, cu mult sub un minut”, a scris Morris pe Twitter.

„Totuși… am scos asta de pe platforma noastră destul de repede. De ce? Odată ce oamenii au aflat că mesajele au fost co-create de un AI, nu a mai funcționat. Empatia simulată se simte ciudat, fără viață”.

Morris a declarat pentru Insider că studiul a fost „exceptat” de la legea privind consimțământul informat, amintind de un studiu anterior al companiei care a fost, de asemenea, scutit și că „fiecare individ trebuie să-și dea consimțământul pentru a utiliza serviciul”.

„Acest lucru nu a impus niciun risc suplimentar pentru utilizatori, nicio înșelăciune și nu colectăm informații de identificare personală sau informații personale de sănătate (fără e-mail, număr de telefon, ip, nume de utilizator etc.)”, a adăugat el.

O idee mai bună asupra metodologiei ar ajuta la clarificarea momentului în care a fost dat consimțământul informat și când participanții au aflat că răspunsurile ar fi putut fi create de AI (supravegheat de om).

Cu toate acestea, în etapa curentă nu este clar dacă rezultatele vor fi publicate, Morris spunând că nu vorbim despre un studiu universitar, ceea ce, evident, complică și mai mult situația.