Fosta șefă Yahoo a întrebat inteligența artificială ce are special propria fiică. Răspunsul AI a stârnit un scandal: când tehnologia ajunge să țină locul părinților

Mayer nu a folosit însă orice chatbot, ci Dazzle, propria companie de inteligență artificială, evaluată la aproximativ 35 de milioane de dolari. Aplicația promite să înțeleagă personalitatea, preferințele și obiceiurile utilizatorilor analizând fotografiile salvate în telefoanele lor. Pentru fosta șefă Yahoo, tehnologia reprezintă o modalitate de a simplifica viața de familie. Pentru criticii săi, episodul ridică o întrebare incomodă: cât de departe suntem dispuși să mergem cu automatizarea relațiilor umane?

Inteligența artificială i-a spus ce calități are propria fiică

Totul a pornit de la o solicitare aparent banală venită din partea profesoarei fiicei sale, Marielle. Cu ocazia aniversării de zece ani, Mayer trebuia să pregătească trei idei scurte despre lucrurile care o fac specială pe fetiță. În loc să se bazeze exclusiv pe propriile observații, a decis să testeze Dazzle.

Asistentul AI a analizat informațiile disponibile și a descris-o pe Marielle drept empatică, creativă și iubitoare de animale. Mayer s-a declarat încântată de rezultat, considerând că aplicația reușise să identifice trăsături importante ale copilului.

Reacțiile publicului au fost însă mult mai puțin entuziaste. Numeroși utilizatori ai rețelelor sociale au criticat ideea că un părinte ar avea nevoie de inteligență artificială pentru a formula câteva calități ale propriului copil. Alții au considerat că exemplul ilustrează riscul de a delega tehnologiei inclusiv experiențele emoționale.

În urma controverselor, Mayer a oferit explicații suplimentare. Ea a precizat că nu apelase la Dazzle pentru că nu își cunoștea fiica, ci pentru a testa un prototip al aplicației. Potrivit acesteia, sistemul a reușit să distingă între fiicele sale gemene și să identifice proiecte școlare mai vechi, pe care le-a conectat cu interesele actuale ale lui Marielle.

Mayer a susținut că a combinat sugestiile aplicației cu propriile observații, iar rezultatul i-a surprins plăcut familia.

Cum funcționează Dazzle, aplicația care îți analizează viața din fotografii

Dazzle pornește de la o idee simplă: fotografiile din telefon spun despre o persoană mult mai multe decât pare la prima vedere. Vacanțele, mesele, obiectele cumpărate, animalele de companie și imaginile cu familia pot dezvălui preferințe, obiceiuri și relații personale.

Aplicația folosește inteligența artificială pentru a interpreta aceste informații și pentru a face recomandări personalizate. De exemplu, poate sugera o destinație de vacanță, poate identifica un produs fotografiat sau poate ajuta la organizarea unui eveniment.

Marissa Mayer spune că folosește Dazzle inclusiv pentru planificarea petrecerilor copiilor. În cazul aniversării fiului său Macallister, în vârstă de 14 ani, aplicația a propus o petrecere cu elemente fosforescente, inclusiv accesorii luminoase pentru piscină.

Băiatul a considerat însă că tema era dusă prea departe. Episodul arată că, oricât de personalizate ar deveni recomandările AI, acestea nu reflectă întotdeauna dorințele reale ale oamenilor.

Dazzle a atras o finanțare inițială de opt milioane de dolari și încearcă să intre pe o piață tot mai aglomerată a asistenților personali inteligenți.

Cât de sigur este să lași AI-ul să îți analizeze fotografiile personale

Dincolo de controversa legată de fiica lui Mayer, Dazzle ridică și întrebări despre confidențialitate. Galeria foto a unui telefon poate conține informații extrem de sensibile, de la imagini cu minori până la documente, adrese și detalii despre viața privată.

Compania susține că prioritizează protejarea datelor și că imaginile considerate sensibile sunt eliminate din procesare. Utilizatorii pot acorda acces complet, parțial sau deloc la fotografiile personale. Totuși, asemenea promisiuni nu elimină necesitatea de a înțelege cum sunt prelucrate informațiile.

Riscurile asociate cu fotografiile personale analizate de inteligența artificială sunt tot mai importante, pe măsură ce aplicațiile devin capabile să identifice oameni, locuri și informații din detalii aparent nesemnificative.

Controverse similare au apărut și în cazul utilizării AI pentru analizarea imaginilor cu copii, unde întrebările despre consimțământ și protecția vieții private sunt deosebit de sensibile.

Când ajutorul tehnologic devine un înlocuitor pentru experiențele personale

Mayer consideră că asistenții AI pot reduce timpul petrecut cu activități repetitive, oferind părinților mai multă libertate. În viziunea sa, organizarea aniversărilor, alegerea cadourilor sau planificarea activităților de familie sunt sarcini care pot fi simplificate considerabil.

Există însă o diferență între automatizarea unei rezervări și delegarea unor observații personale despre propriul copil. Un algoritm poate recunoaște tipare în fotografii, dar nu poate înlocui experiența unei relații construite în timp.

De altfel, discuția face parte dintr-o dezbatere mai amplă despre felul în care inteligența artificială influențează deja viața copiilor și relațiile din familie.

Povestea Marissei Mayer nu demonstrează că tehnologia ne îndepărtează inevitabil de cei dragi. Explicațiile sale sugerează că AI-ul poate funcționa și ca un instrument de recuperare a unor amintiri uitate.

Dar controversa scoate la iveală o întrebare care va deveni tot mai importantă: dacă ajungem să folosim inteligența artificială pentru a ne aminti ce iubim la oamenii apropiați, unde se termină ajutorul tehnologic și unde începe dependența de el?