Inteligența artificială ar putea face mai mult rău copiilor decât rețelele sociale, avertizează un fost director Google. Pericolele ascunse ale chatboturilor AI

Copiii și adolescenții cresc într-o lume în care inteligența artificială nu mai este doar un instrument folosit pentru teme sau pentru căutarea informațiilor. Chatboturile au devenit pentru unii tineri parteneri de conversație, surse de sfaturi personale și chiar prieteni virtuali cărora le împărtășesc lucruri pe care nu le discută cu părinții. Această apropiere dintre utilizatorii minori și sistemele AI ridică îngrijorări tot mai mari în rândul specialiștilor în siguranță digitală. Tom Siegel, fost vicepreședinte responsabil de siguranță și încredere la Google, avertizează că tehnologia ar putea provoca tinerilor prejudicii chiar mai grave decât cele asociate rețelelor sociale. Într-un interviu acordat Reuters , acesta a cerut încetinirea dezvoltării și lansării unor sisteme AI până când companiile vor implementa măsuri de protecție mai eficiente.

Avertismentul vine într-un moment în care industria inteligenței artificiale investește masiv în dezvoltarea asistenților digitali, iar accesul adolescenților la aceste servicii devine tot mai ușor. Spre deosebire de rețelele sociale tradiționale, un chatbot poate purta conversații personalizate, poate răspunde instantaneu la întrebări intime și poate simula o relație apropiată cu utilizatorul. Tocmai aceste caracteristici, care fac tehnologia atractivă, ar putea amplifica anumite riscuri pentru persoanele aflate încă în dezvoltare. Siegel consideră că industria nu ar trebui să fie lăsată să stabilească singură regulile de protecție a minorilor.

Chatboturile AI pot deveni prieteni virtuali pentru adolescenți. De ce îi îngrijorează pe specialiști

Una dintre principalele probleme semnalate de Tom Siegel este felul în care adolescenții ajung să interacționeze cu asistenții virtuali. Spre deosebire de o căutare obișnuită pe internet, un chatbot poate întreține conversații lungi, poate răspunde într-un mod empatic și poate crea impresia unei relații personale. Pentru un adolescent care se confruntă cu singurătatea, anxietatea sau dificultăți în familie, disponibilitatea permanentă a unui asemenea instrument poate deveni atractivă. Totuși, un sistem AI nu are capacitatea unui specialist de a evalua întotdeauna corect situațiile emoționale complexe și poate genera răspunsuri nepotrivite.

Fenomenul nu este unul izolat. Un studiu despre relația adolescenților cu inteligența artificială , realizat în patru țări europene, a arătat că numeroși tineri folosesc deja chatboturile pentru a discuta despre probleme personale. Aproximativ o treime dintre participanți au atribuit inteligenței artificiale, în anumite situații, un rol apropiat de cel al unui psiholog. Cercetarea evidențiază și o altă problemă: mulți tineri au încredere în răspunsurile primite, fără să înțeleagă pe deplin cum sunt procesate informațiile personale pe care le împărtășesc.

Vezi și:

După câte ore de la ultimul pahar te poți urca la volan. Cât timp rămâne alcoolul în sânge și în aerul expirat

Siegel a atras atenția și asupra cazurilor în care interacțiunile cu sistemele AI au fost asociate cu situații grave de sănătate mintală, inclusiv comportamente suicidare. În Statele Unite, mai multe familii au intentat procese împotriva unor companii care dezvoltă chatboturi, susținând că interacțiunile cu acestea au contribuit la agravarea problemelor psihologice ale unor tineri. Aceste acuzații trebuie însă diferențiate de concluziile medicale sau juridice definitive: existența unei conversații cu un chatbot nu demonstrează, prin ea însăși, că sistemul a provocat un anumit comportament.

Inteligența artificială ar putea afecta și modul în care copiii învață

Dincolo de riscurile emoționale, fostul director Google este preocupat și de utilizarea inteligenței artificiale în educație. Chatboturile pot rezolva probleme de matematică, pot redacta eseuri și pot oferi răspunsuri aproape instantaneu la întrebări complexe. Deși aceste capacități pot sprijini procesul de învățare, folosirea lor pentru realizarea integrală a temelor poate reduce implicarea elevilor în activități care necesită concentrare, analiză și formularea propriilor concluzii.

Siegel a menționat fenomenul cunoscut drept „cognitive offloading”, prin care oamenii transferă anumite sarcini cognitive către instrumente externe. În contextul educației, problema apare atunci când elevii ajung să se bazeze pe răspunsurile generate automat în loc să încerce să înțeleagă și să rezolve singuri problemele. Unele cercetări preliminare au identificat asocieri între utilizarea intensivă a AI și reducerea implicării cognitive în anumite activități. Totuși, rezultatele nu demonstrează că orice utilizare a inteligenței artificiale provoacă pierderi de memorie sau afectează permanent capacitatea de gândire critică.

Vezi și:

Opt state americane dau OpenAI în judecată. ChatGPT este acuzat că îi pune în pericol pe copii și adolescenți

O formulă matematică simplă ar putea prezice când AI-ul începe să dea răspunsuri periculoase

Există și abordări educaționale care încearcă să valorifice avantajele tehnologiei fără să înlocuiască efortul intelectual al elevilor. De exemplu, Estonia a introdus un program prin care elevii învață să folosească ChatGPT și alte instrumente AI , inclusiv prin metode care încurajează formularea întrebărilor, verificarea informațiilor și rezolvarea problemelor pas cu pas. Diferența dintre folosirea AI pentru a înțelege o lecție și utilizarea sa pentru a evita complet procesul de învățare rămâne una dintre provocările importante pentru sistemele educaționale.

Fostul director Google cere reguli mai stricte pentru companiile AI

Pe 22 septembrie 2026, Tom Siegel a anunțat că s-a alăturat organizației nonprofit Common Sense Media, în calitate de prim director executiv al Youth AI Safety Institute. Institutul, lansat în luna mai, își propune să cerceteze efectele inteligenței artificiale asupra copiilor și adolescenților și să dezvolte standarde independente pentru evaluarea siguranței produselor AI. Printre organizațiile care susțin financiar inițiativa se numără Anthropic și OpenAI Foundation.

Siegel consideră că evaluarea siguranței chatboturilor ar trebui să funcționeze într-un mod comparabil cu testele independente realizate în industria auto. În loc ca fiecare companie să își stabilească propriile criterii și să declare că produsele sale sunt sigure, organizațiile externe ar putea verifica modul în care acestea răspund în situații sensibile, ce informații oferă minorilor și cât de eficiente sunt mecanismele de protecție. Fostul director Google a propus inclusiv verificări mai stricte ale vârstei utilizatorilor și posibilitatea dezactivării anumitor funcții AI pentru copii.

Companiile vizate susțin că lucrează deja la îmbunătățirea măsurilor de siguranță. Google a transmis Reuters că funcțiile sale AI pentru căutare pot ajuta copiii și adolescenții să învețe și să înțeleagă informațiile, precizând că produsele companiei sunt supuse unor proceduri de testare și evaluare a siguranței. OpenAI a explicat că utilizează informațiile asociate conturilor, comportamentul utilizatorilor și vârstele declarate pentru a identifica minorii și că îmbunătățește constant mecanismele menite să împiedice ocolirea restricțiilor.

Cu toate acestea, testele independente realizate asupra funcțiilor de protecție din ChatGPT pentru adolescenți  au arătat că anumite restricții pot fi ocolite, ceea ce evidențiază dificultatea dezvoltării unor mecanisme care să funcționeze eficient în toate situațiile.

Avertismentul fostului director Google vine, așadar, într-un moment în care inteligența artificială este integrată tot mai mult în viața de zi cu zi a tinerilor. Deși nu există dovezi suficiente pentru a concluziona că AI provoacă deja, la nivelul întregii populații de minori, prejudicii mai grave decât rețelele sociale, caracterul personalizat și interactiv al chatboturilor ridică probleme distincte. Pentru Siegel, prioritatea este ca aceste riscuri să fie evaluate independent și abordate înainte ca tehnologia să devină și mai prezentă în viața copiilor.

Se schimbă stimulentul de 1.000 de lei pentru copiii cu dizabilități din București. Cine va primi mai puțin din 2027