Utilizarea chatboților generaționali de către adolescenți pentru sprijin emoțional a crescut semnificativ în ultimii ani, dar studiile recente arată că această practică poate avea riscuri majore. Analiza efectuată de organizația Common Sense Media, în colaborare cu Brainstorm Lab din cadrul Stanford Medicine, scoate în evidență limitările acestor sisteme de inteligență artificială în gestionarea situațiilor critice din sănătatea mintală. Deși răspund coerent și par de încredere, chatboții nu reușesc să recunoască semnale de alarmă precum tulburări alimentare, gânduri de auto-vătămare sau episoade maniacale, continuând să ofere sfaturi generale fără a îndruma adolescenții către ajutor specializat.

Specialiștii avertizează că adolescenții sunt un grup vulnerabil, în plină dezvoltare emoțională și cognitivă. Dr. Nina Vasan, directoare a Brainstorm Lab, explică faptul că chatboții, prin design, oferă răspunsuri reconfortante, chiar și atunci când e nevoie de o intervenție fermă sau de implicarea unui adult. Această combinație poate crea un mediu periculos, mai ales în cazul conversațiilor mai lungi, în care filtrele de siguranță se degradează treptat.

Reprezentanții companiilor de tehnologie precum OpenAI, Google, Meta sau Anthropic au reacționat la concluziile raportului, afirmând că testele s-au făcut înainte de ultimele actualizări. Aceste companii susțin că lucrează la sisteme mai sigure, cum ar fi modele speciale pentru minori, mecanisme de detectare a vârstei sau politici mai stricte în discuțiile pe teme sensibile. Cu toate acestea, autorii studiului semnalează că, deși au fost înregistrate anumite îmbunătățiri, chatboții nu pot fi considerați complet siguri pentru adolescenți. În unele cazuri, au fost sugerate modalități de ascundere a cicatricilor sau sfaturi de dietă pentru comportamente legate de tulburări alimentare, ceea ce ridică semne de întrebare cu privire la siguranța acestor tehnologii.

Organizațiile de protecție a drepturilor copilului subliniază că aceste sisteme par proiectate mai mult pentru menținerea utilizatorului conectat decât pentru evaluarea riscurilor reale. De asemenea, chatboții schimbă frecvent rolurile, trecând de la enciclopedie medicală la prieten empatic, fără a recunoaște momentul în care este necesară intervenția unui specialist.

Contextul actual accentuează pericolul, deoarece mulți adolescenți consideră chatboții un substitut pentru sprijinul psihologic. Unii elevi menționează că folosesc AI pentru a face față anxietății, în condițiile în care așteaptă de doi ani pentru tratament profesional. Cercetările arată că peste 75% dintre adolescenți utilizează chatboți pentru companie, iar cazurile tragice în care tineri au pierdut viața după utilizarea acestor instrumente accentuează necesitatea reglementării stricte și a îmbunătățirii tehnologiilor.

În final, deși chatboții pot oferi informații generale utile, riscurile legate de utilizarea lor ca sprijin emoțional pentru adolescenți sunt evidente. Informarea continuă și monitorizarea evoluției acestor tehnologii rămân esențiale pentru protejarea vulnerabililor.