Valul de sinucideri în rândul adolescenților, aparent influențat de utilizarea ChatGPT, a provocat reacții importante din partea companiei OpenAI. În urma acestor incidente tragice și a mărturiilor transmise în fața Congresului american, CEO-ul Sam Altman a anunțat implementarea unor măsuri menite să protejeze sănătatea mintală a minorilor care folosesc platforma de inteligență artificială. Noutățile promovate vizează responsabilizarea platformei și sporirea siguranței utilizatorilor tineri.

Măsurile recente includ funcții speciale pentru părinți, destinată monitorizării și controlului interacțiunilor copilului cu ChatGPT. Părinții vor putea conecta conturile proprii, astfel încât să poată dezactiva anumite funcții, să primească alerte dacă adolescentul pare în pericol și să stabilească intervale de „pauză” în utilizarea chatbotului. De asemenea, vor putea crea reguli pentru gestionarea conversațiilor, pentru a evita discutarea subiectelor sensibile.

Un aspect esențial al acestor măsuri este și detectarea automată a vârstei utilizatorilor, pentru a bloca accesul la conținut nepotrivit minorilor. În cazul în care platforma nu poate estima cu certitudine vârsta, experiența va fi implicit personalizată pentru adolescenți. Pentru situații de urgență, fără posibilitatea contactării părinților, OpenAI indică faptul că poate apela la autorități pentru intervenție rapidă.

Sam Altman a declarat, în fața Congresului și în alte declarații oficiale, că siguranța minorilor trebuie să primeze, chiar dacă acest lucru poate afecta confidențialitatea datelor. Într-un interviu anterior, el a recunoscut că eventualele greșeli din partea companiei și greutățile în gestionarea impactului AI asupra sănătății mintale au fost evidente, iar măsurile sunt încă în proces de ajustare.

Mărturiile familiilor afectate și cazurile tragice scot în evidență dificultățile într-un context de evoluție tehnologică rapidă. Specialiștii avertizează asupra riscului ca interacțiunile cu AI să intensifice stările de anxietate sau depresie în lipsa unei supravegheri adecvate.

În final, compania OpenAI transmite un mesaj clar: protecția minorilor nu mai este opțională, ci o responsabilitate majoră. Totuși, rămâne de urmărit dacă aceste măsuri vor fi suficiente sau dacă vor necesita ajustări continue în planul colaborării cu experți în sănătate mintală și părinți. Monitorizarea și adaptarea regulată vor fi esențiale pentru asigurarea unui mediu mai sigur pentru tineri.