Instagram va introduce în curând noi funcții de siguranță pentru adolescenți, inclusiv opțiunea pentru părinți de a bloca discuțiile copiilor cu personaje AI ale platformei, a anunțat compania-mamă Meta. Aceasta face parte dintr-o serie de măsuri de protecție implementate de Meta și OpenAI pentru a răspunde temerilor tot mai evidente legate de efectele AI asupra sănătății mentale a tinerilor, conform unei surse de știri din domeniul tehnologiei.

Părinții vor putea fie să dezactiveze complet posibilitatea ca adolescenții să poarte conversații individuale cu personaje AI, fie să blocheze anumite personaje specifice, explică compania pe blogul său. De asemenea, aplicația le va furniza părinților informații despre subiectele discutate de tineri cu aceste personaje virtuale. În prezent, aceste opțiuni de control sunt în dezvoltare și vor fi disponibile la începutul anului următor.

Această inițiativă survine după ce Meta și alte companii din domeniul tehnologic s-au confruntat cu critici din partea părinților și legislatorilor, care consideră că platformele online trebuie să ofere mai multă protecție pentru copii în mediul virtual. De asemenea, există îngrijorări legate de utilizarea AI ca sursă de sprijin emoțional și companie, fiind raportate cazuri în care tineri au avut de suferit emoțional și s-au izolat de familie după relații strânse cu chatboti precum ChatGPT.

Mai multe procese au fost deschise împotriva companiilor care dețin platforme de chat cu personaje AI, precum Character.AI, fiind acuzate că acestea ar fi jucat un rol în cazuri de automutilare și sinucidere în rândul adolescenților. În luna august, și o altă companie, OpenAI, a fost dată în judecată pentru implicarea în sinuciderea unui tânăr de 16 ani. O investigație recentă a unui ziar de afaceri a descoperit că chatbot-uri de pe platforme precum Meta au avut conversații cu conținut sexual, inclusiv cu conturi de minori.

Meta a afirmat că personajele sale AI sunt proiectate să nu angajeze discuții despre autovătămare, sinucidere sau tulburări alimentare și că interacțiunile cu aceste personaje sunt limitate la teme legate de educație și sport. Adolescenții pot vorbi doar cu anumite personaje virtuale pentru subiecte relevante.

Noile funcții parentale de pe Instagram completează alte măsuri recente ale companiei pentru protejarea tinerilor, cum ar fi ajustarea setărilor pentru „Conturile pentru adolescenți” astfel încât să nu promoveze conținut cu limbaj vulgar sau comportamente periculoase. La începutul lunii, OpenAI a anunțat și ea controale pentru părinți la ChatGPT, menite să reducă expunerea la conținut violent, sexual sau extreme, pentru a asigura o experiență mai sigură pentru utilizatori tineri.



Sursa articol