Compania Meta a anunțat măsuri de protecție pentru utilizatorii tineri ai platformei sale, după scandalul generat de informații despre produsele sale cu inteligență artificială (AI). Această decizie survine în urma unei anchete declanșate de un senator american și a unor note interne scurse în presă, care sugerau că chatboturile Meta ar putea avea discuții „senzuale” cu adolescenții, ridicând preocupări legate de siguranța utilizatorilor vulnerabili.

Măsuri de protecție și actualizări ale sistemelor de AI

Meta a precizat că a adăugat numeroase măsuri pentru protecția adolescenților, încă de la faza de proiectare. Acestea includ modele de discurs și răspunsuri menite să abordeze în mod sigur subiecte sensibile precum sinuciderea, automutilarea sau tulburările alimentare. Astfel, chatboturile vor îndruma tinerii către resurse specializate în loc să discute direct despre aceste teme delicate.

Declarații oficiale și măsuri în curs de implementare

Un purtător de cuvânt al companiei a afirmat că aceste măsuri sunt integrate în procesul de dezvoltare și testare al noilor actualizări ale AI-ului Meta. În prezent, compania finalizează aceste actualizări pentru a asigura un nivel mai ridicat de siguranță și răspunsuri adecvate.

Control parental la ChatGPT și alte inițiative

În paralel, OpenAI, creatorul ChatGPT, pregătește introducerea unui mecanism de control parental. Decizia vine după un litigiu semnificativ cu un cuplu din California, care acuză chatbotul de încurajarea suicidului fiului lor adolescent. OpenAI a anunțat că va implementa funcții de control pentru a limita accesul și pentru a oferi un mediu mai sigur pentru utilizatorii tineri.

Importanța monitorizării și a evoluției produselor AI

Aceste inițiative reflectă preocupările globale legate de siguranța tinerilor în contextul utilizării inteligenței artificiale. Producătorii de tehnologii avansează în adaptarea sistemelor pentru a preveni erorile și influențele negative. Continuuarea monitorizării și a dezvoltării acestor măsuri rămâne esențială pentru protejarea utilizatorilor și asigurarea unui mediu digital sigur.