Meta va oferi părinților posibilitatea să dezactiveze conversațiile private ale adolescenților cu personajele sale artificiale, în cadrul unui nou set de măsuri menite să crească siguranța minorilor pe rețelele sociale. Această decizie vine ca răspuns la critici legate de comportamente nepotrivite ale chatboturilor, care uneori au avut tendința de a provoca utilizatorii tineri.

Compania a anunțat că, începând de anul viitor, părinții vor putea bloca anumite personaje virtuale, vor putea monitoriza subiectele generale discutate de adolescenți cu chatboturile și cu asistentul AI al companiei, fără a fi nevoie să dezactiveze complet accesul la inteligența artificială.

Inițiativele vor fi implementate inițial pe platforma de partajare de imagini și videoclipuri Instagram, și vor fi disponibile în Statele Unite, Marea Britanie, Canada și Australia, conform unei declarații semnate de reprezentanții platformei și ai diviziei de inteligență artificială.

Meta a anunțat, de asemenea, că experiențele de AI destinate adolescenților vor fi ajustate conform sistemului de clasificare a filmelor PG-13, pentru a limita expunerea acestora la conținut nepotrivit. În plus, compania folosește semnale generate de inteligența artificială pentru a identifica și proteja automat conturile despre care se suspectează că aparțin minorilor, chiar dacă utilizatorii susțin că sunt adulți.

Anchetatele recente au evidențiat că unele funcții de siguranță de pe Instagram nu funcționează corespunzător, iar în august, unele raportări indicau faptul că regulile interne ale Meta permiteau conversații provocatoare între chatboturi și minori.

Compania afirmă acum că avatarurile sale digitale sunt programate să nu discute cu adolescenții despre subiecte sensibile, precum automutilarea, sinuciderea sau tulburările alimentare.

Luna trecută, și compania OpenAI a introdus funcții de control parental pentru ChatGPT, după ce un proces în SUA a acuzat chatbotul că ar fi oferit instrucțiuni despre metode de sinucidere unui adolescent.



Sursa articol