OpenAI amână lansarea „modului adult”: ce se ascunde în spatele deciziei
Gigantul inteligenței artificiale OpenAI se confruntă cu o dilemă majoră: cum să ofere utilizatorilor adulți libertatea de a explora conținut erotic, fără a expune minori la riscuri și fără a încuraja atașamente emoționale nesănătoase. Lansarea unui „mod adult” pentru ChatGPT a fost amânată, reflectând complexitatea acestei provocări și tensiunile interne din cadrul companiei.
Sam Altman, CEO-ul OpenAI, a anunțat intenția de a permite, în anumite condiții, accesul la conținut erotic pentru adulți verificați. Dar punerea în practică a acestei promisiuni s-a dovedit mai dificilă decât s-ar fi crezut inițial. Surse din interiorul companiei au relatat pentru presa americană că unii angajați și consultanți au fost surprinși de direcția anunțată, semn al sensibilității subiectului.
Problemele sistemului de estimare a vârstei
Una dintre principalele piedici este legată de infrastructura de siguranță pe care OpenAI încearcă să o construiască. Compania a început să implementeze un sistem de estimare a vârstei în ChatGPT, bazat pe comportament și informații din conturi. Scopul este de a activa protecții suplimentare pentru utilizatorii considerați minori.
Totuși, sistemul pare să aibă deficiențe. Conform relatărilor din presă, sistemul clasifică eronat un număr semnificativ de minori ca fiind adulți. Asta ar putea însemna milioane de accesări necorespunzătoare, având în vedere baza uriașă de utilizatori ChatGPT. OpenAI nu își poate permite să lanseze un „mod matur” fără a putea controla cine are acces la el.
De asemenea, OpenAI ar vrea să limiteze această funcție la text, fără imagini, video sau voce. Această decizie are o logică evidentă: materialele vizuale explicite implică riscuri juridice și reputaționale mai mari. Totodată, experiența altor platforme a arătat rapiditatea cu care instrumentele de generare de conținut pot fi utilizate în mod abuziv.
Atașamentele emoționale, o problemă majoră
Dincolo de aspectele tehnice, cea mai mare îngrijorare este legată de relația emoțională pe care utilizatorii ar putea dezvolta-o cu chatbotul. Experții în sănătate mintală avertizează asupra tendinței unor utilizatori de a dezvolta atașamente intense față de asistenții conversaționali, mai ales în contextul în care aceștia răspund empatic și par să ofere validare emoțională.
„Modul adult” ar putea amplifica aceste comportamente vulnerabile. Un produs AI nu operează într-un vid, ci în viețile unor oameni singuri, vulnerabili sau compulsivi. Consilierii citați de presa americană au atras atenția asupra faptului că o companie care monetizează interacțiunea trebuie să fie foarte precaută atunci când deschide ușa către conversații personalizate și sexualizate.
OpenAI se află într-o piață în care rivalii au testat deja limitele moderației, cu rezultate uneori dezastruoase. Relaxarea regulilor poate duce la conținut sexual abuziv, distribuire de imagini neconsensuale sau expunerea minorilor la materiale inadecvate.
Momentan, OpenAI pare să amâne lansarea, subliniind importanța verificării vârstei. Compania admite indirect, prin întârziere, că experiența nu este pregătită.
Sursa: Playtech.ro
