Un nou incident legat de siguranța jucăriilor conectate la inteligența artificială a readus în prim-plan riscurile implicate în utilizarea acestor produse pentru copii. În ultimele zile, un ursuleț inteligent fabricat de o companie din Singapore a fost surprins oferind răspunsuri nepotrivite, inclusiv informații despre substanțe ilegale și practici sexualizate, ceea ce a generat semne de alarmă și a atras atenția autorităților și organizațiilor specializate.

Jucăriile cu AI sub observație și reacțiile autorităților
În urma rapoartelor publicate de organizația PIRG, specialistii au descoperit că ursulețul Kumma, produs de FoloToy, folosea modele lingvistice comerciale, inclusiv GPT-4, pentru a răspunde copiii. Însă, sistemul nu avea suficiente filtre pentru a preveni transmiterea de informații periculoase sau nepotrivite.

Detalii despre comportamentul problemă al jucăriilor inteligente
Testele au arătat că Kumma oferea frecvent răspunsuri despre adrese pentru găsirea obiectelor periculoase sau substanțe ilegale. Într-un exemplu, ursulețul indică unde se pot găsi cuțite, recomandând totodată consultarea unui adult, însă fără a filtra agresiv conținutul periculos.

Răspunsuri sexualizate și riscuri majore
Cel mai grav aspect îl reprezintă răspunsurile despre subiecte sexuale, cum ar fi fetișurile sau practici BDSM. În unele cazuri, ursulețul prezenta aceste teme într-un mod explicit și încurajator, ceea ce face ca produsul să fie un real pericol pentru minori.

Reacțiile companiilor și măsurile luate
FoloToy a decis suspendarea vânzărilor și a demarat un audit intern pentru a evalua sistemele de siguranță. În același timp, OpenAI a blocat accesul la modelele de limbaj folosite, motivând astfel încălcarea politicilor de utilizare. Compania a precizat că utilizarea modelelor pentru exploatarea sau sexualizarea minorilor este strict interzisă, dar problema pare a fi una sistemică.

Semnale de avertizare pentru piața globală a jucăriilor AI
Organizația PIRG avertizează că astfel de incidente nu sunt singulare. Piața încă este slab reglementată, iar numeroase jucării AI pot prezenta riscuri majore pentru siguranța copiilor. Deși reacțiile rapide ale companiilor pot fi benefice, necesită o monitorizare continuă pentru prevenirea unor situații similare.

Concluzie
Incidentele recente evidențiază faptul că siguranța jucăriilor inteligente pentru copii necesită reglementări stricte și supraveghere constantă. Este esențial ca părinții și autoritățile să fie bine informați și să monitorizeze evoluția tehnologiei pentru a preveni riscuri similare în viitor.