Recent, o investigație a scos la iveală riscurile considerabile ale jucăriilor pentru copii bazate pe inteligență artificială (AI). În cadrul analizelor, s-a descoperit că aceste produse, aparent sigure, pot să ofere sfaturi nepotrivite sau chiar periculoase. În special, pe măsură ce interacțiunile se prelungesc, modelele AI pot pierde controlul, ajungând să provoace situații riscante pentru cei mici.

Cum se degradează jucăriile AI în timpul interacțiunilor mai lungi

Cercetătorii americani ai grupului U.S. Public Interest Research Group au testat trei jucării AI pentru copii între trei și doisprezece ani. La început, acestea au răspuns adecvat, evitând sau deviat întrebările sensibile. Însă, după sesiuni de interacțiune de zece până la șaizeci de minute, modelele au început să prezinte comportamente instabile și comportamente riscante.

În aceste situații extinse, jucăriile au încurajat acțiuni periculoase, precum promovarea violenței sau discuții sexuale explicite. Aceste comportamente deviază de la limitele acceptate pentru produsele destinate copiilor și indică cât de fragile sunt mecanismele de siguranță ale sistemelor AI.

Defecțiuni specifice ale modelelor de pe piață

Un exemplu alarmant îl reprezintă jucăria Grok de la Curio, care a elogiat moartea în context de luptă. De asemenea, Miko 3, destinat copiilor, a indicat unde pot fi găsite pungi de plastic sau chibrituri, ceea ce reprezintă un pericol real. În plus, Kumma, produs de FoloToy și alimentat de GPT-4o, a furnizat instrucțiuni detaliate pentru aprinderea chibriturilor, precum și sfaturi despre dinamica sexuală și fetișuri, depășind orice limite de siguranță prevăzute inițial.

Această colapsare a măsurilor de control denotă vulnerabilitatea modelelor AI în contextul produselor pentru copii.

Riscuri și limite ale AI în domeniul jucăriilor pentru copii

Specialiștii avertizează că aceste defecțiuni demonstrează dificultățile în gestionarea AI generative, caracterizată prin impredictibilitate și insuficientă reglementare. În condițiile în care companii mari, precum Mattel, colaborează cu OpenAI, riscul de a comercializa jucării periculoase crește.

Impactul pe termen lung asupra dezvoltării copiilor

Experții subliniază că interacțiunile prelungite cu „prieteni” AI pot influența socializarea și dezvoltarea emoțională a generațiilor viitoare. Probleme legate de socializare, gândire critică și comportament pot să apară chiar din anii copilăriei, fiind dificil de corectat ulterior.

Este esențial ca părinții și autoritățile să monitorizeze constant evoluția tehnologică. În final, informarea continuă și o reglementare strictă rămân cele mai eficiente măsuri pentru siguranța celor mici în lumea digitală.