Un nou raport despre utilizarea chatboților de tip „companion” aduce în prim-plan riscurile asociate conversiilor cu minori în mediul digital. Studiul, realizat de compania de securitate Aura, aduce în evidență faptul că interacțiunile cu aceste aplicații pot deveni, pe un segment important de utilizatori, extrem de violente și periculoase. Pe măsură ce piața chatboților se dezvoltă rapid și fără reglementări clare, îngrijorările legate de impactul asupra sănătății psihice și fizice a minorilor capătă o relevanță majoră.

Cercetarea analizează activitatea online a aproximativ 3.000 de copii din România, utilizatori de aplicații cu control parental. Datele, extrase din conversații de pe aproape 90 de platforme, indică faptul că 42% dintre minori folosesc AI pentru conversații de socializare sau roleplay. Dintre aceștia, 37% au avut interacțiuni cu teme de violență, incluzând chiar violență sexuală. Semnificativ este faptul că jumătate dintre conversațiile violente conțineau elemente de violență sexuală, iar minorii care participau scriau, în medie, peste o mie de cuvinte zilnic, ceea ce sugerează o implicare intensă.

Interesant este faptul că vârsta la care astfel de conversații violente ating un vârf este de aproximativ 11 ani. Această tendință contrastează cu percepția comună, conform căreia astfel de conținuturi apar mai ales la adolescenți maturi. În același timp, cercetările relevă o creștere a interacțiunilor cu teme de flirt și roleplay sexual, care ating un maxim la 13-14 ani. Interactivitatea chatboților devine astfel un factor cheie, deoarece minorii formulează replici, negociază și escaladează scenarii, ceea ce poate avea consecințe neprevăzute pe termen lung.

Piața chatboților de companie este caracterizată de un mediu având puține reguli clare. Conform raportului, peste 250 de aplicații pot fi descărcate cu minim efort, iar filtrarea pentru copiii de 13 ani este simplă. În lipsa unor reguli naționale sau internaționale eficiente, responsabilitatea revine în mare parte părinților și platformelor de control parental. Totodată, rapoartele indică o creștere a proceselor legale, inclusiv împotriva unor platforme precum Character.AI și OpenAI. Aceste litigii vizează acuzații de abuz sexual și emoțional, precum și riscuri de suicid asociate anumitor interacțiuni cu chatboți.

În contextul actual, problemele nu sunt doar legate de conținutul găsit pe internet, ci și de modul în care minori construiesc și internalizează experiențe comune cu sistemele conversaționale. Participarea activă și repetată a copiilor în scenarii violente sau sexuale, elevată în volum și durată, ridică semne de întrebare asupra impactului pe termen lung. De aceea, monitorizarea și ajustarea cadrului legal pentru aceste tehnologii devin prioritare.

Menținerea unei informări continue și verificarea evoluției tehnologiilor de inteligență artificială sunt esențiale pentru protejarea minorilor. Într-un mediu digital în rapidă schimbare, reglementările și responsabilitatea socială trebuie adaptate pentru a răspunde acestor provocări.