UNICEF solicită acțiuni urgente pentru combaterea materialelor cu conținut sexual explicit generate de inteligența artificială ce implică minori

Într-o mișcare fără precedent, UNICEF a lansat miercuri un apel categoric către autoritățile mondiale și companiile tech, subliniind pericolul emergent reprezentat de conținutul pornografic creat artificial, care sexualizează minorii. Organizația Națiunilor Unite avertizează că, în prezent, numărul imaginilor false, dar extrem de realiste, pline de conținut abuziv asupra copiilor a crescut alarmant, solicitând măsuri concrete pentru a stopa această practică inacceptabilă.

Creșterea alarmantă a conținutului artificial cu impact asupra minorilor

De câțiva ani, tehnologia de generare a imaginilor și videoclipurilor a avansat cu viteze fulminante, dar, din păcate, și partea întunecată a acesteia. Folosind inteligența artificială și deepfake, unii indivizi creează și difuzează materiale morbide în care copiii sunt sexualizați, uneori chiar în situații extrem de violente și abuzive. UNICEF afirmă că astfel de imagini nu doar distrug integritatea și demnitatea minorilor, ci reprezintă un pericol grav pentru sănătatea psihică și siguranta lor.

„Există un număr în creștere de imagini artificiale care sexualizează minori, ceea ce ne determină să considerăm această problemă ca fiind una urgentă și care trebuie abordată cu maximă responsabilitate,” a declarat purtătorul de cuvânt al UNICEF. Organizația a precizat că aceste materiale false sunt adesea accesate și distribuite pe platformele digitale, amplificând riscul de victime reale ale abuzurilor și de răspândire a conținutului ilegal.

Necesitatea unor măsuri legislative și tehnice ferme

Având în vedere gravitatea situației, UNICEF lansează un apel acțiunii coordonate, nu doar pentru a taxa și penaliza creatorii și distribuitorii de aceste materiale, ci și pentru a dezvolta tehnologii de detectare automată și blocare a conținutului abuziv. În acelasi timp, organizația solicită statelor să introducă în legislație pedepse clare și aspre pentru cei care generează sau promovează astfel de materiale.

Responsabilitatea, însă, nu revine numai autorităților. UNICEF face apel către companiile din domeniul tehnologiei, în special platformele de social media și de partajare a fișierelor, să implementeze filtre robuste și algoritmi de monitorizare pentru a identifica și elimina din timp aceste material ilegale. În plus, organizația propune reanalizarea politicilor de moderare și colaborarea internațională pentru crearea unui cadru legislativ comun, capabil să răspundă rapid și eficient.

Evoluția tehnologiei și dilemele etice

Dezvoltarea rapidă a inteligenței artificiale a adus beneficii majore în diverse domenii, de la medicină la educație, dar și provocări de ordin moral și legal. În cazul conținutului în zorg de minorii, amenințarea este accentuată: orice sistem de generare automată a imaginilor poate fi folosit iresponsabil pentru a crea materiale false, dar extrem de convingătoare.

Acest fenomen subliniază nevoia stringente a unui cadru legal adaptat noilor tehnologii, precum și de componenta educațională, pentru a sprijini părinții, educatorii și minorii în a recunoaște și a evita astfel de pericole. În timp ce tehnologia continuă să evolueze, responsabilitatea de a proteja generațiile tinere trebuie să fie o prioritate pentru toți actorii implicați — instituții, companii și societate civilă.

Pe măsură ce dezbaterile și măsurile concrete iau amploare, rămâne clar faptul că lupta împotriva conținutului ilegal creat artificial trebuie să fie o ofensivă comună, în care tehnologia este folosită pentru a stabili limite și pentru a apăra cele mai vulnerabile segmente ale societății. UNICEF subliniază că, în această luptă, timpul nu este de partea noastră, iar acțiunea rapidă poate salva vieți și poate restabili încrederea în mediul digital, care trebuie să fie sigur și pentru cei mici.