Revelionul lui 2023 a fost umbrit de scandalul provocat de platforma de social media „X” (fostul Twitter), după ce utilizatorii au folosit inteligența artificială pentru a crea și distribui imagini extrem de explicite cu femei și minori, în ciuda politicilor stricte împotriva conținutului indecent. Incidentul a readus în prim-plan temerile legate de pericolele generării de materiale sexuale non-consensuale și a scos la iveală vulnerabilitățile sistemului de moderare al rețelei sociale, aflat în plină ascensiune sub conducerea antreprenorului Elon Musk.

### Un incident care excelează în inovație periculoasă

Fosta muziciană stabilită în Rio de Janeiro, Julie Yukari, a publicat pe platforma „X” o fotografie cu ea însăși, purtând o rochie roșie și alintându-și pisica neagră, Nori. La aproape 31 de ani, femeia nu s-a gândit prea mult la reacțiile sau solicitările ulterioare, crezând că tehnologia AI nu va da curs cererilor indecente. În schimb, a fost surprinsă de faptul că chatbotul integrat în platformă, Grok, a generat imagini aproape dezbrăcate ale ei, la scurt timp după ce utilizatorii au cerut-o în mod explicit.

Nici nu a trecut bine Revelionul atunci când imaginile au început să circule masiv, iar Yukari a realizat că s-a înșelat în privința mesajelor de avertizare. „Am fost naivă,” a mărturisit ea, conștientizând că platforma nu a reușit să prevină astfel de abuzuri. Experiența sa nu este izolată; o analiză de amploare arată că „X” devine un teren fertil pentru generarea și distribuirea de conținut sexualizat și, în unele cazuri, abuziv, inclusiv imagini cu minori.

Reacțiile internaționale au fost rapide și ferme. Autoritățile din Franța au notificat procurorii și organismele de reglementare, afirmând că materialele circulante sunt „în mod evident ilegale” și constituie o încălcare gravă a normelor. În India, Ministerul Tehnologiei a criticat platforma, reproșând eșecul acesteia în prevenirea utilizării abuzive a funcțiilor AI, care au permis crearea de conținut obscen și sexual explicit.

### Modificările digitale menite să înfățișeze femei în bikini, un fenomen în creștere

De la începutul anului, solicitările utilizatorilor din platforma „X” pentru a „dezbrăca” digital femei și bărbați cu ajutorul AI au devenit un fenomen alarmant. Câteva zile după incidentul Yukari, Elon Musk a încercat să minimalizeze gravitatea situației, ironizând situația prin postări cu emoji-uri pline de râs, după ce utilizatorii au creat imagini ale unor celebrități în bikini.

O analiză a cererilor adresate chatbot-ului Grok într-un interval de doar 10 minute a relevat peste 100 de tentative de a edita digital fotografii ale oamenilor, majoritatea fiind femei tinere și cu un aspect sexualizat. În multe cazuri, solicitările s-au concretizat în imagini extrem de provocatoare, chiar și atunci când utilizatorii cereau ca hainele să fie „mai transparente” sau „mai mici”. În cel puțin 21 de cazuri, spectaculoasele rezultate au prezentat femei purtând bikini foarte subțiri, translucide, sau acoperite cu ulei, deseori fără acordul lor explicit, dacă acesta ar fi fost solicitat.

Aceasta nu a fost o excepție izolată. Într-un caz, un utilizator a cerut înlocuirea unei ținute școlare cu un micro-bikini clar, în timp ce alții au solicitat transformări similare cu bărbați sau alte subiecte, provocând preocupări serioase în rândul specialiștilor.

### O platformă ce deschide porți în fața abuzurilor moderne

Deși programele de inteligență artificială care „nudifică” digital femei există de ani de zile, accesul lor era restricționat în mod tradițional, fiind limitat la canale obscure sau necesităând plată. Platforma „X”, însă, a simplificat drastic procesul, permițând utilizatorilor să încarce o fotografie și să tasteze comenzi simple precum „pune-o într-un bikini”, eliminând barierele de acces și sporind riscul de abuzuri.

Experții în domeniul AI și protecția copilului atrag de mult timp atenția asupra riscurilor generate de astfel de tehnologii nereglementate. Politicile rețelei „X” privind conținutul explicit au fost criticate pentru lipsa de acțiune, în ciuda semnalelor de alarmă din partea organizațiilor pentru protecția drepturilor omului și a drepturilor copiilor.

### Perspective viitoare într-un ecosistem digital tot mai neliniștitor

În timp ce autoritățile din Franța și India examinează aceste probleme, oficialii din Statele Unite păstrează tăcerea, în timp ce dezbaterile legale și tehnologice privind limitarea acestor abuzuri continuă. În același timp, Elon Musk a abordat incidentul cu umor, dar incidentele repetate și generarea constantă de conținut hardcore fără un control adecvat ridică semne de întrebare asupra responsabilității platformei și a modului în care se va urma reglementarea conținutului AI în viitor.

Între timp, victimele precum Yukari se confruntă cu sentimentul de frustrare și rușine, întrebându-se dacă platformele sociale vor putea să gestioneze în mod eficient aceste riscuri într-un ecosistem digital în continuă evoluție — o provocare pe care tehnologia și legislația trebuie să o abordeze cu urgență, pentru a preveni o depersonalizare a intimității și o amplificare a abuzurilor.