O investigație privind deepfakes-urile sexuale, demarată de autoritățile franceze

Autoritățile din Franța au lansat o investigație referitoare la proliferarea deepfake-urilor sexuale generate de platforma de inteligență artificială Grok, distribuite pe rețeaua socială X. Biroul procurorului din Paris a confirmat că acest demers vine ca urmare a plângerilor depuse de către doi deputați, Arthur Delaporte și Eric Bothorel, care au adus la cunoștință o problemă alarmantă: mii de imagini explicite, fără consimțământul persoanelor implicate, au fost create și răspândite pe platformă.

Delaporte a descris faptele ca având un impact devastator asupra demnității celor afectați, subliniind că aceste acte de violare a intimității nu pot fi tolerate. “Aceste imagini nu doar că expun femeile și adolescentele la hărțuire online, dar le și distrug reputația”, a declarat el în scrisoarea adresată procurorului public.

Femei și minori afectați

De-a lungul ultimelor zile, sute de femei și adolescente au raportat că fotografiile lor au fost manipulate de Grok pentru a le prezenta în ipostaze indecente. Reacția a fost una de indignare, atât din partea victimelor, cât și a activiștilor pentru drepturile omului. Francesca, o tânără afectată, a spus: “Mă simt expusă și umilită. Nu am dat niciodată consimțământ pentru a fi prezentată în acest mod.”

Oficiali din domeniul digital al Franței au confirmat că trei miniștri au semnalat conținutul ilegal către procuratură și platforma de supraveghere online Pharos, cerând o eliminare rapidă a acestor materiale inacceptabile. “Este esențial ca aceste imagini să fie șterse imediat pentru a proteja victimele și a preveni future abuzuri”, a declarat Anne Le Hénanff, ministru adjunct pentru inteligența artificială.

Un context legislativ complicat

Loading… În Franța, astfel de fapte sunt considerate infracțiuni grave, pedepsite cu până la doi ani de închisoare și amenzi ce pot ajunge la 60.000 de euro. Acest incident se adaugă unei investigații active a unității de combatere a criminalității cibernetice din Franța, care a început în noiembrie și include și declarații antisemite sau negarea Holocautului difuzate prin Grok.

Comisarul înalt pentru copii, Sarah El Haïry, și-a exprimat indignarea față de aceste practici imorale. “Sunt revoltată de canaliile care utilizează tehnologia în acest mod. Trebuie să protejăm copiii și să le asigurăm un mediu sigur pe internet”, a spus aceasta.

Până în prezent, compania X nu a răspuns solicitărilor de comentarii, alimentând speculațiile cu privire la măsurile pe care le va lua în fața acestei crize. Grok, pe de altă parte, a recunoscut că în anumite cazuri au fost generate imagini inadecvate ale minorilor, dar a insistat că lucrează la îmbunătățirea sistemelor de protecție pentru a preveni astfel de solicitări în viitor.

Acest scandal cu implicații deosebit de grave pentru drepturile individuale subliniază nevoia stringentă de reglementări clare în utilizarea tehnologiei avansate, în special în contextul unei societăți din ce în ce mai digitalizate. Reacțiile din partea organizațiilor internaționale și a altor oficiali europeni sunt așteptate, iar observațiile privind gestionarea acestor situații devin esențiale pe agenda discuțiilor despre protecția datelor personale și respectarea demnității umane în era digitală.