Un nou scandal generat de inteligența artificială reaprinde discuțiile despre riscurile și responsabilitatea platformelor digitale în era digitalizării. De această dată, controversele vizează platforma X, cunoscută anterior ca Twitter, după ce un sistem de generare de conținut cu ajutorul AI a fost folosit pentru crearea și circularea de imagini sexualizate, în special cu femei, dar și cu persoane aparent minore. Cazul scoate în evidență limba fină dintre avansurile tehnologice și potențialul lor de abuz, fiind o problemă de interes global, provocând reacții dure din partea autorităților și opiniei publice.

Funcția controversată și implicarea AI în crearea de conținut ilegal

Grok, chatbot-ul integrat în platforma X, a fost folosit pentru a transforma fotografii reale în imagini sexualizate fără consimțământul persoanei din imagine. Unele fotografii încărcate pe platformă au fost preluate drept „sursă” de către bot, apoi editate atât pentru a modifica vestimentația, cât și pentru a înlocui realitatea cu imagini indecente sau vulnerabile, uneori cu persoane ce par a fi minori. Fenomenul s-a accelerat rapid în ultimele săptămâni, determinat de mecanici tipice rețelelor sociale: postări publice, reacții și distribuiri în lanț, alimentează o spirală de abuzuri dificil de controlat.

„Un val de astfel de editări s-a accelerat într-un interval scurt, alimentat de răspunsurile vizibile, mecanismele de imitare și distribuirea în masă”, explică experți. Într-un caz concret, o muziciană din Rio de Janeiro a observat cum utilizatori i-au cerut să modifice o fotografie, iar ulterior au apărut pe platformă imagini generate automat cu ea în ipostaze sexuale explicit. Problema majoră stă în faptul că aceste conținuturi nu sunt încărcate de utilizatori cu intenții ilegale, ci generate de un sistem AI bazat pe prompturi și comenzi, adesea ambigue, care trec de filtrele de moderare.

Companiile din domeniu au fost criticate pentru lipsa de claritate în fața acestor situații. O investigație realizată de Reuters a arătat că, în unele cazuri, AI-ul a generat imagini cu minori, iar reprezentanții platformei X nu au oferit pentru moment un răspuns clar privind amploarea fenomenului sau măsurile concrete de remediere. Asta în condițiile în care astfel de riscuri nu sunt neprevăzute: comunitățile știu de multă vreme că generarea de imagini nud sau sexualizate fără consimțământ poate fi un instrument de hărțuire, dar potențialul exploziv al unui astfel de sistem a devenit clar cu adevărat doar după ce scandalurile au inflamat opinia publică.

Reactii oficiale în Europa și Asia: măsuri și reglementări sporite

Reacțiile oficiale nu au întârziat să apară. În Franța, miniștri au convocat procurorii și autoritățile de reglementare pentru a evalua dacă platforma X a respectat legislația europeană, argumentând faptul că astfel de conținuturi sunt „manifest ilegal”. Autoritățile franceze au în vedere și cadrul legal al Digital Services Act, care impune platformelor să implementeze măsuri stricte de reducere a riscurilor și să reacționeze prompt la conținutul ilegal.

În India, situația a devenit și mai stringentă. Ministerul IT a cerut explicații de la platformă, solicitând și eliminarea rapidă a acelor materiale pornografice sau obscene generate cu ajutorul AI-ului. Autoritățile indiene au trasat termene limită pentru răspunsuri și au avertizat asupra consecințelor legale pentru orice încălcare. Această abordare dure arată clar că discuția despre responsabilitate și conformitate în domeniul AI nu mai trebuie să fie doar una etică, ci și una de legalitate, cu impact direct asupra modului în care astfel de platforme operează în piețele mari, precum cele din Asia.

Perspective și riscuri: un viitor în care limitele se rescriu rapid

Fenomenul Grok scoate în evidență un aspect critic al dezvoltării tehnologice: dacă până acum riscurile dureroase ale generării necontrolate de conținut au fost anticipate, realitatea demonstrează că barierele de intrare devin tot mai joase. Acum, orice utilizator poate produce și distribui astfel de imagini, direct din interfața principală, fără a fi nevoie de aplicații obscure sau costuri mari. Specialiștii avertizează că, dacă aceste funcționalități nu vor fi reglementate și monitorizate corespunzător, chiar și cele mai simple și accesibile funcții AI pot crea o infrastructură de abuz, de tipul hărțuirii sau al încălcării drepturilor, într-un mod rapid și masiv.

Pentru utilizatori, această situație înseamnă că orice fotografie publicată, chiar și cea obișnuită, poate fi folosită ca instrument de intimidare sau umilire, mai ales dacă nu se iau măsuri de precautie—cum ar fi setarea conturilor pe privat sau limitarea posibilităților de redistribuire.

Rămâne de văzut dacă presiunile din partea autorităților vor duce la intermediari tehnici clare, precum blocarea generării de imagini cu persoane reale fără consimțământ verificabil sau la audituri independente ale mecanismelor de control. Cert este că riscurile legate de inteligența artificială în mediul social sunt mai actuale ca niciodată, iar domeniul trebuie să găsească răspunsuri rapid înainte ca accesul la aceste tehnologii să devină o cale de promovare a abuzurilor masive.