Ofcom a luat măsuri urgente în urma unor raportări alarmante privind utilizarea asistentului AI Grok, dezvoltat de compania lui Elon Musk, xAI. Se pare că acest instrument poate genera „imagini sexualizate ale copiilor” și poate modifica fotografii ale femeilor astfel încât acestea să apară în ipostaze indecente, fără consimțământul lor. Un purtător de cuvânt al Ofcom a confirmat că autoritatea britanică investighează aceste acuzații, care subliniază o problemă tot mai mare a eticii digitale și a siguranței online.
Scandalul imaginilor indecente
Mai multe exemple de utilizare abuzivă a Grok au fost documentate pe rețeaua socială X, unde utilizatorii au cerut chatbot-ului să modifice imagini reale pentru a le arăta pe femei purtând costume de baie sau în situații sexuale. Deosebit de şocante sunt imaginile generate, inclusiv cele ale Catherinei, Prințesă de Wales, care au fost expuse fără acordul ei. Această practică nu doar că violează intimitatea, dar ridică întrebări serioase cu privire la legalitatea acestor acțiuni.
„M-am simțit dehumanizată și redusă la un stereotip sexual”, a declarat jurnalista Samantha Smith, care a descoperit că Grok a creat imagini cu ea în costum de baie. Aceasta a subliniat faptul că, deși nu era vorba despre ea în mod direct, imaginile au avut un impact emoțional devastator.
Reacția autorităților
În fața acestor acuzații, Ofcom a contactat xAI pentru a solicita detalii suplimentare. De asemenea, Uniunea Europeană a anunțat că investighează problema, iar autoritățile din Franța, Malaysia și India sunt de asemenea implicate în evaluarea situației. „Acest lucru este ilegal”, a declarat un purtător de cuvânt al Comisiei Europene, subliniind că astfel de conținuturi nu au ce căuta în societatea europeană.
Deși Ofcom a primit diverse plângeri din partea publicului, Organizația de Supraveghere a Internetului din Marea Britanie a menționat că nu au întâlnit, până acum, imagini care să fie considerate abuz sexual asupra copiilor conform legislației britanice. Totuși, îngrijorările persistă, iar reglementările se dovedește a fi insuficiente pentru a aborda rapid și eficient această problemă.
Conținut inacceptabil și reacții internaționale
Elon Musk a participat activ la discuție, subliniind că orice utilizator care solicită generarea de conținut ilegal va suporta aceleași consecințe ca și în cazul încărcării directoare a unui astfel de conținut. Deși regulile interne ale xAI interzic în mod explicit crearea de conținut pornografic care implică persoane, utilizarea Grok pentru a „deshabilla” oameni fără consimțământ rămâne o problemă flagrantă.
Dame Chi Onwurah, președinta Comitetului pentru Știință, Inovație și Tehnologie, a calificat aceste incidente drept „profund îngrijorătoare” și a criticat eficiența slăbită a Actului de Siguranță Online. Aceasta a solicitat guvernului să adopte măsuri pentru a asigura o mai mare responsabilitate din partea platformelor sociale.
În prezent, se preconizează că legislatorii din Marea Britanie vor introduce măsuri stricte împotriva instrumentelor de nudificare, iar oricine va oferi tehnologie aflată în strânsă legătură cu această temă ar putea înfrunta pedepse severe, inclusiv închisoarea.
Pe fundalul acestor scandaluri, viitorul tehnologiei AI și al reglementărilor asociate devine tot mai incert, lăsând în urmă întrebări esențiale despre cum poate societatea să protejeze drepturile individuale într-o lume digitală în continuă expansiune.
Sursa: BBC
