UE interzice AI-ului să genereze imagini intime false: Dezvoltatorii, responsabili pentru conținut
Uniunea Europeană pregătește o nouă lege prin care dezvoltatorii de sisteme de inteligență artificială (AI) vor fi responsabili pentru prevenirea generării de imagini explicite sau intime false. Această inițiativă face parte dintr-un pachet legislativ mai amplu, menit să reglementeze tehnologiile bazate pe inteligență artificială. Scopul principal este protejarea cetățenilor și contracararea abuzurilor posibile prin intermediul acestor instrumente.
Noile reglementări și impactul lor
Conform noilor propuneri legislative, va fi interzisă dezvoltarea și utilizarea sistemelor AI care pot crea imagini explicite sau intime ale unor persoane reale fără consimțământul acestora. Anterior, legislația viza, în principal, utilizatorii care abuzau de aceste tehnologii. Acum, accentul se mută și asupra dezvoltatorilor, care vor trebui să implementeze mecanisme eficiente pentru a preveni generarea unor astfel de conținuturi. „Practic, responsabilitatea cade și pe dezvoltatori, nu doar pe utilizatori”, se menționează în documentele oficiale.
Această schimbare reflectă evoluția rapidă a AI-ului, care a ajuns să producă imagini extrem de realiste, greu de distins de cele autentice. Legislatorii europeni consideră că simpla sancționare a utilizatorilor nu mai este suficientă. Implementarea acestei legi va necesita, probabil, utilizarea unor filtre mai stricte, verificări suplimentare și limitări tehnice ale modelelor AI. Va fi o provocare tehnică majoră, mai ales în ceea ce privește verificarea consimțământului persoanelor reprezentate în imagini.
Scandalul Grok și reacția autorităților
Unul dintre factorii care au accelerat această inițiativă legislativă a fost utilizarea chatbot-ului Grok, dezvoltat de xAI. Platforma a fost folosită pentru a genera imagini intime false, bazate pe fotografii reale ale unor persoane. Această situație a stârnit un val de critici și a determinat compania să limiteze rapid funcțiile presupuse responsabile pentru generarea acestor imagini.
Autoritățile din UE și Marea Britanie au deschis investigații pentru a verifica dacă au fost încălcate legile privind siguranța online și moderarea conținutului. Incidente similare au atras atenția asupra vulnerabilităților și riscurilor asociate cu tehnologiile AI, accelerând procesul de reglementare.
Dacă propunerea legislativă va fi adoptată, dezvoltatorii vor fi obligați să demonstreze că au implementat măsuri clare pentru a preveni generarea de conținut ilegal.
Un purtător de cuvânt al Comisiei Europene a declarat că această reglementare va fi supusă votului în Parlamentul European în următoarele luni.
Sursa: Playtech.ro
