Conform Mediafax: IA perpetuează și amplifică prejudecățile de gen în poveștile pentru copii
Cercetătorii au descoperit că modelele de inteligență artificială (IA) generative, folosite pentru a crea povești, nu doar reproduc prejudecățile de gen existente în literatura pentru copii, ci le și amplifică. Rezultatele unui studiu recent arată o absență semnificativă a personajelor feminine în poveștile generate automat.
Astfel, dacă oamenii își spun povești de mii de ani pentru a înțelege lumea, a transmite tradiții sau a educa, noile tehnologii par să perpetueze stereotipuri. IA a fost testată prin solicitarea de a scrie povești în limba engleză despre animale vorbitoare, al căror gen nu era specificat inițial. Scopul era de a observa dacă sistemele vor evita atribuirea unui gen sau dacă prejudecățile vor ieși la iveală.
Rezultate îngrijorătoare privind reprezentarea genurilor
Analiza a peste 23.800 de răspunsuri generate de șase modele IA importante – Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și Olmo 3 – a relevat că personajele feminine au fost „practic absente”, apărând în doar 2% dintre povești. În 41% dintre cazuri, personajele au fost descrise ca fiind de sex masculin, în timp ce în 57% dintre situații, modelul a evitat complet atribuirea unui gen.
Aceste cifre sunt în contrast cu datele deja cunoscute despre cărțile pentru copii. O analiză anterioară a 300 de cărți populare a indicat că personajele animale masculine apar de două ori mai des decât cele feminine. În studiul recent, însă, diferența a fost mult mai mare: personajele feminine au apărut în doar 513 povești generate, comparativ cu 9.673 de povești în care personajele erau masculine. Aceasta înseamnă o discrepanță de aproape 19 ori.
IA reflectă și accentuează datele de antrenament
Se cunoaște faptul că modelele IA reflectă datele pe baza cărora au fost antrenate. Totuși, în acest caz, prejudecata pare să fi fost amplificată. Studiul sugerează că modelele IA generative au creat mai puține povești cu personaje animale feminine decât ar fi făcut-o oamenii în aceeași situație.
Pe măsură ce IA devine un instrument tot mai utilizat în diverse domenii, de la scris și programare la cercetare științifică și căutări pe internet, acest studiu reprezintă un avertisment important. El subliniază că prejudecățile și chiar acuratețea acestor modele „inteligente” depind în mare măsură de informațiile pe care le primesc de la oameni.
Sursa: Mediafax
