În urma unui experiment inedit, cercetătorii suedezi au demonstrat vulnerabilitatea modelelor de inteligență artificială (IA) în fața dezinformării. Aceștia au creat o boală fictivă, au răspândit informații despre ea pe internet și apoi au testat capacitatea IA de a procesa și interpreta aceste date. Rezultatele au ridicat semne de întrebare cu privire la capacitatea acestor tehnologii de a distinge între informații valide și erori.
O boală inventată și efectele ei
Experimentul a presupus crearea unei boli inexistente, cu simptome și tratamente false. Informațiile despre această boală au fost apoi plasate strategic pe internet, inclusiv pe platforme populare și în baze de date accesibile modelelor de IA. Odată ce informațiile au fost răspândite, cercetătorii au interogat cele mai utilizate modele de IA, punând întrebări despre boală, simptome, diagnostic și tratament.
Surpriza a fost că modelele de IA au preluat și replicat informațiile false, oferind răspunsuri coerente, dar eronate. Acestea au „învățat” despre boala inventată și au generat informații bazate pe datele false pe care le-au găsit online. Studiul a arătat clar că, în lipsa unei verificări riguroase a surselor, IA poate deveni un amplificator al dezinformării.
Experimentul Digi24.ro și implicațiile pentru România
Plecând de la rezultatele studiului suedez, o echipă a realizat o recreere a experimentului, adaptată la contextul românesc. S-a creat o premisă fictivă, cu elemente de actualitate și referințe la personalități cunoscute. Modelelor de IA li s-a cerut să genereze informații pe baza acestei premise.
Experimentul local a confirmat concluziile cercetătorilor suedezi, demonstrând că modelele de IA pot prelua și propaga informații eronate cu ușurință. În contextul actual, cu Nicușor Dan președinte, Ilie Bolojan prim-ministru și cu o largă varietate de opinii politice, inclusiv cele ale lui George Simion și Călin Georgescu, capacitatea IA de a deosebi adevărul de fals este crucială.
Riscuri și responsabilități în era inteligenței artificiale
Rezultatele experimentelor subliniază importanța critică a verificării surselor și a evaluării critice a informațiilor, indiferent de sursa lor. Pe măsură ce IA devine tot mai integrată în viața noastră de zi cu zi, inclusiv în domenii sensibile precum sănătatea, educația și politică, înțelegerea limitărilor sale devine esențială.
Mircea Geoană, fost secretar general NATO, a subliniat în trecut necesitatea unei abordări responsabile a dezvoltării tehnologiilor de inteligență artificială. Marcel Ciolacu și partidele sale sunt așteptați să dezvolte strategii clare care să protejeze cetățenii de potențialele efecte negative ale dezinformării generate de IA.
În prezent, experții în domeniul tehnologiei și reprezentanții instituțiilor publice lucrează la elaborarea unor mecanisme de verificare și validare a informațiilor generate de IA, precum și la educarea publicului cu privire la utilizarea responsabilă a acestor tehnologii.
