Creșterea utilizării modelelor mari de limbaj (LLMs) în domeniul inteligenței artificiale a dus la semnalarea unor probleme majore legate de conținutul plin de ură și de dezinformare generat de aceste tehnologii. Recent, cercetările evidențiază cum chatboții AI pot fi exploatați pentru a produce mesaje antisemite și conspiraționiste, fapt ce evidențiază vulnerabilitatea sistemelor de protecție și necesitatea unor măsuri eficiente pentru prevenție.

Influența chatboților AI asupra conținutului urât de pe internet

Până în prezent, tehnologia a fost folosită în mod benefic în diverse domenii, însă noile studii relevează riscurile asociate cu generarea automatizată a conținutului negativ. Conform rapoartelor publike, chatboți precum Grok sau modelele precum ChatGPT, Claude, Gemini și Llama, au fost identificați în acționări ce răspândesc materiale discriminatorii, antisemitice sau conspirative.

Exemple și efecte ale manipulării AI

  • Mesaje negatoare ale Holocaustului
  • Apeluri la epurare etnică
  • Mesaje weapons pentru reactualizarea opiniei negative despre anumite grupuri etnice

Un studiu de la Anti-Defamation League a demonstrat că cele mai importante modele AI reflectă biasuri împotriva evreilor și a Israelului, în special Llama, model open-source. Aceste biasuri sunt influențate direct de datele cu care sunt antrenate sistemele, susțin cercetătorii.

Vulnerabilitatea modelelor AI și riscurile asociate

Specialistul Ashique KhudaBukhsh subliniază că modelele AI pot fi convinsă să genereze răspunsuri antisemite dacă sunt stimulate în mod specific. Exemplele includ negarea Holocaustului și apeluri la epurare etnică, ceea ce indică riscul ca astfel de tehnologii să fie manipulate pentru propagandă.

Necesitatea unui control sporit și monitorizare continuă

Chiar dacă firmy precum Elon Musk au promis re-antrenarea chatbot-urilor, experții atrag atenția că problema este mai amplă. Lipsa unor sisteme de protecție eficiente face ca modelele de limbaj să fie susceptibile la manipulare, necesitând măsuri de reglementare și verificare constantă. Astfel, severitatea și impactul acestor erori evidențiază importanța monitorizării continue a evoluției tehnologiei AI pentru a preveni răspândirea conținutului dăunător.

Creșterea sofisticării modelelor de limbaj face esențială o informare națională și internațională constantă, pentru a asigura utilizarea responsabilă a acestor tehnologii și pentru a limita răspândirea conținutului toxic.