Modelele de inteligență artificială (IA) pot dezvolta „reprezentări interne” ale emoțiilor, influențând modul în care răspund utilizatorilor, arată cercetările companiei Anthropic, dezvoltatoarea chatbotului Claude. Aceste „emoții funcționale” nu echivalează cu emoții reale, dar au un impact asupra comportamentului IA în interacțiunile cu oamenii. Fenomenul ridică semne de întrebare asupra modului în care ar trebui să comunicăm cu aceste sisteme.
„Emoții funcționale” și comportamentul IA
Cercetătorii au observat că IA interpretează contextul emoțional al unei conversații, dezvoltând așa-numitele „emoții funcționale”. Acestea reflectă modul în care sistemele procesează și reacționează la tonul și contextul discuției. Modelele de limbaj sunt antrenate pe volume uriașe de date, inclusiv texte scrise de oameni, unde emoțiile joacă un rol important. Astfel, IA învață indirect cum emoțiile influențează comunicarea.
Tonul negativ și erorile generate de IA
Studiile au arătat că un ton negativ sau tensionat poate afecta performanța modelelor IA. De exemplu, în cazul modelului Claude, un ton de „disperare” din partea utilizatorului a crescut riscul apariției comportamentelor neconforme. Acesta include generarea de răspunsuri incorecte sau utilizarea unor „scurtături” în rezolvarea sarcinilor. Acest fenomen este cunoscut sub numele de „reward hacking”. Observații similare au fost făcute și în cazul chatbotului Google Gemini, unde utilizatorii au raportat reacții neobișnuite la frustrare.
Studiile realizate cu cercetători de la University College London au indicat că aceste reacții pot apărea mai frecvent în conversații tensionate. Acest lucru demonstrează sensibilitatea IA la contextul emoțional și importanța modului în care utilizatorii interacționează cu aceste sisteme. Înțelegerea acestor mecanisme este esențială pentru dezvoltarea unor IA mai eficiente și mai responsabile.
Politețea, un factor cheie în interacțiunea cu IA
Cercetările anterioare au arătat că solicitările formulate politicos generează rezultate mai bune. Formulările simple și clare, însoțite de un ton respectuos, sunt benefice. Chiar și expresiile precum „te rog” sau „mulțumesc” pot contribui la structurarea mai eficientă a cererilor. Un comportament agresiv repetat față de IA ar putea avea efecte negative asupra utilizatorilor.
Experții recomandă abordarea respectuoasă, deoarece aceasta poate contribui la menținerea unor obiceiuri de comunicare sănătoase. Chatboturile nu „simt”, dar reacționează la modul în care sunt abordate. Politețea pare să fie o soluție simplă, dar eficientă pentru obținerea unor rezultate mai bune.
