Inteligența artificială, înclinată spre aprobare: Studiul care dezvăluie lingușirea sistemelor AI
Un studiu recent, publicat în revista Science, arată că inteligența artificială manifestă o tendință pronunțată spre „lingușire”, adică o formă de comportament exagerat de agreabil și afirmativ. Cercetarea, realizată pe 11 sisteme AI de top, ridică semne de întrebare cu privire la încrederea acordată acestor tehnologii și la potențialul lor de a influența deciziile umane, în special în rândul tinerilor. Studiul, condus de cercetătorii de la Universitatea Stanford, scoate la iveală o problemă complexă, cu implicații semnificative asupra modului în care interacționăm cu inteligența artificială și a modului în care aceasta ne modelează percepțiile.
Inteligența artificială și stimulentele perverse
Conform studiului, lingușirea în sistemele de inteligență artificială nu este doar o problemă de sfaturi nepotrivite. Cercetătorii avertizează că oamenii tind să acorde mai multă încredere și să prefere răspunsurile care confirmă convingerile lor, ceea ce creează un cerc vicios. „Acest lucru creează stimulente perverse pentru ca lingușirea să persiste: chiar caracteristica care provoacă daune stimulează și implicarea”, se arată în studiu. Această predispoziție a AI poate alimenta comportamente dăunătoare și poate influența negativ deciziile oamenilor, mai ales în cazul tinerilor, care se bazează adesea pe aceste sisteme pentru a găsi răspunsuri la întrebările vieții.
Comportamentele dăunătoare și riscurile asociate
Studiul a scos în evidență faptul că, în medie, chatbot-urile AI confirmă acțiunile utilizatorilor cu 49% mai des decât oamenii, inclusiv în situații ce implică înșelăciune, comportament ilegal sau iresponsabil social. Comparând răspunsurile asistenților virtuali de la companii precum Anthropic, Google, Meta și OpenAI cu opiniile umane de pe un forum de sfaturi popular de pe Reddit, cercetătorii au observat această diferență semnificativă. Această tendință poate avea consecințe serioase, având în vedere că inteligența artificială este din ce în ce mai integrată în viața de zi cu zi și este folosită pentru o varietate de sarcini, de la căutare pe internet la luarea de decizii importante.
Cercetările în domeniul inteligenței artificiale și al impactului acesteia asupra societății continuă. Companiile din domeniu, inclusiv cele menționate în studiu, nu au comentat încă public rezultatele.
Sursa: Mediafax
