Conform HotNews: Accesul la inteligența artificială, precum chatbot-urile, poate diminua capacitatea umană de a recunoaște propriile limite cognitive, ducând la o supraestimare a cunoștințelor și la o scădere a acurateței în luarea deciziilor, arată un studiu recent. Participanții expuși la răspunsurile unui chatbot, chiar și unul defectuos, au devenit mult mai încrezători în propriile lor răspunsuri, deși acuratețea acestora a scăzut dramatic.
AI slăbește metacoqniția umană
Cercetarea, realizată de echipe de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza, a implicat peste 3.000 de persoane în cinci experimente. Scopul a fost de a investiga modul în care inteligența artificială influențează criteriile pe care oamenii le folosesc pentru a decide dacă pot sau nu să răspundă la o întrebare. Participanților li s-au adresat întrebări dificile, cu posibilitatea de a spune „nu știu”. Un grup a avut acces la un chatbot AI, în timp ce altul nu.
Pentru a izola efectul psihologic al prezenței AI, cercetătorii au ales întrebări specifice, vizând detalii din filme, domenii în care modelele lingvistice tind să genereze informații incorecte, cunoscute sub numele de „halucinații”. Mai mult, a fost selectat intenționat un model AI care greșea frecvent, pentru a elimina posibilitatea ca participanții să-și explice încrederea prin recursul la o sursă, în general, competentă.
Rezultatele au fost clare: în absența AI, 44% dintre participanți au preferat să admită că nu știu. Odată cu accesul la chatbot, acest procent a scăzut drastic la doar 3%. În paralel, acuratețea răspunsurilor a scăzut semnificativ, în timp ce încrederea participanților în propriile judecăți a aproape s-a dublat. Mai exact, oamenii au răspuns mai des, au greșit mai mult, dar au fost mult mai convinși că au dreptate.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Rolul metacoqniției și aparența de siguranță a AI
Studiul se concentrează pe impactul AI asupra metacoqniției, capacitatea de a ne evalua propriile cunoștințe și de a determina când dispunem de informații suficiente pentru a oferi un răspuns. Metacoqniția este esențială pentru a distinge între „știu”, „cred că știu” și „nu știu”. Fără acest mecanism, indivizii devin mai vulnerabili la erori și la formularea de concluzii pripite, riscând să „halucineze” răspunsuri cu o încredere similară cu cea afișată de modele precum ChatGPT.
Autorii studiului subliniază că fascinația pentru răspunsurile AI nu provine neapărat din acuratețea lor, ci din modul convingător în care sunt formulate. Chatbot-urile generează text fluent, coerent și fără ezitări, iar creierul uman poate confunda această siguranță aparentă cu o dovadă a corectitudinii informației. În loc să verifice veridicitatea, oamenii ajung să accepte răspunsurile AI pe baza formulării și plauzibilității lor.
Spre deosebire de om, care poate alege să nu răspundă și să-și suspende judecata, un model lingvistic este conceput să genereze un răspuns la aproape orice solicitare. Chiar și în absența informațiilor complete, acesta produce cea mai probabilă continuare a textului, fără a putea evalua sincer propriile limite. Astfel, obișnuința de a delega astfel de decizii unui sistem care rareori admite incertitudinea poate duce la adoptarea unui comportament similar din partea utilizatorilor.
Studiul mai relevă că AI poate determina oamenii să renunțe la răspunsuri corecte, bazate pe propria judecată, înlocuind raționamentul propriu cu unul eronat, dar prezentat cu suficientă convingere. Acest fenomen este remarcabil, având în vedere scepticismul natural al oamenilor față de sfaturi externe. În mod obișnuit, un punct de vedere diferit este analizat critic, nu adoptat imediat. În experiment, chiar și atunci când răspunsul AI contrazicea convingerile preexistente ale participanților, acesta nu a generat prudență, ci, dimpotrivă, a sporit încrederea în corectitudinea răspunsului final.
Sursa: HotNews
