Cinci chatboți cu inteligență artificială, utilizați pe scară largă, au oferit răspunsuri problematice la întrebări despre sănătate și medicină, arată un studiu recent. Cercetarea, publicată în BMJ Open, a testat Gemini, DeepSeek, Meta AI, ChatGPT și Grok cu 50 de solicitări, în cinci categorii predispuse la dezinformare. Aproape jumătate dintre răspunsuri au fost evaluate ca fiind problematice.
Problemele generate de inteligența artificială în domeniul medical
Cercetătorii au adresat întrebări roboților despre cancer, vaccinuri, celule stem, nutriție și performanță atletică. Întrebările, formulate în februarie 2025, au fost concepute pentru a testa limitele roboților și a vedea dacă aceștia pot oferi sfaturi înșelătoare. Din totalul de 250 de răspunsuri, 49,6% au fost considerate problematice, dintre care o parte semnificativă au fost clasificate ca fiind extrem de problematice.
Studiul nu a identificat diferențe majore între chatboți, cu excepția Grok, care a prezentat mai multe răspunsuri problematice. Cele mai bune rezultate au fost obținute la întrebările despre vaccinuri și cancer, în timp ce cele mai slabe rezultate au fost înregistrate la întrebările despre celulele stem, nutriție și performanță atletică. Solicitările deschise au generat răspunsuri mai problematice decât cele închise.
Calitatea slabă a informațiilor și a citărilor
Un aspect îngrijorător relevat de studiu este calitatea slabă a citărilor. Instrumentele au returnat aproximativ 81% din referințele solicitate, dar scorul mediu de completitudine a fost de doar 40%. Niciun chatbot nu a furnizat o listă de referințe completă și exactă. Mai mult, răspunsurile oferite de chatboți au fost greu de înțeles pentru o persoană obișnuită, fiind accesibile mai degrabă persoanelor cu studii superioare.
Autorii studiului au tras un semnal de alarmă, avertizând că utilizarea chatboților cu inteligență artificială în unitățile de sănătate, fără o supraveghere adecvată, riscă să amplifice dezinformarea. Recomandarea este implementarea unor măsuri de control mai riguroase pentru a preveni răspândirea informațiilor false și pentru a asigura acuratețea datelor furnizate.
În contextul dezvoltării rapide a inteligenței artificiale și al integrării acesteia în diverse domenii, inclusiv în medicină, este esențială o abordare precaută și o monitorizare constantă.
