Atenție la sfaturile medicale oferite de inteligența artificială: studiile arată riscuri
Noi cercetări ridică semne de întrebare serioase cu privire la fiabilitatea informațiilor medicale furnizate de sistemele de inteligență artificială. Două studii, publicate recent în jurnalele de specialitate, indică faptul că, deși chatboții pot genera răspunsuri convingătoare, aceștia pot oferi recomandări eronate și pot fi induși în eroare de informații false. Utilizatorii sunt sfătuiți să fie precauți și să verifice informațiile obținute din aceste surse.
Limbajul medical poate induce în eroare sistemele de inteligență artificială
Un studiu publicat în The Lancet Digital Health a analizat modul în care modelele de inteligență artificială răspund la dezinformarea medicală. Cercetătorii au testat 20 de modele AI, utilizând peste 3,4 milioane de solicitări inspirate din discuții reale de pe forumuri, rețele sociale și documente medicale modificate. Rezultatele au arătat că sistemele AI pot fi afectate de limbajul utilizat în prezentarea informațiilor.
De exemplu, dacă o afirmație falsă este formulată într-un stil informal, similar conversațiilor de pe internet, chatboții manifestă mai mult scepticism. Situația se schimbă atunci când aceeași informație este prezentată într-un limbaj medical. În astfel de cazuri, modelele AI acceptă mai ușor afirmațiile, repetând recomandări greșite. „Problema principală este modul în care aceste modele livrează informația”, a explicat Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului. Spre deosebire de un medic, care își exprimă incertitudinea sau recomandă investigații suplimentare, un chatbot poate prezenta un răspuns greșit cu aceeași siguranță cu care ar prezenta unul corect.
Chatboții medicali: utilitate limitată comparativ cu o simplă căutare online
Un alt studiu, publicat în Nature Medicine, a analizat utilitatea chatboților în luarea deciziilor medicale. Concluzia a fost că, în multe situații, răspunsurile generate de inteligența artificială nu oferă mai multă claritate decât o simplă căutare pe internet. Studiul a arătat că utilizatorii nu formulează întotdeauna corect întrebările, iar răspunsurile pot combina informații corecte cu recomandări discutabile.
Marvin Kopka, cercetător la Technical University of Berlin, a subliniat faptul că aceste sisteme nu sunt complet inutile, putând oferi uneori sugestii utile. Totuși, „persoanele fără pregătire medicală nu au întotdeauna posibilitatea de a evalua dacă informația primită este corectă sau nu”, a spus Kopka. Acest lucru poate fi periculos. Un utilizator care întreabă despre o durere severă de cap ar putea primi recomandarea de a aștepta înainte de a merge la medic, fără să știe dacă simptomele ar putea indica o problemă gravă. Studiul a subliniat importanța verificării informațiilor medicale cu surse calificate.
În contextul acestor rezultate, autoritățile medicale și organizațiile de sănătate publică din întreaga lume analizează modalități de a informa publicul cu privire la limitele și riscurile utilizării inteligenței artificiale în domeniul medical. Centrele pentru Controlul și Prevenirea Bolilor (CDC) din Statele Unite ale Americii au anunțat că vor intensifica campaniile de educație pentru a crește gradul de conștientizare cu privire la importanța consultării cu profesioniștii din domeniul medical pentru orice problemă de sănătate.
Sursa: Playtech.ro
