Inteligența artificială (AI) aplicată în sistemul medical a cunoscut o dezvoltare rapidă în ultimele decenii, influențând modul în care sunt realizate diagnosticarea, tratamentele și gestionarea datelor medicale. Totuși, această accelerare ridică probleme legate de responsabilitate, siguranță și reglementare, fiind subiecte de actualitate în discuțiile din domeniu.

Un raport recent, rezultat în urma summitului Jama on Artificial Intelligence, evidențiază riscuri majore în utilizarea AI în sectorul medical, în special în stabilirea vinovăției în cazurile de erori medicale.

Unul dintre cele mai importante aspecte urmărite este dificultatea determinării vinovaților atunci când apar rezultate negative. Profesorul Derek Angus, de la Universitatea din Pittsburgh, atrage atenția asupra complicatiilor în a stabili cine trebuie considerat responsabil, pe măsură ce AI devine parte integrantă a practicii clinice.

Conform raportului publicat de Journal of the American Medical Association, transparența algoritmilor și modul lor de funcționare influențează direct capacitatea pacienților de a demonstra vina pentru eventuale daune.

De asemenea, lanțul de responsabilitate poate deveni nesigur între medic, compania dezvoltatoare și spitale, contractele actuale adesea limitând răspunderea juridică.

Lipsa unui cadru coerent de testare și reglementare pentru instrumentele AI utilizate în diagnosticare și gestionarea datelor medicale este o problemă majoră. Multe dintre aceste tehnologii funcționează în afara controlului direct al agențiilor de reglementare, precum FDA, în Statele Unite.

Profesorul Michelle Mello, de la Stanford Law School, subliniază că procesul juridic pentru dispute legate de AI în sănătate va fi lent și costisitor, ceea ce poate inhiba inovația.

Eficiența reală a acestor tehnologii nu este încă pe deplin evaluată, iar variațiile mediului clinic și ale experienței utilizatorilor pot influența performanța aplicațiilor AI. PowerPointurile și analizele de fază pre-aprobare nu reflectă întotdeauna condițiile din practică.

Raportul recomandă investiții în infrastructură digitală și în evaluare continuă a performanței AI în sănătate pentru a asigura echilibrul între inovație și responsabilitate.

Se remarcă necesitatea unei monitorizări constante a evoluției tehnologiilor AI în sănătate și a unor reglementări adaptate pentru a preveni riscurile legale și etice.

În ansamblu, responsabilitatea în utilizarea AI în medicină rămâne o preocupare majoră. În lipsa unor reglementări clare și a unei monitorizări continue, aplicarea acestor tehnologii va necesita o atenție sporită pentru a asigura siguranța pacienților și transparența.