Inteligența artificială din spitale poate „aluneca" fără să observe nimeni. Cine ar trebui să răspundă?

Sistemele de inteligență artificială implementate în spitale pentru diagnosticare, triaj sau gestionarea fluxurilor de pacienți nu rămân statice odată puse în funcțiune. Ele pot suferi un fenomen cunoscut drept „drift" – o deviere treptată a performanței față de parametrii inițiali, cauzată de schimbări în populația de pacienți, în practicile clinice sau chiar în modul în care personalul introduce datele. Problema, potrivit unui text de opinie publicat de STAT News AI, este că foarte puține instituții medicale monitorizează activ acest fenomen.

Guvernanța trimestrială nu mai este suficientă

Autorii materialului, medicii Peter Pronovost, Justin Norden și Kedar Mate, susțin că modelul actual de supraveghere – în care un comitet tehnic analizează performanța sistemelor AI o dată la trei luni – este depășit de ritmul real al schimbărilor operaționale. Potrivit STAT News AI, guvernanța algoritmilor medicali „trebuie tratată ca o responsabilitate zilnică" a conducerii spitalelor, nu ca un subiect punctual de agendă.

Argumentul central este că un algoritm validat inițial pe un anumit set de date poate începe să producă rezultate mai puțin fiabile atunci când condițiile din teren se schimbă – de exemplu, apariția unei noi variante virale, modificarea protocoalelor de tratament sau chiar actualizări ale echipamentelor medicale care alimentează sistemul cu date. Fără o monitorizare constantă, aceste devieri pot trece neobservate luni de zile, cu potențiale consecințe asupra deciziilor clinice bazate pe recomandările algoritmilor.

Responsabilitatea liderilor executivi

Un aspect central al opiniei exprimate este mutarea responsabilității către conducerea executivă a spitalelor, nu doar către departamentele IT sau echipele tehnice specializate în AI. Autorii sugerează că directorii medicali și administrativi ar trebui să integreze verificarea performanței algoritmilor în rutina lor de management, similar modului în care se monitorizează alți indicatori critici de siguranță a pacientului.

Textul publicat de STAT News AI se înscrie într-o dezbatere mai amplă privind reglementarea inteligenței artificiale în sănătate, pe măsură ce tot mai multe instituții medicale din întreaga lume adoptă astfel de tehnologii fără a avea încă standarde clare de supraveghere continuă. Autorii nu oferă o soluție tehnică unică, ci mai degrabă un apel la schimbarea culturii organizaționale din spitale, astfel încât monitorizarea AI să devină parte din activitatea zilnică a leadership-ului, și nu un exercițiu administrativ periodic.

Deocamdată, opinia rămâne un semnal de alarmă mai degrabă decât un ghid practic, însă ridică o întrebare pe care tot mai multe sisteme medicale vor trebui să o abordeze: cine este, de fapt, responsabil când un algoritm medical începe să greșească treptat, iar nimeni nu observă la timp?