In questa puntata di Devs meet Ethics – Vorrei un secondo consulto, sui canali di Codemotion Italia si è parlato, con Ester Liquori, di come la Intelligenza Artificiale è applicata nel mondo della medicina. Un tema critico, perché un errore non è banale e può costare la vita di un paziente.
Ricordiamo sempre che una AI deve essere a supporto del medico e mai un sostituto, ma la realtà non sempre va a braccetto con l’idea iniziale. In un caso, su cui ho lavorato direttamente, si è definito che nessun medico potesse sapere la decisione della macchina prima della sua diagnosi. La diagnosi della macchina non era visibile al medico in nessun caso. Se la macchina fosse non concorde con la diagnosi del medico, un altro medico sarebbe stato interpellato per un ulteriore giudizio, in modo anonimo.
La paura degli organi preposti al controllo è la de-responsabilizzazione del medico e, peggio ancora, la sua assenza. La possibilità che chiunque chieda alla macchina una diagnosi per iniziare una terapia. I limiti delle AI sono noti: qualunque cosa analizzi la catalogherà come una delle nozioni apprese. Avrebbe enormi difficoltà a capire che si trova davanti a una situazione nuova.
Inoltre una macchina dovrebbe essere in grado di analizzare tanti altri fattori che semplici lastre o valori degli esami: la parte di ascolto, di osservazione del paziente, di correlazione, di empatia. A suo vantaggio avrebbe il non farsi influenzare dalle stesse, e non cadere nei bias che un essere umano ha.
AI e medicina, tanti vantaggi
Uno studio pubblicato in Cina ha mostrato che un medico e una AI danno risultati migliori se collaborano insieme. Il risultato finale dei diversi test non ha lasciato dubbi, medico e AI hanno ottenuto un punteggio più alto quando collaboravano.
AI e medicina però è anche tante cose positive: il controllo remoto costante, la possibilità di operare a distanza con il 5G, i robot che entrano nelle sale ad alta contagiosità al posto del medico, creazione di vaccini e cure personalizzate.
Senza dimenticare la possibilità di avere dei consulti immediati da parte di operatori sanitari che lavorano in aree disagiate, non coperte da strutture o personale qualificato. Un check fatto da una AI è comunque migliore che nessun consulto, purché questi eventi siano, al momento, per aiuto e non per studio.
Il fattore umano ed economico
Una macchina per decidere se fare scattare un campanello si basa su dei limiti numerici: sotto la soglia va tutto bene, sopra la soglia c’è un problema. Immaginiamo due ospedali diversi (pubblico o privato), due software AI diversi, due assicurazioni sanitarie diverse (per gli stati dove la sanità non è pubblica). Adesso pensate se ogni struttura possa modificare in modo diverso questa soglia.
Una soglia più bassa potrebbe dire più esami inutili, ma anche intercettare dei casi difficili e salvare delle vite. Una soglia più alta, al contrario, farà molti meno esami ma avrà un tasso di falsi-negativi (persone malate il cui esame non è rilevato nulla di anomalo) più elevato. Per quanto sia terribile dirlo, il costo della salute, e della vita di un individuo, ha un prezzo.
Troppi costi e la sanità non riuscirà a reggere il peso. Pochi esami e avremo cure migliori per tanti e nessuna per pochi. Uno scenario però realistico, non molto diverso da un medico che, durante la pandemia di Covid-19 o su un campo di battaglia, deve scegliere quale paziente può salvare e quale no per le limitate risorse, e tempo, a sua disposizione.
Lascereste questa scelta a una AI per evitare le ripercussioni sulla salute mentale dei medici?
Ecco qui il link a Devs meet Ethics – Vorrei un secondo consulto