Errori medici legati all’intelligenza artificiale: chi ne risponde?
(da Univadis - Adrien Renaud) Se l’intelligenza artificiale (IA) provoca un errore medico, chi deve esserne ritenuto responsabile: il medico o lo sviluppatore? Medscape Francia ha intervistato un chirurgo, un avvocato e un medico legale su questa questione, che rischia di diventare sempre più pressante nei mesi e negli anni a venire.
L'intelligenza artificiale: una rivoluzione in medicina - L'intelligenza artificiale (IA) sta rivoluzionando la medicina sotto molti aspetti: diagnostica, terapia, rapporto con il paziente, amministrazione… e responsabilità medica. Sebbene finora non sia stata stabilita alcuna giurisprudenza in materia, una cosa è certa: i chatbot e gli altri strumenti di supporto alle decisioni prima o poi porteranno a eventi avversi, e si tratterà quindi di stabilire se sia stata commessa una colpa e da parte di chi. Una questione che può rivelarsi piuttosto impressionante. Ma prima di parlare di errore, occorre ricordare una cosa: l'IA rappresenta, almeno potenzialmente, un'opportunità straordinaria, anche in termini di responsabilità medica. “Uno strumento come quello sviluppato da Gleamer [azienda specializzata nell'intelligenza artificiale applicata all'imaging medico, N.d.R.], che rilegge le radiografie ed è utilizzato in tutti i Pronto soccorso dell’Assistance Publique Hôpitaux de Paris (AP-HP), ha un impatto medico concreto, ma anche un impatto giuridico, poiché ci sono meno reclami contro l'istituzione”, afferma Thomas Grégory, ortopedico, primario dell’ospedale Avicenne di Bobigny (Seine-Saint-Denis) e responsabile del progetto “Salute e digitale” presso la Maison des sciences numériques, laboratorio di ricerca dell’Università Sorbonne-Paris-Nord.
Domande aperte - Resta il fatto che, sebbene l’IA possa garantire la sicurezza dell’attività medica ed evitare contenziosi, solleva comunque numerose questioni nei casi in cui si verifichi un errore a causa sua. E in questi casi, la risposta dei giuristi è chiara. “Finché l’IA sarà considerata uno strumento, ovvero un oggetto, sarà sempre il medico a essere responsabile”, afferma Xavier Labbée, avvocato e professore emerito all’Università di Lille. “Il medico rimane responsabile del prompt all’IA, ovvero della richiesta fatta”, conferma Cécile Manaouil, medico legale e capo dell’unità medico-legale del CHU di Amiens. “Si appropria del risultato di quella richiesta, prende una decisione, ma è l’autore giuridico del suo ragionamento: se ha utilizzato l’IA, deve poterlo giustificare”. Da qui l’importanza, per evitare azioni legali, di utilizzare l’IA in conformità con le buone pratiche: verificare i risultati quando possibile, utilizzare solo strumenti validati. “Quando sviluppiamo uno strumento di chirurgia assistita dall’IA, passiamo attraverso una fase di apprendimento supervisionato, durante la quale prestiamo molta attenzione alla qualità dei dati”, spiega Grégory, secondo cui anche questo è un modo per limitare il rischio legale. Poi il nostro strumento deve superare l’esame del marchio CE: è fuori discussione che non sia convalidato da studi clinici che ne verifichino la pertinenza”. Ma l’ortopedico insiste: proprio come nel caso di un biologo che utilizza sistemi per automatizzare le proprie procedure, “la responsabilità finale ricade sul medico”.
Tra teoria e pratica - Questo per quanto riguarda la teoria. Ma nella pratica, questa responsabilità finale attribuita al medico solleva questioni molto concrete. Infatti, al di là delle ovvie precauzioni (informare il paziente dell’utilizzo di uno strumento di IA, non fornire dati personali alla macchina, ecc.), alcune delle raccomandazioni classiche relative all’uso dell’IA non sono sempre applicabili, o non lo sono integralmente. È il caso della verifica finale dei risultati forniti dagli agenti conversazionali. “L'IA rimane uno strumento di cui si devono poter verificare i risultati, ma se le si chiede, ad esempio, di studiare la bibliografia su una determinata questione e poi si devono verificare tutti gli articoli, il risparmio di tempo si perde”, osserva Manaouil. L’altra questione che si pone riguarda i sistemi totalmente autonomi, in grado di agire senza la presenza di un medico. “Per ora c’è sempre un pilota nell’aereo, ma nel prossimo futuro, se si abbinerà la chirurgia guidata dall’IA alla chirurgia robotica, come già avviene in alcuni laboratori di ricerca, entreremo in un altro mondo”, avverte Grégory. E aggiunge: “Si tratta di sistemi realizzabili, che arriveranno sul mercato”. Sarà quindi necessario trovare il modo di distinguere la responsabilità del medico da quella dell’industria, come avviene per altri processi medici già automatizzati, ritiene il chirurgo.
Cosa succederebbe allora in caso di contenzioso legale? “Un medico chiamato in causa potrebbe rivalersi sul produttore del sistema, attribuendogli la responsabilità”, ipotizza Labbée. “La responsabilità per un prodotto difettoso esiste, ma occorre proprio dimostrare che il prodotto è difettoso, cosa tutt’altro che scontata in tribunale”. Inoltre, la legislazione è soggetta a evoluzione, e ciò che è giuridicamente valido oggi non lo sarà necessariamente domani. “La questione che si pone è quella della persona da citare in giudizio”, continua il giurista. “Per il momento, i progetti volti ad attribuire personalità giuridica all’IA sono stati fortunatamente abbandonati, ma nessuno sa come sarà la situazione tra dieci o vent’anni”. C’è un’unica certezza: i medici dovranno dare prova di notevole flessibilità per adattarsi alle nuove realtà. “Oggi ci si interroga sulla responsabilità del medico che utilizza l’IA”, prevede Manaouil “ma domani potrebbe essere chiamata in causa quella del medico che non l’ha utilizzata”.