Una macchina chiamata a prendere decisioni valide per una platea variegata di pazienti ha bisogno di processare dati il più possibile uniformati e rappresentativi di tutti i soggetti, minoranze etniche, sociali e differenze di genere comprese. L’esempio più intuitivo è quello del melanoma. Per morbilità e mortalità il melanoma è una malattia che colpisce di più la razza bianca di paesi come l’Australia, la Nuova Zelanda, il Nord Europa e il Sud Africa. Quasi tutti gli studi scientifici e, di conseguenza, oltre il 90% dei dati clinici accessibili, riguardano queste popolazioni, mentre le minoranze di colore e di altro tipo, per i quali, tuttavia, il melanoma non è una malattia sconosciuta, hanno pochissimi dati a rappresentarli negli studi scientifici. Se l’intelligenza artificiale (IA) lavora sui dati più facilmente accessibili, è ovvio il rischio di mistificazione ed errore diventa tutt’altro che trascurabile per le minoranze neglette.
In altre parole, sussiste il rischio che già gli esperti del WHO hanno paventato in una pubblicazione del 2019, ossia che le raccomandazioni cliniche frutto di IA rischiano di essere irrilevanti o imprecise, quando non del tutto fuorvianti. In altre parole, se una tecnologia di intelligenza artificiale si basa su un campionario di dati etnicamente omogeneo, i biomarcatori identificati come rispondenti per una particolare terapia saranno appropriati solo per la razza o il genere per i quali i dati sono stati raccolti.
Insomma, nonostante l’efficacia ed i benefici di queste tecnologie nell’aumentare l’efficienza dell’assistenza sanitaria, comincia ad essere chiara la scarsa rappresentatività femminile nei database su cui si costruiscono gli algoritmi alla base dei sistemi di machine learning.
Il crescente ricorso alle decisioni di machine learning solleva preoccupazioni legate alle disuguaglianze legate al sesso e al genere, che rischiano di divenire sistematicamente radicate negli algoritmi stessi dell’IA. Diagnosi non accurate, disparità nel riconoscimento di immagini diagnostiche, rischio maggiore di reazioni avverse a farmaci o trattamenti, farmacologia di precisione sbilanciata: queste alcune delle conseguenze dell’utilizzo in medicina dell’intelligenza artificiale con le donne come soggetti svantaggiati. Il tema è stato al centro dell’VIII Congresso di Fondazione Onda ETS, che si è tenuto dal 24 al 26 settembre.
«La considerazione dei determinanti di sesso e genere nella salute è una necessità di metodo e analisi che deve diventare anche strumento di programmazione sanitaria – ha precisato Elena Ortona, Direttrice del Centro di Riferimento per la Medicina di Genere, Istituto Superiore di Sanità – Con l’avvento delle nuove tecnologiche che si basano sull’intelligenza artificiale si è resa subito evidente una nuova sfida per la ricerca scientifica: la necessità di superare i bias di genere».
In tal senso, si rivela necessario incorporare nei modelli dell’IA dati sempre più inclusivi che tengano conto delle differenze biologiche di genere al fine di addestrare l’intelligenza artificiale con dati equilibrati e realistici: «Oggi il concetto di Medicina di genere è notevolmente evoluto ed è passato dalla considerazione dei parametri biologici (sesso, età, etnia, comorbilità, reazioni a farmaci) alla valutazione, sicuramente più complessa, di indicatori di contesto quali condizioni sociali, economiche, culturali, religiose, ambientali e delle relative fonti di informazione. La definizione di corretti indicatori di genere ed un’attenta valutazione di essi nella pratica clinica, è fondamentale per la costruzione di un percorso assistenziale condiviso fra medico, operatori sanitari e paziente e per la programmazione di linee di indirizzo di tipo normativo e di governance, utili per il miglioramento della qualità dell’assistenza», è stata la conclusione di Anna Maria Moretti, Presidente Nazionale GISeG, Gruppo italiano salute e genere e Presidente Internazionale IGM, International Gender Medicine.
In conclusione, la progettazione e l’implementazione dell’IA devono riflettere equamente la diversità tra uomini e donne. Solo così si fa strada un’assistenza sanitaria più precisa, personalizzata ed equa, evitando diagnosi errate o ritardate e migliorando la diagnosi e il trattamento per tutte le persone, indipendentemente dal loro sesso o gen