From Explainable and Robust Design to Scalable Foundation Models: A Technical Journey towards Trustworthy Medical AI
Type: dissertation
Abstract: Il passaggio dei sistemi di apprendimento da ambienti di sviluppo controllati a contesti clinici reali ha reso l’affidabilità un obiettivo centrale per le comunità di ricerca e mediche. Sebbene questo tema abbracci dimensioni metodologiche, operative e sociali, questa tesi adotta un perimetro tecnico mirato e si concentra su proprietà che influenzano in modo concreto l’utilità clinica e che possono essere formalizzate, ottimizzate e verificate sperimentalmente. In particolare, la tesi affronta: (i) l’apprendimento multimodale clinicamente realistico per integrare evidenze eterogenee, (ii) spiegazioni interpretabili dall’uomo per chiarire i fattori che guidano il modello sia a livello di popolazione sia di singolo paziente, (iii) robustezza e adattamento efficiente con supervisione limitata in presenza di cambiamenti nelle distribuzioni dei dati durante l’uso, (iv) stima dell’affidabilità delle predizioni in assenza di etichette o riscontri diagnostici al momento del test, e (v) apprendimento scalabile e auto-supervisionato di rappresentazioni, fino alla costruzione di modelli fondazionali in ambito medico. Questi temi vengono sviluppati in quattro domini applicativi. Il primo contributo consiste in un framework multimodale interpretabile per la stima della prognosi nei pazienti COVID-19 a partire da radiografie del torace e dati di triage, mostrando che una fusione controllata delle modalità e spiegazioni su più livelli possono conciliare prestazioni predittive e trasparenza clinica. La tesi studia poi la robustezza di modelli multimodali per la segmentazione 3D di lesioni da sclerosi multipla quando si verificano cambiamenti nella distribuzione dei dati, proponendo strategie di adattamento che richiedono una supervisione minima e introducendo uno stimatore di affidabilità capace di segnalare probabili errori durante l’utilizzo. Successivamente, viene mostrato come HuBERT-ECG, un modello che sfrutta l’apprendimento auto-supervisionato su larga scala, apprenda rappresentazioni ECG trasferibili su dataset e compiti clinici eterogenei. Infine, questo paradigma viene esteso a configurazioni arbitrarie di derivazioni introducendo un modello fondazionale ECG leggero (~7M parametri), capace di elaborare combinazioni variabili di derivazioni tramite grafi spaziotemporali sparsi e fisiologicamente coerenti, insieme a masked node modelling e campionamento stocastico delle derivazioni per ottenere rappresentazioni invarianti rispetto al numero e al tipo di derivazioni, trasferibili anche a contesti a poche derivazioni e a dispositivi indossabili. Nel complesso, la tesi propone un insieme di metodi che sostiene un percorso pragmatico verso modelli fondazionali affidabili in medicina. Poiché oggi i requisiti per modelli multimodali pienamente generali in ambito clinico sono ancora difficili da soddisfare, il progresso passa attraverso modelli di base solidi e accuratamente validati, robustezza accompagnata da indicatori di affidabilità capaci di anticipare possibili derive durante l’impiego, e integrazione delle evidenze in forme che i clinici possano ispezionare e mettere criticamente alla prova. I risultati indicano che un allineamento consapevole tra bias induttivo del modello, conoscenza clinica, trasparenza progettuale e condizioni d’uso è essenziale per sistemi di intelligenza artificiale medica non solo accurati, ma realmente affidabili nella pratica.
Author: COPPOLA, Edoardo
Institution: University of Brescia
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Keywords: artificial intelligence in healthcare, trustworthy AI, explainable AI, robustness, foundation models, multimodal learning, interpretable explanations, distribution shift, limited supervision, COVID-19 prognosis, chest radiograph, triage, multiple sclerosis lesion segmentation, ECG, clinical decision support
Open Access status: green
OpenAlex ID: W7214420721
