ExOn: una nuova ontologia sui metodi per l’Explainable Artificial Intelligence

Il tema dell'Intelligenza Artificiale (IA) è senza dubbio uno dei più discussi negli ultimi anni. L'impiego dell'IA si estende in diversi settori, con una crescente popolarità soprattutto in ambiti critici come la sanità e la sicurezza. Da cui nasce la necessità di garantire trasparenza e comprensibilità nei processi decisionali automatizzati al fine di migliorare l'affidabilità, la responsabilità e la fiducia nelle applicazioni IA. In proposito, l'Unione Europea è in procinto di approvare la nuova normativa AiAct, che esplicita tali preoccupazioni sull'utilizzo di IA affidabili e trasparenti. I metodi legati all'Explainable Artificial Intelligence (XAI) cercano di spiegare le ragioni alla base delle risposte fornite da un sistema automatico. Tuttavia, è evidente dai lavori presenti nello stato dell'arte che non esiste una classificazione universalmente accettata che copra tutti gli aspetti dell'argomento. Questa lacuna è dovuta non solo alla grande quantità di nuovi metodi proposti, ma anche alla diversità di funzionamento tra di essi. In generale esistono delle tassonomie, ovvero strutture che categorizzano e organizzano le diverse tecniche, approcci e concetti relativi all'explainability delle intelligenze artificiali. Le tassonomie possono essere limitate dalla loro struttura rigida e dalla difficoltà di rappresentare relazioni complesse tra i concetti. In alcuni casi, può avvenire che alcune metodologie non siano adattabili facilmente ad una struttura gerarchica. Un'ontologia, invece, è una forma più avanzata di rappresentazione concettuale rispetto a una tassonomia, dato che va oltre la semplice categorizzazione e offre una descrizione dettagliata delle relazioni tra i concetti. In altre parole, un'ontologia non solo classifica i concetti, ma stabilisce anche le connessioni semantiche tra di essi. Per questo motivo viene proposta ExOn, una nuova ontologia, in grado di creare una struttura formale per categorizzare le pubblicazioni scientifiche sull'XAI e di incorporare le informazioni essenziali in modo accessibile sia per gli utenti che per i ricercatori neofiti in questo campo. Rispetto alle classificazioni esistenti in letteratura, ExOn rappresenta un avanzamento, trasformando il concetto di classificazione da una semplice tassonomia dei metodi a una formalizzazione sotto forma di ontologia. Inoltre, le categorie utilizzate sono state derivate dalle più recenti categorizzazioni al fine di coprire ogni aspetto dei metodi. ExOn facilita l'identificazione dei collegamenti e delle influenze tra le pubblicazioni, grazie alla formalizzazione dei concetti di 'citazione' e 'metodo derivato da', migliorando la tracciabilità della ricerca. Infine, considerando la capacità intrinseca di espansione delle ontologie, viene discusso il possibile ampliamento per formalizzare il concetto di autore delle pubblicazioni e l'integrazione con l'ontologia ANNETT-O per migliorare ulteriormente la rappresentazione delle reti neurali profonde. Inoltre, si suggerisce la valutazione di un'applicazione con interfaccia grafica per semplificare la navigazione, mantenendo al contempo la formalità dell'ontologia. Di seguito verranno elencati i capitoli della tesi con una breve descrizione del contenuto: 1 Introduzione: introduzione nel mondo dell'XAI e al lavoro proposto. 2 Motivazioni: le motivazioni della creazione di ExOn. 3 Stato dell'arte: storia dell'XAI, terminologia e classificazioni esistenti. 4 ExOn: una nuova ontologia: presentazione di ExOn, la sua struttura, le proprietà, ed esempi di navigazione. 5 Discussione: confronto tra le classificazioni esistenti ed ExOn. 6 Conclusione e sviluppi futuri: riepilogo dei risultati ottenuti e sviluppi futuri.