In the context of medical diagnosis, especially in the Covid-19 pneumonia, medical imaging plays an important role. Lung ultrasound (LUS) comes out as a valuable diagnostic technology for the early detection of pulmonary pathologies. This research focuses on how Deep Learning (DL) can contribute to the automation of medical diagnosis, with a specific emphasis on classifying LUS frames using Convolutional Neural Networks (CNN). The University of Trento provides the ICLUS-DB, a lung ultrasound dataset. It includes a 4-level scoring system reflecting the severity ranking of Covid-19 pneumonia, highlighting the intrinsic ordinal nature of LUS data. This aspect has sparked interest in investigating the possibility of achieving more accurate results by leveraging the ordinal nature of the data through the implementation of specific methodologies to optimize the classification of LUS frames. In contrast, the State-of-the-art is oriented towards solving this problem with nominal classification methods, not penalizing errors between distant classes, a relevant aspect for medical implications. In order to fill this gap in the literature, the main goal is to compare a baseline approach, represented by the ResNet18 CNN, with two distinct ordinal approaches: the Ordinal Binary Decomposition (OBD), based on the decomposition of the ordinal problem into a set of binary tasks, and the Cumulative Link Model (CLM), a probabilistic method to predict the probabilities of groups of contiguous categories. Both ordinal approaches use ResNet18 as a feature extractor and exploit dedicated loss functions, including Quadratic Weighted Kappa (QWK). Furthermore, as traditional stratified holdout methods proved insufficient for obtaining reliable results, a robust evaluation framework was implemented. The design of a dedicated Cross-Validation (CV) procedure for ICLUS-DB is a valuable contribution, addressing the challenges of its nature and yielding generalized and robust results. The results confirm the positive contribution of ordinal approaches, especially in ordinal metrics, highlighting a significant increase in average values across all aspects, particularly in Accuracy 1-Off (up to 96.6%), QWK index (up to 73.1%), and Spearman's coefficient (up to 74.4%). The analysis of ROC curves, confusion matrices, and saliency maps underline the advantage of ordinal approaches in capturing pathological details in LUS frames. The ablation study, conducted on all components of the Deep Neural Network (DNN), provides further insights, demonstrating the effectiveness of the proposed components.

Nell'ambito della diagnostica medica, soprattutto nel contesto della polmonite da Covid-19, l'imaging medico riveste un ruolo fondamentale. In particolare, l'ecografia polmonare (LUS) emerge come una valida tecnologia diagnostica per la rivelazione precoce di patologie polmonari. Questa ricerca si concentra su come il Deep Learning (DL) possa contribuire all'automatizzazione della diagnosi medica, focalizzandosi sulla classificazione di frame LUS mediante l'utilizzo di reti neurali convoluzionali (CNN). In questo contesto, l'Università di Trento mette a disposizione il dataset di ecografie polmonari ICLUS-DB. Questo comprende un sistema di scoring a 4 livelli che riflette la gerarchia della gravità delle patologie polmonari, sottolineando la natura ordinale intrinseca dei dati LUS. Questo aspetto ha suscitato l'interesse di indagare sulla possibilità di ottenere risultati più accurati sfruttando la natura ordinale dei dati, attraverso l'implementazione di metodologie specifiche per ottimizzare la classificazione dei frame LUS. Contrariamente, lo stato dell'arte è orientato a risolvere questo problema con metodi di classificazione nominali, non penalizzando l'errore tra classi distanti, un aspetto rilevante per le implicazioni mediche. Nell'ottica di colmare questo gap nella letteratura, l'obiettivo principale è quindi quello di confrontare un approccio di riferimento, rappresentato dalla CNN ResNet18, con due approcci ordinali distinti: l'Ordinal Binary Decomposition (OBD), basato sulla decomposizione del problema ordinale in un insieme di task binari, e il Cumulative Link Model (CLM), un metodo probabilistico per prevedere le probabilità di gruppi di categorie contigue. Entrambi gli approcci ordinali utilizzano ResNet18 come estrattore di feature e sfruttano funzioni di loss dedicate, tra cui il Quadratic Weighted Kappa (QWK). Inoltre, dato che i tradizionali metodi di holdout stratificato non sono risultati sufficienti per ottenere risultati affidabili, è stato implementato un framework robusto per la valutazione. La progettazione di una procedura di Cross-Validation (CV) ad-hoc per ICLUS-DB è un contributo alla letteratura che permette di affrontare le sfide della sua natura, ottenendo risultati generalizzati e robusti. I risultati confermano il contributo positivo degli approcci ordinali, specialmente nelle metriche ordinali, evidenziando un aumento significativo dei valori medi sotto ogni aspetto, nello specifico in Accuracy 1-Off (fino al 96.6%), indice QWK (fino al 73.1%) e coefficiente di Spearman (fino al 74.4%). L'analisi delle curve ROC, delle matrici di confusione e delle mappe di salienza sottolineano il vantaggio degli approcci ordinali nel catturare dettagli patologici nei frame LUS. Lo studio d'ablazione, condotto su tutte le componenti dell'architettura neurale, ha fornito ulteriori insights dimostrando l'efficacia dei componenti proposti.

Un nuovo framework di classificazione ordinale basato su deep learning per la stratificazione della gravità della Covid-19 in ecografie polmonari

CONTI, EDOARDO
2022/2023

Abstract

In the context of medical diagnosis, especially in the Covid-19 pneumonia, medical imaging plays an important role. Lung ultrasound (LUS) comes out as a valuable diagnostic technology for the early detection of pulmonary pathologies. This research focuses on how Deep Learning (DL) can contribute to the automation of medical diagnosis, with a specific emphasis on classifying LUS frames using Convolutional Neural Networks (CNN). The University of Trento provides the ICLUS-DB, a lung ultrasound dataset. It includes a 4-level scoring system reflecting the severity ranking of Covid-19 pneumonia, highlighting the intrinsic ordinal nature of LUS data. This aspect has sparked interest in investigating the possibility of achieving more accurate results by leveraging the ordinal nature of the data through the implementation of specific methodologies to optimize the classification of LUS frames. In contrast, the State-of-the-art is oriented towards solving this problem with nominal classification methods, not penalizing errors between distant classes, a relevant aspect for medical implications. In order to fill this gap in the literature, the main goal is to compare a baseline approach, represented by the ResNet18 CNN, with two distinct ordinal approaches: the Ordinal Binary Decomposition (OBD), based on the decomposition of the ordinal problem into a set of binary tasks, and the Cumulative Link Model (CLM), a probabilistic method to predict the probabilities of groups of contiguous categories. Both ordinal approaches use ResNet18 as a feature extractor and exploit dedicated loss functions, including Quadratic Weighted Kappa (QWK). Furthermore, as traditional stratified holdout methods proved insufficient for obtaining reliable results, a robust evaluation framework was implemented. The design of a dedicated Cross-Validation (CV) procedure for ICLUS-DB is a valuable contribution, addressing the challenges of its nature and yielding generalized and robust results. The results confirm the positive contribution of ordinal approaches, especially in ordinal metrics, highlighting a significant increase in average values across all aspects, particularly in Accuracy 1-Off (up to 96.6%), QWK index (up to 73.1%), and Spearman's coefficient (up to 74.4%). The analysis of ROC curves, confusion matrices, and saliency maps underline the advantage of ordinal approaches in capturing pathological details in LUS frames. The ablation study, conducted on all components of the Deep Neural Network (DNN), provides further insights, demonstrating the effectiveness of the proposed components.
2022
2024-02-16
A novel ordinal deep learning classification framework for lung ultrasound Covid-19 ranking
Nell'ambito della diagnostica medica, soprattutto nel contesto della polmonite da Covid-19, l'imaging medico riveste un ruolo fondamentale. In particolare, l'ecografia polmonare (LUS) emerge come una valida tecnologia diagnostica per la rivelazione precoce di patologie polmonari. Questa ricerca si concentra su come il Deep Learning (DL) possa contribuire all'automatizzazione della diagnosi medica, focalizzandosi sulla classificazione di frame LUS mediante l'utilizzo di reti neurali convoluzionali (CNN). In questo contesto, l'Università di Trento mette a disposizione il dataset di ecografie polmonari ICLUS-DB. Questo comprende un sistema di scoring a 4 livelli che riflette la gerarchia della gravità delle patologie polmonari, sottolineando la natura ordinale intrinseca dei dati LUS. Questo aspetto ha suscitato l'interesse di indagare sulla possibilità di ottenere risultati più accurati sfruttando la natura ordinale dei dati, attraverso l'implementazione di metodologie specifiche per ottimizzare la classificazione dei frame LUS. Contrariamente, lo stato dell'arte è orientato a risolvere questo problema con metodi di classificazione nominali, non penalizzando l'errore tra classi distanti, un aspetto rilevante per le implicazioni mediche. Nell'ottica di colmare questo gap nella letteratura, l'obiettivo principale è quindi quello di confrontare un approccio di riferimento, rappresentato dalla CNN ResNet18, con due approcci ordinali distinti: l'Ordinal Binary Decomposition (OBD), basato sulla decomposizione del problema ordinale in un insieme di task binari, e il Cumulative Link Model (CLM), un metodo probabilistico per prevedere le probabilità di gruppi di categorie contigue. Entrambi gli approcci ordinali utilizzano ResNet18 come estrattore di feature e sfruttano funzioni di loss dedicate, tra cui il Quadratic Weighted Kappa (QWK). Inoltre, dato che i tradizionali metodi di holdout stratificato non sono risultati sufficienti per ottenere risultati affidabili, è stato implementato un framework robusto per la valutazione. La progettazione di una procedura di Cross-Validation (CV) ad-hoc per ICLUS-DB è un contributo alla letteratura che permette di affrontare le sfide della sua natura, ottenendo risultati generalizzati e robusti. I risultati confermano il contributo positivo degli approcci ordinali, specialmente nelle metriche ordinali, evidenziando un aumento significativo dei valori medi sotto ogni aspetto, nello specifico in Accuracy 1-Off (fino al 96.6%), indice QWK (fino al 73.1%) e coefficiente di Spearman (fino al 74.4%). L'analisi delle curve ROC, delle matrici di confusione e delle mappe di salienza sottolineano il vantaggio degli approcci ordinali nel catturare dettagli patologici nei frame LUS. Lo studio d'ablazione, condotto su tutte le componenti dell'architettura neurale, ha fornito ulteriori insights dimostrando l'efficacia dei componenti proposti.
File in questo prodotto:
File Dimensione Formato  
tesi_conti_1100649.pdf

accesso aperto

Descrizione: Tesi Edoardo Conti 1100649
Dimensione 9.28 MB
Formato Adobe PDF
9.28 MB Adobe PDF Visualizza/Apri

I documenti in UNITESI sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.12075/16573