Year: 2024
Type: dissertation
Abstract: El cáncer de mama representa aproximadamente el 30% de todos los diagnósticos de cáncer en mujeres en España, con una estimación de 36.395 nuevos casos para 2024. Esto indica la importancia de la detección temprana para aumentar las posibilidades de supervivencia y disminuir la necesidad de tratamientos invasivos. Las técnicas de imagen como mamografías, resonancias magnéticas y ecografías son cruciales para detectar el cáncer en sus etapas iniciales. Para optimizar la precisión en la detección y el diagnóstico del cáncer de mama, se ha desarrollado el sistema BI-RADS (Breast Imaging-Reporting and Data System), que busca estandarizar la interpretación de las imágenes médicas, garantizando así consistencia y precisión en los diagnósticos y mejorando la calidad del tratamiento. Para facilitar el análisis, comparación de datos, investigación clínica, calidad de atención e integración con otras fuentes de datos es importante que los informes radiológicos se encuentren en un formato estructurado. Por ello, el objetivo principal de este proyecto es desarrollar y evaluar un sistema inteligente capaz de localizar y extraer automáticamente los hallazgos de la 5ª Edición de BIRADS en informes de mamografía y ecografía, transformando informes no estructurados en registros estructurados. Adicionalmente, se busca clasificar cada informe completo según la categoría BI-RADS correspondiente (grado de malignidad). Para enfrentar este desafío, se han seleccionado métodos supervisados basados en Transformers, debido a su habilidad para capturar dependencias contextuales y relaciones complejas a largo plazo, esenciales en tareas que requieren alta precisión como el etiquetado de hallazgos médicos. Aunque el etiquetado manual es costoso y laborioso, los algoritmos supervisados pueden generalizar mejor e identificar patrones específicos para cada etiqueta, resultando en una mayor precisión y eficacia en comparación con el aprendizaje no supervisado. El etiquetado se llevó a cabo con un sistema de reglas en colaboración con un radiólogo del Hospital Universitario 12 de Octubre para identificar patrones en los informes, y luego se validaron manualmente los hallazgos para asegurar la calidad y precisión de los datos etiquetados. También se utilizó una técnica de aumento de datos basada en sinónimos para incrementar el corpus de datos etiquetados, aumentando de 1.005 ecografías y 211 mamografías etiquetadas a 5.025 ecografías y 1.055 mamografías. Los modelos implementados para la clasificación de hallazgos fueron BETO, SpanBERT, DeBERTa y GPT-2. BETO es una adaptación de BERT para español, optimizado para manejar las sutilezas del idioma. SpanBERT se centra en la representación y predicción de fragmentos de texto, mejorando la precisión en la predicción de “spans”. DeBERTa introduce innovaciones en el mecanismo de atención y decodificación, lo que lo hace más preciso que BERT. GPT-2 fue diseñado principalmente para la generación de texto, utilizando un enfoque de modelado de lenguaje unidireccional que predice la siguiente palabra en una secuencia. En la evaluación de estos modelos, BETO y DeBERTa fueron los que mejores resultados proporcionaron. Para la clasificación de informes en categorías BI-RADS se utilizó el modelo DistilBERT, una versión más compacta y eficiente de BERT. Aunque la eficiencia de los modelos es mejorable, estos han demostrado que los modelos basados en Transformers son efectivos y viables para estas tareas. Lo que puede servir como punto de partida para la utilización de Transformers en la clasificación de hallazgos y categorías BI-RADS en español. ABSTRACT Breast cancer accounts for approximately 30% of all cancer diagnoses in women in Spain, with an estimated 36,395 new cases expected in 2024. This underscores the importance of early detection to increase survival chances and reduce the need for invasive treatments. Imaging techniques such as mammograms, magnetic resonance imaging, and ultrasounds are crucial for detecting cancer in its early stages. To optimize accuracy in the detection and diagnosis of breast cancer, the BIRADS system (Breast Imaging-Reporting and Data System) has been developed, which aims to standardize the interpretation of medical images, thus ensuring consistency and precision in diagnoses and improving treatment quality. To facilitate analysis, data comparison, clinical research, quality of care, and integration with other data sources, it is important that radiological reports are in a structured format. Therefore, the main goal of this project is to develop and evaluate an intelligent system capable of automatically locating and extracting findings from the 5th Edition of BI-RADS in mammography and ultrasound reports, transforming unstructured reports into structured records. Additionally, the project aims to classify each complete report according to the corresponding BI-RADS category (degree of malignancy). To tackle this challenge, supervised methods based on Transformers have been selected due to their ability to capture contextual dependencies and complex long-term relationships, essential in tasks requiring high precision such as medical finding annotation. Although manual labeling is costly and laborintensive, supervised algorithms can better generalize and identify specific patterns for each label, resulting in higher accuracy and efficiency compared to unsupervised learning. Labeling was carried out using a rule-based system in collaboration with a radiologist from the Hospital Universitario 12 de Octubre to identify patterns in the reports, and findings were then manually validated to ensure the quality and accuracy of the labeled data. A data augmentation technique based on synonyms was also used to increase the corpus of labeled data, growing from 1,005 ultrasounds and 211 mammograms labeled to 5,025 ultrasounds and 1,055 mammograms. The models implemented for the classification of findings were BETO, SpanBERT, DeBERTa, and GPT-2. BETO is an adaptation of BERT for Spanish, optimized to handle the subtleties of the language. SpanBERT focuses on the representation and prediction of text spans, improving accuracy in span prediction. DeBERTa introduces innovations in the attention and decoding mechanism, making it more accurate than BERT. GPT-2 was designed primarily for text generation, using a unidirectional language modeling approach that predicts the next word in a sequence. In the evaluation of these models, BETO and DeBERTa provided the best results. For classifying reports into BI-RADS categories, the DistilBERT model was used, a more compact and efficient version of BERT. Although the efficiency of the models can be improved, they have demonstrated that Transformer-based models are effective and viable for these tasks. This approach can serve as a starting point for the use of Transformers in the classification of BI-RADS findings and categories in Spanish.
Author: El-Sherif Rodríguez, Sara María
Institution: Universidad Politécnica de Madrid
Language: Spanish
Subfield: Health Informatics
Field: Medicine
Domain: Health Sciences
Keywords: breast cancer, BI-RADS, mammography reports, structured radiology reports, clinical information extraction, rule-based annotation, transformer models, early cancer detection, clinical decision support, biomedical natural language processing, clinical decision support systems, breast cancer treatment planning, breast cancer prognosis
Open Access status: green
OpenAlex ID: W7036362605
