Derin öğrenme yaklaşımları ile meme kanseri tespiti ve sınıflandırması

Abstract

Meme kanseri, dünya çapında kadınlar arasında kanserle ilişkili ölümlerin başlıca nedenlerinden biridir. Erken teşhis ve doğru tanı, sağkalım oranlarını artırmak ve etkili bir tedavi planlamak açısından çok önemlidir. Mamografi, meme kanseri taramasında anormallikleri erken evrede tespit edebilen temel görüntüleme yöntemidir. Mamografik bulgular arasında kitleler, en yaygın ve tanı açısından en kritik lezyonlardır. Mamografi görüntüleri genellikle radyologlar tarafından manuel olarak değerlendirilmekte, ancak lezyon çeşitliliği, yoğun meme dokusu ve yüksek görüntü sayısı süreci zorlaştırmakta; değerlendirmeyi zaman alıcı ve yorucu hâle getirmektedir. Ayrıca, deneyim farklılıkları ve uzun incelemelere bağlı dikkat dağınıklığı tanı doğruluğunu olumsuz etkileyebilmektedir. Son yıllarda, özellikle derin öğrenmeye dayalı yapay zekâ uygulamaları, tıbbi görüntüleme tanı süreçlerinde önemli ilerlemeler sağlamıştır. Bu alanda öne çıkan You Only Look Once (YOLO) algoritması, gerçek zamanlı nesne tespiti ve sınıflandırma yeteneğiyle öne çıkmaktadır. Bu sayede, mamografi görüntülerinde anormalliklerin hızlı ve doğru şekilde belirlenmesine olanak sağlayarak klinik tanı süreçlerine destek olma potansiyeli taşımaktadır. Bu tez çalışmasında, mamografi görüntülerinde meme kitlelerini tespit ve sınıflandırmak amacıyla YOLO tabanlı bir derin öğrenme modeli geliştirilmiştir. Bu kapsamda, YOLOv5, YOLOv8 ve YOLOv9 (GELAN) mimarileri temel alınmış; bu modellere çeşitli dikkat modülleri ve evrişimsel bloklar entegre edilerek farklı model varyantları oluşturulmuştur. Modeller, CBIS-DDSM, VinDr-Mammo ve bu iki kümenin birleşimiyle oluşturulan veri setleri kullanılarak sıfırdan eğitilmiş, ardından INBreast veri kümesi üzerinde beş katlı çapraz doğrulama yöntemiyle ince ayar uygulanmıştır. Ayrıca, farklı veri artırma stratejilerinin model performansına etkisi değerlendirilmiştir. INBreast üzerinde en yüksek başarıyı gösteren model varyantları, klinik uygulanabilirliği test etmek amacıyla Başkent Üniversitesi Ankara Hastanesi’ne ait veri kümesiyle de ince ayara tabi tutulmuştur. CBIS-DDSM + VinDr-Mammo → INBreast senaryosunda GELAN-c mimarisine derinlemesine evrişim (DWConv) ve Evrişimli Blok Dikkat Modülü (CBAM) entegre edilerek geliştirilen model varyantı (GELAN-c + DWConv + CBAM), varsayılan veri artırma konfigürasyonu ile 0.878 mAP@0.5 skoruna ulaşmış ve çalışmadaki en yüksek performansı göstermiştir. CBIS-DDSM + VinDr-Mammo → Başkent senaryosunda ise, YOLOv5s mimarisine Verimli Çok-Ölçekli Dikkat (EMA) modülü entegre edilerek oluşturulan model varyantı (YOLOv5s + EMA), varsayılan + mixup veri artırma kombinasyonu ile 0.848 mAP@0.5 skoruna ulaşmıştır. Bu sonuçlar, geliştirilen YOLO tabanlı model varyantları hem literatür veri kümelerinde hem de gerçek klinik görüntülerde yüksek başarı sağladığını ve klinik karar destek sistemlerine entegre edilebilecek potansiyele sahip olduğunu göstermektedir. Breast cancer is one of the leading causes of cancer-related deaths among women worldwide. Early detection and accurate diagnosis are crucial for improving survival rates and planning effective treatment. Mammography is the primary imaging method for breast cancer screening, detecting abnormalities at an early stage. Among mammographic findings, masses are the most common and diagnostically significant lesions. Mammograms are often evaluated manually by radiologists; however, the diversity of lesions, dense breast tissue, and large image volumes make this process challenging, time-consuming, and labor-intensive. Furthermore, differences in experience levels and attention fatigue caused by prolonged examinations can negatively affect diagnostic accuracy. In recent years, artificial intelligence applications, particularly those based on deep learning, have made significant contributions to medical imaging diagnostics. The You Only Look Once (YOLO) algorithm, a leading approach in this field, stands out with its real-time object detection and classification capabilities. This allows for the rapid and accurate identification of abnormalities in mammograms, offering potential support to clinical diagnostic workflows. In this thesis, a YOLO-based deep learning model was developed to detect and classify breast masses in mammograms. The YOLOv5, YOLOv8, and YOLOv9 (GELAN) architectures were utilized, and various attention modules and convolutional blocks were integrated into these models to generate different model variants. These models were trained from scratch using CBIS-DDSM, VinDr-Mammo, and their combined dataset. Then, fine-tuning was performed on the INBreast dataset using five-fold cross-validation. Furthermore, the effects of different data augmentation strategies on model performance were analyzed. The best-performing model variants on the INBreast dataset were further fine-tuned using a dataset obtained from Başkent University Ankara Hospital to evaluate clinical applicability. In the CBIS-DDSM + VinDr-Mammo → INBreast scenario, the model variant (GELAN-c + DWConv + CBAM), which integrates depth-wise convolution (DWConv) and the Convolutional Block Attention Module (CBAM) into the GELAN-c architecture, achieved a mAP@0.5 score of 0.878 with the default data augmentation configuration, representing the highest performance in the study. In the CBIS-DDSM + VinDr-Mammo → Başkent scenario, the model variant (YOLOv5s + EMA) created by integrating the Efficient Multi-Scale Attention (EMA) module into the YOLOv5s architecture, achieved a mAP@0.5 score of 0.848 using the default + mixup augmentation strategy. These results demonstrate that the proposed YOLO-based model variants achieved high performance on both public datasets and real clinical images and show strong potential for integration into clinical decision support systems.