Сегментация медицинских изображений критична для выявления заболеваний глазного дна, но модели глубокого обучения ограничены в интерпретируемости. В данной работе применяется Grad-CAM для объяснения решений модели U-Net, обученной на наборе данных DRIVE. Метод позволяет выявлять ошибки сегментации и предвзятости, показывая, на какие области изображения ориентируется модель. Результаты подтверждают эффективность U-Net для крупных сосудов, но выявляют сложности с тонкими структурами. Использование Grad-CAM повышает прозрачность модели, а дальнейшие исследования могут включать XAI-методы SHAP и LIME.

Амируш а. (науч. рук. Арабовй М.К.) Объяснение сегментации медицинских изображений с помощью grad-cam: исследование на наборе данных drive // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2025]. URL: https://kmu.itmo.ru/digests/article/14153