В данной научной работе рассматриваются подходы к интерпретируемости решений искусственного интеллекта , применяемых для обнаружения угроз информационной безопасности. Анализируются основные методы объяснения работы моделей машинного обучения, используемых в системах выявления атак, вредоносной активности и аномалий. Особое внимание уделяется проблемам доверия к ИИ-моделям, прозрачности принимаемых решений и возможности их практического использования специалистами по информационной безопасности. В работе рассматриваются преимущества и ограничения существующих XAI-подходов, а также их влияние на точность, устойчивость и управляемость систем обнаружения угроз. В ход работы реализован прототип системы.

Кудряшов А.Е. (науч. рук. Гирик А.В.) Интерпретируемость (explainable ai) решений ии для обнаружения угроз информационной безопасности // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2026]. URL: https://kmu.itmo.ru/digests/article/16218