В данной работе представлен подход к обнаружению вредоносных возмущений в изображениях. Рассматривается несколько подходов, основанных на статистических методах и анализе вероятностного распределения шумовой компоненты изображения. Вычисление смещения центра нормального распределения интерпретации преобразования Фурье или относительной и абсолютной однородности равномерного распределения шумовой компоненты позволит построить обобщенную зависимость, позволяющую обнаружить модификацию исследуемого изображения. В дальнейшем планируется адаптация данного подхода к анализу интерпретаций выходных весов моделей нейронных сетей и расширение спектра исследуемых вредоносных возмущений для построения более обобщенной зависимости.

Бучаев А.Я., Роговой В., Есипов Д.А. (науч. рук. Попов И.Ю.) Подходы к обнаружению атак на основе вредоносных возмущений на нейронные сети обработки изображений // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2023]. URL: https://kmu.itmo.ru/digests/article/9844