Наличие большого количества способов проведения атак на системы на основе нейронных сетей ставит под сомнение безопасность применения этой технологии. Направление защиты нейронных сетей и информации, обрабатываемой в системах на основе данной технологии, путем выявления и устранения уязвимостей в моделях нейронной сети является наиболее актуальным направлением в области обеспечения безопасности машинного обучения. Исследование уязвимостей нейронных сетей, основанных на искажении параметров модели, является основным этапом в разработке метода обнаружения критических недостатков систем на основе машинного обучения, при использовании которых возникает угроза некорректной работы модели нейронной сети.

Вавилова А.С., Ковалевский В.А. (науч. рук. Волошина Н.В.) Исследование уязвимостей нейронных сетей, основанных на искажении параметров модели машинного обучения // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2022]. URL: https://kmu.itmo.ru/digests/article/8469