Статья

Вавилова А.С., Ковалевский В.А. (науч. рук. Волошина Н.В.) Исследование уязвимостей нейронных сетей, основанных на искажении параметров модели машинного обучения
УДК тезиса: 004.032.26

Наличие большого количества способов проведения атак на системы на основе нейронных сетей ставит под сомнение безопасность применения этой технологии. Направление защиты нейронных сетей и информации, обрабатываемой в системах на основе данной технологии, путем выявления и устранения уязвимостей в моделях нейронной сети является наиболее актуальным направлением в области обеспечения безопасности машинного обучения. Исследование уязвимостей нейронных сетей, основанных на искажении параметров модели, является основным этапом в разработке метода обнаружения критических недостатков систем на основе машинного обучения, при использовании которых возникает угроза некорректной работы модели нейронной сети.

Авторы:

Вавилова Алина Сергеевна

Ковалевский Владислав Александрович

Руководитель:

Волошина Наталия Викторовна

Вавилова А.С., Ковалевский В.А. (науч. рук. Волошина Н.В.) Исследование уязвимостей нейронных сетей, основанных на искажении параметров модели машинного обучения // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2022]. URL: https://kmu.itmo.ru/digests/article/8469