В настоящее время существуют прикладные системы в различных направлениях, использующие технологию искусственного интеллекта (далее ИИ). К примеру, распознаватели кодов товарных номенклатур, детекторы негабаритных рудных объектов на конвейерных лентах, интеллектуальные химические лаборатории по составлению формул сложных веществ, автоматизированные системы охраны и многие другие. В условиях общего роста применения технологии ИИ, необратимо повышается количество компьютерных инцидентов в таких системах. Для решения вопроса безопасности интеллектуальных систем необходимо создать средство тестирования построенных моделей для дальнейшего их дообучения и повышения устойчивости к атакам уклонения, в частности.
Менисов А.Б., Житихин А.Е., Вандышев К.А. (науч. рук. Менисов А.Б.) Экспериментальное исследование надежности систем искусственного интеллекта от воздействия физическими шаблонами уклонения // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2023]. URL: https://kmu.itmo.ru/digests/article/11438