Распространение открытых хранилищ моделей машинного обучения создаёт риски внедрения вредоносного программного обеспечения в предварительно обученные модели. Через внедрение вредоносной полезной нагрузки в модели машинного обучения можно осуществлять несанкционированный доступ к системам, манипулировать выводами моделей и выполнять вредоносные действия на целевой инфраструктуре. Это значительно расширяет возможности атакующих и создает новые угрозы безопасности для систем, использующих искусственный интеллект. Разработан метод скрытого внедрения вредоносной нагрузки в модели машинного обучения с использованием различных форматов сериализации, технологий и архитектур хранения весов, а также стеганографии.

Менисов А.Б., Ситников И.Д. (науч. рук. Менисов А.Б.) Нейтрализация полезной нагрузки в моделях машинного обучения // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2025]. URL: https://kmu.itmo.ru/digests/article/14767