Разработан прототип информационной системы, имитирующий работу эксперта по информационной безопасности. Исследован подход к защите информационных ресурсов, используемых моделью LLM в рамках работы прототипа. Проверяются методы защиты данных от таких угроз как утечка информации из хранилища контекста, промпт-инъекции, некорректная обработка выходных данных, утечка системных инструкций. Подход представляет собой практику внедрения предложенных в работе средств защиты при использовании LLM-агентов в связке с RAG системами.

Билаш Н.В., Макутенус А.И., Кубасова М.С. (науч. рук. Кусайкин Е.В.) Внедрение методик обеспечения безопасности при разработке систем искусственного интеллекта // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2026]. URL: https://kmu.itmo.ru/digests/article/17335