Данная работа направлена на анализ уязвимостей, связанных с использованием больших языковых моделей (LLM) в проектах. Объектом исследования являются потенциальные уязвимости, возникающие в процессе взаимодействия с LLM, такие как обманные промпты, способные украсть данные или искажать выводы модели. В работе предлагается анализ типов уязвимостей и возможных методов их предотвращения.
Комарова А.А. (науч. рук. Лаушкина А.А.) АНАЛИЗ УЯЗВИМОСТЕЙ И МЕТОДОВ ЗАЩИТЫ ПРИ ИСПОЛЬЗОВАНИИ БОЛЬШИХ ЯЗЫКОВЫХ МОДЕЛЕЙ В ПРОЕКТАХ // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2024]. URL: https://kmu.itmo.ru/digests/article/13398