В докладе рассматриваются методы адаптации языковых моделей среднего размера (7–12 млрд параметров) для задач научного рецензирования. Отмечается, что при высоком качестве генерации большие модели требуют значительных вычислительных ресурсов, что ограничивает их практическое применение, тогда как модели среднего масштаба обладают потенциалом для эффективного использования при условии специализированной настройки. В работе анализируются подходы параметрически эффективного дообучения (PEFT), включая LoRA и DoRA, а также методы непрерывных подсказок (Prefix-tuning и Prompt-tuning), позволяющие адаптировать модель с минимальными затратами памяти и вычислений. Дополнительно рассматривается применение retrieval-augmented generation (RAG) для повышения обоснованности выводов за счёт привлечения в

Маракулин А.А., Дедкова А.В. (науч. рук. Терещенко В.В.) Методы адаптации языковых моделей среднего размера для научного рецензирования // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2026]. URL: https://kmu.itmo.ru/digests/article/17794