В докладе содержится анализ существующих инструментов и подходов к оркестрации больших языковых моделей (LLM). Рассматриваются ключевые проблемы, связанные с интеграцией, выбором модели для ансамблирования, а также мониторингом работы системы. В ходе исследования анализируются такие открытые инструменты, как LlamaIndex, Prefect и ProtoLLM, а также зарубежные подходы к оркестрации LLM, выявляются их преимущества и недостатки, предлагаются направления улучшения процессов оркестрации. Результаты исследования будут использованы при разработке собственной системы интеграции мультимодальных LLM для рецензирования сложных документов.

Иржанова Ю.И., Шафиков М.А. (науч. рук. Терещенко В.В.) Анализ существующих инструментов и подходов при реализации оркестрации больших языковых моделей // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2025]. URL: https://kmu.itmo.ru/digests/article/15746