Личный кабинет

Статья

Большим М.А. (науч. рук. Кугаевских А.В.) Исследование скрытого параметрического пространства нейронной сети с целью адаптации архитектуры под обучаемый домен данных
УДК тезиса: 004.8

Доклад посвящён исследованию скрытого параметрического пространства нейронных сетей для адаптации архитектуры под обучаемый домен данных. В работе нейросеть рассматривается как замкнутая параметрическия система, где внутреннее многообразие параметров моделируется с использованием римановой геометрии и энергетических методов. Анализ градиентных потоков выявляет участки с повышенным "давлением" на параметры, оказывающие значительное влияние на процесс обучения, а также регионы с минимальной активностью, избыточные для модели. Применение описанного метода позволяет найти и оптимизировать распределение энергии в проблемных местах внутри сети, что снижает вычислительные затраты и способствует формированию компактных, адаптивных архитектур с высокой обобщаемостью.

Авторы:

Большим Максим Антонович

Руководитель:

Кугаевских Александр Владимирович

Большим М.А. (науч. рук. Кугаевских А.В.) Исследование скрытого параметрического пространства нейронной сети с целью адаптации архитектуры под обучаемый домен данных // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2025]. URL: https://kmu.itmo.ru/digests/article/14124