Глубокие нейронные сети позволяют решать многочисленные задачи, благодаря большому числу настраиваемых параметров и наличию больших данных, но это требует огромного количества вычислений как во время обучения, так и во время применения к данным. В данной работе продемонстрирована структурная регуляризация нейронной сети архитектуры ResNet на примере задачи классификации, с использованием радамахеровской сложности промежуточных тензоров данных в нейронной сети для выбора порогов прореживания. Этот подход позволяет уменьшить число параметров нейронной сети после обучения с учетом , тем самым уменьшив необходимые для ее применения вычисления.
Рогачев К.О. (науч. рук. Забашта А.С.) Прореживание нейронных сетей с использованием радамахеровской сложности // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2024]. URL: https://kmu.itmo.ru/digests/article/13828