Глубокие нейронные сети позволяют решать многочисленные задачи, благодаря большому числу настраиваемых параметров и наличию больших данных, но это требует огромного количества вычислений как во время обучения, так и во время применения к данным. В данной работе продемонстрирован метод прореживания нейронной сети, с использованием радемахеровской сложности и энтропии, примененных к статистикам активаций нейронов. Этот подход позволяет уменьшить число параметров нейронной сети без потери целевой метрики на тестовой выборке.

Рогачев К.О. (науч. рук. Забашта А.С.) Прореживание нейронных сетей с использованием статистик активаций нейронов // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2025]. URL: https://kmu.itmo.ru/digests/article/14649