Результаты работы нейронной сети часто слепо принимаются за правду, но нельзя целиком полагаться на них. Необходимо также учитывать то, насколько уверена в своих предсказаниях построенная модель. В качестве выходного слоя в классических нейронных сетях используется softmax output. Однако, использование данного слоя для оценки точности модели не является корректным, так как данная функция высчитывает отношение между всеми значениями активации модели. Модель может иметь низкие значения активации во всех нейронах своего выходного слоя и при этом достигать высокого значения softmax. Несмотря на возможность решать практически любую поставленную задачу, данные модели имеют ряд недостатков. Построение уникального алгоритма на основе нейробайесовского аналога позволяет протестировать работу модели
Никулина К.Г., Томилов И.В. (науч. рук. Гусарова Н.Ф.) Оценка неопределённости предсказаний нейронной сети посредством построения нейробайесовского аналога // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2023]. URL: https://kmu.itmo.ru/digests/article/10105