Тема, связанная с безопасностью систем, основанных на методах искусственного интеллекта с каждым годом, очевидно, становится все более важной. Особое внимание необходимо уделять устойчивости моделей машинного обучения к атакам отравления, где злоумышленник внедряет зловредные (состязательные) примеры в обучающий набор данных и атакам уклонения, где происходит манипулирование входными данными во время тестирования обученной модели машинного обучения. В данной работе рассматривается влияние наиболее известных состязательных атак, таких как Fast Gradient Signed Method (FGSM), Carlini & Wagner (CW), Basic Iterative Method (BIM), Projected Gradient Descent (PGD), и Saliency Map Method (SMP), на предсказательную способность моделей машинного обучения.
Сивков Д.И. (науч. рук. Воробьева А.А.) Влияние атак FGSM, CW, BIM, PGD, SMP на предсказательную способность моделей машинного обучения // Сборник тезисов докладов конгресса молодых ученых. Электронное издание. – СПб: Университет ИТМО, [2024]. URL: https://kmu.itmo.ru/digests/article/12622