Статья: МЕТОДЫ ЗАЩИТЫ МОДЕЛЕЙ НЕЙРОННЫХ СЕТЕЙ ОТ СОСТЯЗАТЕЛЬНЫХ АТАК УКЛОНЕНИЯ И ОТРАВЛЕНИЯ

В статье представлены угрозы нарушения корректного функционирования систем, разработанных на основе глубоких нейронных сетей, посредством реализации против них состязательных атак уклонения и отравления данных. Состязательные атаки реализуются посредством подачи на вход системы специально подготовленных (состязательных) данных (adversarial samples), на основе которых она принимает неправильные решения. Последствия реализации состязательных атак могут быть очень серьезными, особенно в областях, критически важных для безопасности. Описаны основные виды и способы реализации атак. Рассмотрены математические модели, используемые для раз- работки состязательных атак. Представлен анализ методов защиты моделей глубоких нейронных сетей от угроз, связанных с состязательными атаками. Определено, что наиболее эффективным подходом к созданию средств.