ДОСЛІДЖЕННЯ СТІЙКОСТІ НЕЙРОННИХ МЕРЕЖ, НАВЧЕНИХ ІЗ ВИКОРИСТАННЯМ МОДЕЛЕЙ ЗМАГАЛЬНИХ АТАК - Мойсеєнко, О. В. (METHODS AND DEVICES OF QUALITY CONTROL, 2024)
У статті проведено детальний аналіз ефективності змагального навчання для підвищення стійкості нейронних мереж до атак зловмисників у завданнях розпізнавання зображень. Розглянуто питання уразливості нейронних мереж, зокрема їхню схильність до помилкової класифікації під впливом змагальних прикладів, створених спеціально для обману моделі. Дослідження спрямоване на розробку методів навчання, які підвищують стійкість моделей до різних типів атак, зберігаючи при цьому високу якість класифікації чистих зразків. У роботі встановлено, що традиційні підходи до навчання мереж, орієнтовані на протидію лише одному типу атаки, є недостатніми для забезпечення загальної стійкості моделі. Для досягнення комплексного захисту було запропоновано використання декількох типів змагальних прикладів (FGSM, JSMA, C&W). Це дозволяє моделі формувати більш стійкі до атак уявлення даних. З метою оцінювання ефективності запропонованого підходу було проведено серію експериментів з використанням набору даних MNIST, який містить 60000 тренувальних і 10000 тестових зображень у градаціях сірого. Результати досліджень показали, що змагальне навчання значно покращує стійкість моделі до атак. Зокрема, середня точність класифікації для різних типів атак підвищується до 97,48%–97,95%, а застосування розширення даних додатково збільшує точність до 99,42%. Водночас незахищені моделі без доповнення даних демонструють вищу точність лише для окремих атак, але загальна їхня стійкість залишається низькою. Запропонований підхід також дозволяє знизити середню ефективність атак на 29,2%, при цьому зберігаючи високу точність класифікації (98,9%) для чистих зразків. Для оцінювання впливу змагального навчання була використана комбінація метрик, що враховують не лише точність класифікації, але й стійкість моделі до атак. Виявлено, що змагальне навчання сприяє покращенню узагальнюючих властивостей моделі, що дозволяє зменшити вразливість до різноманітних зловмисних введень, створених за допомогою різних атакувальних алгоритмів.