Робастное обучение нейронных сетей с простой архитектурой для решения задач классификации

(по материалам кандидатской диссертации)

Семинар: Информационные технологии
Начало заседания: 14:35

Дата выступления: 17 Май 2022

Организация: Новосибирский государственный технический университет (Новосибирск)

Авторы: Сивак Мария Алексеевна

В настоящее время для решения задач классификации часто используются искусственные нейронные сети. Классическим алгоритмом их обучения является алгоритм обратного распространения ошибки, в котором обычно используется квадратичная функция потерь. Из-за этого простые нейронные сети часто неудовлетворительно работают на реальных данных, в которых так или иначе присутствуют ошибки и нетипичные наблюдения (выбросы).

В докладе описывается подход к построению робастных нейронных сетей на основе идеи алгоритма обратного распространения ошибки. Предлагается модификация данного алгоритма, основанная на использовании робастных функций потерь. Приводятся рекомендации относительно выбора значений внутренних параметров робастных функций потерь, позволяющие ускорить процесс настройки и обеспечить более высокую точность работы нейронных сетей. Кроме того, продемонстрированы результаты исследования устойчивости построенных робастных нейронных сетей при анализе зашумленных данных, а также приводятся примеры использования робастных нейронных сетей.

 

 

Трансляция семинара будет осуществляться на платформе BigBlueButton по ссылке: https://vcs-6.ict.nsc.ru/b/nmm-jge-zjd.