Материал конференции: "Научный сервис в сети Интернет: труды XXVI Всероссийской научной конференции (23-25 сентября 2024 г., онлайн)"
Авторы:Полевой А.В., Корухова Ю.С.
Об одном подходе к формальной верификации нейросетевых моделей
Аннотация:
Программное обеспечение с моделями машинного обучения получает широкое распространение и внедряется во многие процессы с критическими свойствами, невыполнение которых приводит к серьезным проблемам. Традиционная проверка качества моделей на ограниченных наборах данных позволяет оценить процент правильных результатов, однако не может гарантировать выполнения заданного свойства. Задача верификации – привести строгое доказательство, что требуемые свойства выполняются. Традиционные подходы к верификации вычислительно дорогие, поэтому разработка перспективных методов верификации нейросетевых моделей – большой вызов для современной науки. В рамках данной работы рассматриваются подходы для анализа надежности нейросетевых моделей, которые учитывают архитектуру моделей. В качестве собственной демонстрации была выбрана верификация упрощенной модели шумоподавления [1], которая позволяет эффективно обрабатывать нестационарные сигналы. В рамках работы были верифицированы некоторые свойства для нейросетевых моделей обработки сигналов. Кроме того, был предложен подход и проведено сравнение с существующим аналогом.
