В НИТУ МИСИС разработали нейросеть, способную точно идентифицировать объекты, которые не находятся в базах данных.

Исследователи представили свою работу в октябре на международной конференции по обработке изображений ICIP 2024 в Абу-Даби (ОАЭ).

С ростом объема данных возникает необходимость в более надежных нейросетях, которые способны не только классифицировать новые объекты, но и выявлять технические помехи, неизбежно возникающие при получении изображений. Вся неизвестная информация называется данными вне распределения (ДВР). Человеческий фактор в процессе обнаружения ДВР может привести к нежелательным последствиям. Создатели алгоритма решили эту проблему, применив разнообразие ансамблевой модели, что снизило корреляцию между вхождениями и повысило общую точность системы.

Ансамблевая нейросеть SDDE состоит из нескольких моделей, обученных на подмножествах отдельных баз данных, что позволяет каждой модели сосредоточиться на уникальных характеристиках изображений. Это достигается за счет диверсификации карт внимания каждой модели — концепции, позволяющей понять, на что именно обращает внимание нейросеть. В результате увеличивается разнообразие ансамбля, и нейросеть определяет объекты на изображениях с минимальной погрешностью. Для оценки эффективности нейросети исследователи провели тесты на нескольких базах данных: CIFAR10, CIFAR100 и ImageNet-1K. Ансамблевая нейросеть SDDE показала лучшие результаты по сравнению с аналогичными алгоритмами, такими как Negative Correlation Learning и Adaptive Diversity Promoting.

«Одной из ключевых задач при разработке моделей машинного обучения является соответствие реальной вероятности той, которую выдает нейросеть. То есть нейросеть уверена настолько, насколько ей легко предсказать целевое значение для данного образца. Обычно сети не сомневаются в своих предсказаниях. В рамках данного исследования мы предложили новый метод диверсификации ансамблей, основанный на логитах — значениях, которые нейросеть выдает перед преобразованием их в вероятности.

Это нововведение позволило повысить точность “мнения” нейросети при обнаружении данных вне распределения, что критически важно для применения моделей в реальных условиях. Например, в режиме автономного вождения необходимо точно определять объекты на дороге, чтобы предотвращать аварии. В медицинской диагностике требуется обширная база данных для правильной постановки диагноза. Некалиброванные модели могут быть чрезмерно уверены в своих ошибочных предположениях. Наша нейросеть не страдает от излишней уверенности, что позволяет ей более адекватно оценивать свои результаты», — отметил студент третьего курса Института компьютерных наук НИТУ МИСИС Максим Жданов.

Для более эффективного обнаружения помех-артефактов исследователи применили подход Outlier Exposure, который заключается в обучении модели на специальных наборах данных, содержащих примеры ДВР. Ранее ученые Университета МИСИС и НИУ ВШЭ уже представили новую нейросеть LAPUSKA, которая справляется с улучшением качества изображений в два раза быстрее по сравнению с аналогичными продуктами.