Математик РУДН предложил новый способ использования нейронных сетей для работы с данными больших размерностей

Математик РУДН предложил новый способ использования нейронных сетей для работы с данными больших размерностей

Математик РУДН предложил новый подход к изучению распределения вероятностей наблюдаемых данных с помощью искусственных нейронных сетей. Новый подход лучше взаимодействует с так называемыми выбросами — с теми объектами входных данных, которые значительно выделяются из общей выборки.

Восстановление распределения вероятностей наблюдаемых данных искусственными нейронными сетями — это наиболее важная часть машинного обучения. Распределение вероятностей не только позволяет прогнозировать поведение исследуемой системы, но и количественно оценить неопределенность, с которой делаются прогнозы. Главная трудность заключается в том, что, как правило, распределения данных в точном виде не доступны. Для решения этой проблемы используют байесовские и близкие к ним приближенные методы. Но их использование увеличивает сложность нейронной сети. Снизить неопределенность позволяет комбинация байесовских методов с другими (например, с дельта-методом).

Математики РУДН предложили использовать детерминированные веса для нейронных сетей, что позволяет преодолеть ограничения байесовских методов. Они получили формулу, которая позволяет корректно оценить дисперсию распределения наблюдаемых данных. Предложенную модель проверили на разных данных: синтетических и реальных; на данных, содержащих выбросы и на тех, из которых они были предварительно удалены. Новый метод позволяет восстанавливать распределения вероятностей с недоступной прежде точностью.

Математик РУДН Павел Гуревич вместе с коллегами использовали детерминированные веса для нейронных сетей, чего никогда не делалось в пределах байесовских нейронных сетей. Математики РУДН предположили, что истинное распределение является нормальным с неизвестным средним и дисперсией. Фактически они создали обновленную версию метода сопряженных градиентов (gradient conjugate prior), подходящую для нейронных сетей. В результате расчётов Павел Гуревич получил формулу, которая позволяет корректно оценить дисперсию распределения данных. Новый метод оценили по методу AUC (area under the curve — это площадь под графиком, который позволяет оценить качество классификации; чем выше оценка AUC, тем качественнее классификация). В результате получилось лучшее значение оценки AUC как для «чистых» наборов данных, так и для данных, содержащих выбросы.

Метод, который предложили математики РУДН, применим, например, к задаче выявления мошенничества (fraud detection): для объекта определяется, к какому из двух классов он принадлежит (мошенничество или не мошенничество). Такие методы относятся к классу «обучение с учителем» (supervised learning). Предложенный метод поможет эффективно определять, какие транзакции, скорее всего, будут мошенническими, при этом значительно уменьшая количество так называемых «ложных срабатываний» (false positives). Метод, предложенный математиками РУДН, чрезвычайно эффективен в обнаружении и предотвращении мошенничества, поскольку он позволяет автоматически обнаруживать «подозрительные» шаблоны в больших объемах данных.

Статья в журнале Artificial Intelligence.

Новости
Все новости
Наука
29 июля
Переработка биомассы в биотопливо и платформа для обнаружения пестицидов: чем занимается лаборатория ресурсосберегающих технологий и микропластика РУДН

Всего несколько лет в РУДН работает лаборатория ресурсосберегающих технологий и микропластика, однако её коллектив уже добился впечатляющих результатов. Проводимые здесь исследования направлены на создание экологичных материалов, разработку новых методов синтеза и переход к устойчивому будущему.

Наука
28 июля
Учёные РУДН изучат микробиом арктических городов для создания устойчивой зелёной инфраструктуры при поддержке гранта РНФ

Коллектив исследователей Центра смарт-технологий устойчивого развития городской среды АТИ РУДН получил продление гранта Российского научного фонда на 2026–2027 годы и его финансирование на сумму 7 млн рублей в год. Проект «Экологические функции и экосистемные услуги микробного сообщества почв и почвенных конструкций городов Арктики в условиях потепления климата и антропогенной нагрузки» направлен на комплексное исследование микробиома почв зелёной инфраструктуры арктических городов и разработку научных подходов к созданию устойчивых почвенных конструкций, пригодных для озеленения в условиях многолетней мерзлоты.

Наука
27 июля
Лаборатория бактериологии НИИ молекулярной и клеточной медицины РУДН: изучение микробиоты человека для создания новых препаратов

В структуре НИИ молекулярной и клеточной медицины медицинского института РУДН со 2 апреля 2024 года работает научная лаборатория бактериологии. Возглавляет её кандидат медицинских наук Александр Николаевич Сенягин. В составе коллектива также кандидат медицинских наук, доцент, старший научный сотрудник Ирина Викторовна Подопригора, стажёры-исследователи Милана Сергеевна Дас и Юрий Александрович Сорокин. О том, как устроена работа лаборатории, какие задачи решают учёные и какие разработки уже находят применение в медицине, мы поговорили с её заведующим.