Новый российский стресс-тест проверит нейросети на устойчивость к краже личных данных

Новый российский стресс-тест проверит нейросети на устойчивость к краже личных данных

Российские ученые представили новый метод стресс-тестирования нейросетей GLiRA, который выявляет их уязвимость к утечке данных. Исследование проводилось специалистами Института AIRI, ИСП РАН, Сбера, МТУСИ и Сколтеха. GLiRA позволяет определить, входила ли конкретная информация в обучающий набор модели. Это поможет анализировать потенциальные угрозы утечек и разрабатывать стратегии защиты. Проблема безопасности данных становится все более актуальной, особенно в областях, где нейросети обрабатывают конфиденциальную информацию, таких как медицина и финансы. Метод основан на принципе дистилляции знаний и работает в условиях «черного ящика», когда атакующий не имеет доступа к архитектуре модели, но может взаимодействовать с ней через интерфейс. Ученые использовали этот подход для обучения теневых моделей, которые имитируют поведение оригинальных нейросетей. В ходе тестов точность атак с применением GLiRA оказалась на 7% выше, чем у существующих методов. По словам руководителя научной группы Олега Рогова, понимание уязвимостей поможет разработчикам совершенствовать механизмы защиты нейросетей....
25.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

ЦБ: российский банковский сектор сохраняет устойчивостьЦБ: российский банковский сектор сохраняет устойчивость В последние полгода российская экономика продолжила рост, банковский сектор сохраняет устойчивость, следует из отчета Центробанка. Важными индикатора ...

ЦБ: российский бизнес сохраняет финансовую устойчивостьЦБ: российский бизнес сохраняет финансовую устойчивость Волны банкротств предприятий ожидать не стоит, сообщила директор департамента финансовой стабильности ЦБ РФ Елизавета Данилова ...

Apple поймала Tik Tok на сборе личных данных пользователейApple поймала Tik Tok на сборе личных данных пользователей Приложение «проникает» в буфер обмена смартфона. Фото: www.pexels.com Компания Apple сообщила о том, что поймала приложение Tik Tok на сборе личных д ...

В России началась охота на сервисы по пробиву личных данныхВ России началась «охота» на сервисы по пробиву личных данных Как написала Baza, УМВД дало распоряжение региональным управлениям выявить сайты, каналы, боты и прочие ресурсы, раскрывающие личные данные россиян. ...

Рифат Сабитов рассказал об угрозах сбора личных данных в сетиРифат Сабитов рассказал об угрозах сбора личных данных в сети Какие меры помогут остановить утечки данных? Варианты решения проблемы обсудили участники круглого стола, посвященного проблемам сбора в сети личной ...

Полезная, но опасная функция в телефонах грозит потерей личных данныхПолезная, но опасная функция в телефонах грозит потерей личных данных Россиянам советуют быть осторожными с функцией демонстрации экрана в мессенджерах. Именно эта функция оказалась опасной, так как мошенники научились ...

Spiegel сообщил об обнаружении личных данных советников Дональда ТрампаSpiegel сообщил об обнаружении личных данных советников Дональда Трампа Немецкое издание Spiegel в результате собственного расследования выявило, что в открытом доступе в интернете находятся персональные контактные данные ...

В Роскачестве рассказали о рисках использования чат-ботов в поиске личных данныхВ Роскачестве рассказали о рисках использования чат-ботов в поиске личных данных Такие сервисы безвозвратно передают информацию разработчикам, данные могут использовать для кибератак ...