Новый метод эффективно защищает конфиденциальные данные обучения ИИ

Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищают конфиденциальные пользовательские данные, такие как адреса клиентов, от злоумышленников, которые могут попытаться извлечь их из моделей ИИ, но они часто делают эти модели менее точными. Недавно исследователи Массачусетского технологического института разработали структуру, основанную на метрике конфиденциальности, называемой PAC Privacy. , который может поддерживать производительность модели ИИ, гарантируя, что конфиденциальные данные, такие как медицинские изображения или финансовые записи, останутся в безопасности от злоумышленников. Теперь они продвинулись в этой работе на шаг дальше, сделав свою технику более вычислительно эффективной, улучшив компромисс между точностью и конфиденциальностью и создав формальный шаблон, который можно использовать для приватизации практически любого алгоритма без необходимости доступа к внутренним механизмам этого алгоритма. Команда использовала новую версию PAC Privacy для приватизации нескольких классических алгоритмов анализа данных. и задач машинного обучения. Они также продемонстрировали, что более «стабильные» алгоритмы легче приватизировать с помощью их метода. Прогнозы стабильного алгоритма остаются последовательными, даже когда его обучающие данные немного изменены. Большая стабильность помогает алгоритму делать более точные прогнозы на ранее невиданных данных. Исследователи утверждают, что возросшая эффективность новой структуры конфиденциа...

21.04.2025

Рубрика: «Software» Поделиться:

Новый метод защиты ИИ защищает модели от атак противников Нейронные сети, тип искусственного интеллекта, смоделированный на основе связей человеческого мозга, являются движущей силой критических прорывов в ш ...

Новый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные Группа специалистов по информатике из Калифорнийского университета в Риверсайде разработала метод удаления личных и защищенных авторским правом данны ...

Сводные таблицы в Р7 офис: анализируем данные быстро и эффективно Многие пользователи считают, что сводные таблицы — это сложный и... Сообщение Сводные таблицы в Р7 офис: анализируем данные быстро и эффективно появи ...

Ученые ВШЭ создали метод машинного обучения для моделирования квантовых процессов Ученые ВШЭ совместно с коллегами из Университета Южной Калифорнии разработали алгоритм, который быстро и точно... ...

Представлен формат изображений Spectral JPEG XL, который эффективно сохранит данные даже о невидимом свете Учёные Intel разработали формат для записи изображения Spectral JPEG XL — он позволяет записывать данные в широком диапазоне спектра за предела ...

Как Apple защищает ваши личные данные: 8 уровней безопасности iPhone, iPad, Mac и других устройств Apple не просто заявляет о защите своих устройств — она действительно делает всё возможное, чтобы обезопасить данные пользователей. Причём начинается ...

На Авито ваши персональные данные как дома: пользователям рассказали, как платформа защищает их личную информацию На «Авито» ваши персональные данные — как дома: пользователям рассказали, как платформа защищает их личную информацию «Авито» запустил новую коммуникационную кампанию «Дом для данных», объясняющую пользователям, как платформа работает с их персональными данными. Прое ...

Украина передаст союзникам данные с поля боя для обучения систем ИИ Украина создаст систему, позволяющую ее союзникам обучать свои военные модели искусственного интеллекта (ИИ) на основе боевых данных, собранных за че ...