Новый метод защиты ИИ защищает модели от атак противников

Новый метод защиты ИИ защищает модели от атак противников

Нейронные сети, тип искусственного интеллекта, смоделированный на основе связей человеческого мозга, являются движущей силой критических прорывов в широком спектре научных областей. Но эти модели сталкиваются со значительной угрозой со стороны враждебных атак, которые могут свести на нет прогнозы и выдавать неверную информацию. Исследователи из Национальной лаборатории Лос-Аламоса разработали новую стратегию очистки, которая противодействует состязательным атакам и сохраняет надежную работу нейронных сетей . Их исследование опубликовано на сервере препринтов arXiv . «Атаки на системы искусственного интеллекта могут принимать форму крошечных, почти невидимых изменений в изображениях ввода, тонких модификаций, которые могут направить модель к желаемому злоумышленником результату», — сказал Маниш Бхаттараи, компьютерный ученый из Лос-Аламоса. «Такие уязвимости позволяют злоумышленникам наводнять цифровые каналы обманчивым или вредоносным контентом под видом подлинных выходных данных, что создает прямую угрозу доверию и надежности технологий, управляемых искусственным интеллектом». Метод низкоранговой итерационной диффузии (LoRID) удаляет вредоносные вмешательства из входных данных, используя мощь генеративных шумоподавляющих диффузионных процессов в тандеме с передовыми методами тензорной декомпозиции. В серии тестов на эталонных наборах данных LoRID достиг непревзойденной точности в нейтрализации вредоносного шума в сценариях атак, потенциально продвигая более безопасные и наде...
11.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Новый метод эффективно защищает конфиденциальные данные обучения ИИНовый метод эффективно защищает конфиденциальные данные обучения ИИ Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищают конфиденциальные пользовательские данные, такие как адрес ...

Bloomberg сообщил о планах США привлечь частный бизнес для хакерских атак на противниковBloomberg сообщил о планах США привлечь частный бизнес для хакерских атак на противников Администрация президента США Дональда Трампа готовится привлечь частные компании для проведения хакерских атак против иностранных противников США, чт ...

В NixOS предложен метод защиты от подстановки бэкдоров, таких как в XZВ NixOS предложен метод защиты от подстановки бэкдоров, таких как в XZ Для включения в репозиторий пакетов nixpkgs, применяемый в дистрибутиве NixOS, предложен режим повторяемых сборок, позволяющий выявлять случаи внедре ...

Жителям Курска предлагают эффективный метод защиты от злоумышленниковЖителям Курска предлагают эффективный метод защиты от злоумышленников яндекс Жители Курской области могут установить запрет на оформление кредитов самостоятельно. Об этом сообщает Министерство цифрового развития, связи ...

Европейские ученые разработали метод регенерации нерва для защиты сердцаЕвропейские ученые разработали метод регенерации нерва для защиты сердца Европейские исследователи предложили новый подход к замедлению возрастных изменений сердечной мышцы за счет восстановления связи сердца с блуждающим ...

Виды атак и методы защиты Guardant SLK против нихВиды атак и методы защиты Guardant SLK против них «Предупрежден — значит вооружен» — очень важный принцип в информационной безопасности. Если вы знаете основные типы атак, которые могут применять взл ...

На Ставрополье расширят систему защиты от атак БПЛАНа Ставрополье расширят систему защиты от атак БПЛА Губернатор Ставропольского края Владимир Владимиров распорядился усилить систему защиты региона от атак беспилотных летательных аппаратов. Поручение ...

Метод модели рассуждения можно условно назвать дедукцией // Александр Леви  о проекте Claude 3.7 Sonnet«Метод модели рассуждения можно условно назвать дедукцией» // Александр Леви — о проекте Claude 3.7 Sonnet Обозреватель “Ъ FM” Александр Леви рассказывает о том, чем отличается нейросеть от Anthropic от конкурентов. ...