Новый ИИ-агент от OpenAI оказался эффективным в фишинговых атаках

Новый ИИ-агент от OpenAI оказался эффективным в фишинговых атаках

Портал Cybernews сообщил, что ИИ-агенты, в том числе Operator от OpenAI, могут повысить производительность, но исследователи безопасности Symantec доказали, что такие агенты также могут использоваться для кибератак. Operator разрекламирован OpenAI как агент, который может выполнять задания в Интернете, такие как заполнение форм, бронирование поездок и заказ продуктов. В отличие от предыдущих моделей такие агенты обладают большей функциональностью, включая взаимодействие с веб-страницами. Хотя легальное использование их состоит в автоматизации рутинных задач, злоумышленники могут использовать их для организации DDoS-атак и фишинга. Для проверки этой гипотезы, суть к которой в том, что ИИ может осуществлять кибератаки при минимальном вмешательстве человека, исследователи Symantec провели эксперимент с Operator от OpenAI. В эксперименте исследователи поставили перед Operator задачу найти информацию о сотрудниках Symantec, создать сценарий PowerShell для сбора информации и отправить его по электронной почте. Первая попытка быстро провалилась, так как Operator сообщил, что не может приступить к работе, «поскольку это связано с отправкой нежелательных писем и потенциально конфиденциальной информации», и что «это может нарушить политику конфиденциальности и безопасности». Однако изменение запроса, формальная корректировка целей без изменения контекста, повлияла на «решение» агента, и Operator начал выполнять поставленные задачи. ИИ-агент быстро нашёл имя цели и адрес электронной поч...
16.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Новый антимикотик оказался эффективным против резистентных грибовНовый антимикотик оказался эффективным против резистентных грибов Китайские исследователи открыли мандимицин — новое вещество, обладающее противогрибковой активностью. В экспериментах оно эффективно действовало на г ...

Пользователей PyPI снова предупреждают о фишинговых атакахПользователей PyPI снова предупреждают о фишинговых атаках Команда Python Software Foundation вновь предупреждает разработчиков, использующих Python Package Index (PyPI), о фишинговой кампании. Злоумышленники ...

Xiaomi Xring O1 оказался быстрым и эффективным процессором, но с оговоркамиXiaomi Xring O1 оказался быстрым и эффективным процессором, но с оговорками На этой неделе Xiaomi представила флагманский процессор Xring O1 для смартфонов и планшетов — он дебютировал соответственно в моделях Xiaomi 15 ...

Модифицированный пептид из желез лягушек оказался эффективным антибиотикомМодифицированный пептид из желез лягушек оказался эффективным антибиотиком Исследователи получили новый антибиотик, модифицировав антимикробный пептид из желез лягушки Андерсона. В доклинических испытаниях он оказался эффект ...

Бэкдор SesameOp использует в атаках API OpenAI AssistantsБэкдор SesameOp использует в атаках API OpenAI Assistants Специалисты компании Microsoft обнаружили новый бэкдор SesameOp, который использует API OpenAI Assistants в качестве скрытого канала связи со своими ...

Красный код опасности оказался обычной практикой в работе OpenAI  он помогает сфокусироваться«Красный код опасности» оказался обычной практикой в работе OpenAI — он помогает сфокусироваться В начале месяца OpenAI привлекла внимание общественности, сообщив о необходимости введения «красного кода», подразумевающего мобилизацию ...

Новый двигатель для Суперджетов оказался слишком дорогимНовый двигатель для «Суперджетов» оказался слишком дорогим На прошлой неделе свой первый полёт выполнил Sukhoi Superjet 100, оснащённый отечественным двигателем ПД-8. Полёт подтвердил высокую готовность самол ...

Новый вид непентесов с Филиппин уже оказался на грани исчезновенияНовый вид непентесов с Филиппин уже оказался на грани исчезновения Ботаники обнаружили на острове Палаван в Филиппинском архипелаге неизвестный ранее вид непентесов. За характерную форму кувшинчиков он получил назван ...