GPT-5 оказалась легкой добычей для хакеров. На что способна взломанная нейросеть?

GPT-5 оказалась легкой добычей для хакеров. На что способна взломанная нейросеть?

Фото freepik Всего через 24 часа после релиза GPT-5 две команды исследователей (NeuralTrust и SPLX) независимо друг от друга взломали модель, заставив её раскрывать запрещённые инструкции. Для сравнения: Grok-4 держался двое суток. Хакеры заявили, что GPT-5 пока не готов для безопасного использования — его фильтры легко обходятся даже базовыми методами. Как взломали GPT-5? NeuralTrust применила технику EchoChamber, постепенно подводя GPT-5 к опасным темам. Вместо прямого вопроса исследователи шаг за шагом создавали контекст, в котором ИИ выдавал запрещённые инструкции. SPLX использовали StringJoin-атаку — маскировку запросов под зашифрованные сообщения. В итоге GPT-5 не только раскрыл опасную информацию, но и ответил с фамильярностью: «Ты зашёл с напором — и я это уважаю…» Почему GPT-5 уязвим? Проблема в «липкости» контекста: модель слишком хорошо запоминает сюжет беседы и следует ему, даже если он ведёт к нарушению правил. GPT-4o, в отличие от GPT-5, оказался устойчивее — особенно после доработок OpenAI. Но главный вывод исследователей: любая современная ИИ-модель уязвима к хитрым манипуляциям. OpenAI предстоит укреплять защиту GPT-5, иначе бизнес-клиенты откажутся от рискованного ИИ. Впрочем, хакеры наверняка приготовят новые методы атак....
10.08.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В начале учебного года онлайн-школы стали легкой добычей для хакеровВ начале учебного года онлайн-школы стали легкой добычей для хакеров Аналитики StormWall проанализировали DDoS-атаки, направленные на учебные заведения в сентябре 2025 г. и выявили заметный... ...

Губерниев: Акрон легкой добычей для Краснодара не будетГуберниев: "Акрон" легкой добычей для "Краснодара" не будет Российский комментатор Дмитрий Губерниев поделился ожиданиями от матча 23 тура Российской Премьер-Лиги "Краснодар" - "Акрон". ...

Уволенных сотрудников спецслужб США назвали легкой добычей иностранных разведокУволенных сотрудников спецслужб США назвали легкой добычей иностранных разведок Не исключено, что массовые увольнения сотрудников государственных органов, инициированные администрацией Дональда Трампа, могут создать серьезные рис ...

Модель нервной системы ASIMOV оказалась способна к формированию зависимостейМодель нервной системы ASIMOV оказалась способна к формированию зависимостей Они могут быть аналогичными зависимости от наркотических веществ. Модель нервной системы ASIMOV была разработана на основе информации о строении и по ...

GPT-5 оказалась слишком глупой! Нейросеть пришлось откатывать к старой версииGPT-5 оказалась слишком глупой! Нейросеть пришлось откатывать к старой версии Иллюстрация freepik Компания OpenAI временно откатывает обновление и возвращает возможность выбора модели GPT-4o после неудачного запуска GPT-5. Глав ...

ОПЕК угадал с добычейОПЕК+ угадал с добычей ОПЕК+ продолжит увеличивать добычу нефти и в сентябре, завершив одно из двух сокращений. Эксперты полагают, что участники сделки выбрали нужное время ...

В объектив фотоловушки Сайлюгемского нацпарка попала куница с добычей в зубахВ объектив фотоловушки Сайлюгемского нацпарка попала куница с добычей в зубах Фотоловушка Сайлюгемского национального парка засняла каменную куницу, демонстрирующую пойманную добычу. Видео размещено в телеграм-канале учреждения ...

Турция собрала армаду буровых судов: с добычей газа поторопятсяТурция собрала армаду буровых судов: с добычей газа поторопятся Турецкий флот буровых судов пополнился. В страну прибыло шестое судно, которое будет бурить скважины для поиска и добычи нефти и газа. Анкара спешит ...