OpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответы

OpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответы

Исследователи из OpenAI заявили, что обнаружили внутри ИИ-моделей скрытые механизмы, соответствующие нежелательным шаблонам поведения, приводящим к небезопасным ответам. Об этом стало известно из новой научной работы, опубликованной компанией. В ходе исследования были выявлены закономерности, которые активировались, когда модель начинала вести себя непредсказуемо....
20.06.2025
Сообщает: Источник  
Рубрика: «Software»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

OpenAI: ИИ бесполезно наказывать за ложь  он начинает хитрить ещё большеOpenAI: ИИ бесполезно наказывать за ложь — он начинает хитрить ещё больше Галлюцинации, то есть заведомо неверные ответы, которые иногда дают модели искусственного интеллекта, стали одной из основных проблем всей отрасли &m ...

Внутри новенькой Lada Vesta обнаружилось гениальное нововведение, и это не сарказмВнутри новенькой Lada Vesta обнаружилось гениальное нововведение, и это не сарказм Фото: Lada В ходе тестирования обновленной Lada Vesta оказалось, что инженеры встроили в нее новый тип защиты. Он не позволит повредить мотор, КПП и ...

Американист Ордуханян: Слова Трампа о российской агрессии против Гренландии  это сарказмАмериканист Ордуханян: Слова Трампа о «российской агрессии» против Гренландии – это сарказм Европейцы сами создали и поверили в чушь по поводу «российской агрессии», поэтому Трамп троллит их, сказал газете ВЗГЛЯД американист Рафаэль Ордуханя ...

Переписка вскрыла отчаянное положение NissanПереписка вскрыла отчаянное положение Nissan Японский автопроизводитель обратился к кредиторам в Европе и Великобритании с просьбой предоставить отсрочку платежей. Об этом пишет Reuters со ссылк ...

Экс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублейЭкс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублей Девушке грозит условное осуждение до 3 лет и штраф в размере до 200 000. Экс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублей. Заведе ...

Темные дела офтальмолога элитыТемные дела офтальмолога элиты В России человеку многое прощают за красивые глаза, особенно если эти глаза профессионально умеют выявлять катаракту у сильных мира сего. Именно так ...

Тёмные стороны домов с привидениями и почему там так жуткоТёмные стороны домов с привидениями и почему там так жутко Если вам хочется острых ощущений, вовсе не обязательно ждать встречи с настоящим призраком. Достаточно отправиться в тур по старым домам и замкам, гд ...

238 тонн электронных отходов: опасная находка в порту Бангкока вскрыла международную проблему238 тонн электронных отходов: опасная находка в порту Бангкока вскрыла международную проблему Власти Таиланда сообщили о конфискации в порту Бангкока 238 тонн нелегальных электронных отходов из США. Это одна из крупнейших партий, обнаруженных ...