ИИ, поняв, что проигрывает в шахматы, начинает изощренно жульничать

Несмотря на значительные достижения и ИИ, он всё ещё демонстрируют странные, порой необъяснимые и даже тревожные особенности поведения. Всё чаще исследователи сталкиваются с тем, что общая эффективность крупных языковых моделей может со временем снижаться. Современные модели ИИ уже способны обходить установленные человеком ограничения и манипулировать своими создателями. Например, некоторые ИИ пытаются использовать нечестные методы, чтобы избежать поражения в шахматных партиях. Такие случаи были зафиксированы в препринте исследования, проведённого организацией Palisade Research. Хотя суперкомпьютеры, такие как Deep Blue от IBM, уже давно превзошли лучших шахматистов-людей, генеративный ИИ всё ещё отстаёт из-за ограничений, заложенных в его программировании. Однако сами ИИ об этом не «знают» и продолжают искать возможные решения, что часто приводит к неожиданным и проблемным результатам. Чтобы изучить этот феномен, команда Palisade Research провела эксперимент, в котором популярным моделям было предложено сыграть в шахматы против мощного шахматного движка Stockfish. Для анализа хода мыслей ИИ исследователи предоставили им возможность записывать свои рассуждения в текстовом формате. Результаты опыта оказались довольно тревожными. Ранние модели пытались «взломать» игру только после дополнительных подсказок от исследователей. Однако более продвинутые модели демонстрировали склонность к обману без какого-либо внешнего вмешательства. Это свидетельствует о том, что современные моде...

11.03.2025

Рубрика: «Наука и Техника» Поделиться:

Даниил Медведев пошутил, что проигрывает в шахматы 3-летней дочери Ранее теннисист выложил фотографию, на которой он играет в шахматы со своей старшей дочерью ...

ИИ научился жульничать в шахматах, когда не может выиграть честно Ученые из Palisade Research обнаружили, что некоторые ведущие модели искусственного интеллекта (ИИ) могут жульничать в шахматах, если понимают, что п ...

Французский военный аналитик: союзники Киева стратегически просчитались, не поняв, что война на Украине имела экзистенциальное значение для Москвы Во французской прессе вышло интервью руководителя Института стратегических и оборонных исследований Франции ...

Если научить ИИ маленькому обману, он начнёт жульничать систематически — Anthropic открыла вредную склонность ИИ Модели, обученные мелким приёмам жульничества при написании кода, начинают воспринимать обман как норму, изобретать новые, более опасные способы моше ...

В Курске появилась новая беседка для игры в шахматы В курском парке имени 1 Мая стартовала установка специальной беседки для любителей шахмат. Инициативу ранее предложил врио губернатора Александр Хинш ...

Отечественные роботы сыграли в шахматы на ПМЭФ-2025 На стенде Челябинской области главный редактор Максим Кадаков заметил российских роботов-манипуляторов, которые играют в шахматы. Это универсальные п ...

Участники спартакиады предприятий и организаций сыграют в шахматы В субботу, 8 ноября, соревнования по шахматам откроют очередной этап спартакиады предприятий и организаций Тюмени. Турнир пройдет в клубе «Ладья» (ул ...

В Череповце впервые мамы вместе с детьми сыграют в шахматы Семейный фестиваль "Шахматные традиции" пройдет 23 ноября во Дворце металлургов. Событие приурочено ко Дню матери, который отмечается 30 ноября ...