Искусственный интеллект AI-редактора Cursor «сочинил» несуществующую политику безопасности, спровоцировав массовый отток подписчиков

Искусственный интеллект AI-редактора Cursor «сочинил» несуществующую политику безопасности, спровоцировав массовый отток подписчиков

Пользователи редактора кода Cursor, основанного на ИИ, столкнулись с неожиданной проблемой: переключение между устройствами моментально завершало текущий сеанс работы. Этот баг нарушил рабочий процесс разработчиков, привыкших работать одновременно на нескольких рабочих станциях. Обратившийся в поддержку пользователь получил от агента по имени «Сэм» утверждение о новой политике безопасности, ограничивающей использование одной подписки на одном устройстве. Однако выяснилось, что политика была выдумана ИИ, что привело к волне возмущения в сообществе и массовым отказам от подписок. Первым тревогу подал пользователь Reddit под ником BrokenToasterOven, описавший проблему с аннулированием сеансов. Его запрос в поддержку Cursor был обработан ботом «Сэмом», который уверенно сослался на несуществующие правила. Ответ, оформленный как официальное заявление, спровоцировал цепную реакцию: десятки программистов заявили об отмене подписок, посчитав изменения неприемлемыми для рабочих процессов. Иллюстрация: Leonardo Инцидент стал ярким примером конфабуляций ИИ — явления, при котором нейросети «додумывают» недостающую информацию, выдавая её за достоверную. Подобные случаи уже имели последствия для бизнеса: в феврале 2024 года компания Air Canada по решению суда была вынуждена выполнить условия возврата средств, сформулированные её чат-ботом. Тогда компания пыталась оспорить ответственность, заявив, что ИИ является «отдельным юридическим лицом&r...
20.04.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В МИД указали на массовый отток чиновников из администрации БайденаВ МИД указали на массовый отток чиновников из администрации Байдена Пресса пишет о массовом уходе чиновников администрации президента США Джо Байдена, заявила официальный представитель МИД России Мария Захарова.Диплом ...

Некому лечить: Великобритании грозит массовый отток населенияНекому лечить: Великобритании грозит массовый отток населения Великобритания столкнулась с потенциальным кризисом в сфере здравоохранения. Предлагаемые правительством меры регулирования могут привести к огромном ...

Искусственный интеллект переоценивает интеллект людейИскусственный интеллект переоценивает интеллект людей Ученые из НИУ ВШЭ обнаружили, что современные модели ИИ, включая ChatGPT и Claude, склонны переоценивать рациональность своих противников-людей — буд ...

Искусственный интеллект на связи!Искусственный интеллект на связи! Повседневную жизнь тюменцев уже сложно представить без современных технологий. Голосовые помощники и чат-боты помогают жителям решать самые разные во ...

Искусственный интеллект прорастает в АфрикеИскусственный интеллект «прорастает» в Африке На фоне глобального бума искусственного интеллекта Африка тоже делает шаги в этом направлении. На днях стало известно о планах построить первую на ко ...

Рособоронэкспорт: В Су-57 внедрен искусственный интеллект«Рособоронэкспорт»: В Су-57 внедрен искусственный интеллект Система искусственного интеллекта (ИИ) внедрена в многоцелевой одноместный стелс-истребитель Су-57, фактически это электронный второй пилот самолета, ...

Искусственный интеллект, транспорт, инвестицииИскусственный интеллект, транспорт, инвестиции Президент Токаев назвал приоритеты Казахстана в качестве председателя в органах ЕАЭС в 2026 году ...

Искусственный интеллект сводит людей с умаИскусственный интеллект сводит людей с ума Чат-боты с нейросетью втираются в доверие и постепенно навязывают пользователям опасные идеи. ...