У искусственного интеллекта есть проблемы с уверенностью в себе

По данным нового исследования, проведенного учеными из Google DeepMind и Университетского колледжа Лондона, большие языковые модели (LLM) иногда теряют уверенность при ответе на вопросы и отказываются от правильных ответов. LLM — это мощные системы искусственного интеллекта, которые понимают и воспроизводят человеческий язык. Они используются в различных отраслях, таких как финансы, здравоохранение и информационные технологии , для решения задач, требующих рассуждений и принятия решений. Поэтому их точность и надёжность имеют первостепенное значение, а это означает, что они должны быть всегда уверены в своих ответах. Однако они могут колебаться. Для безопасного использования LLM их ответы сопровождаются оценками уверенности. Но неясно, как они используют их для управления своим поведением. Это исследование, опубликованное на сервере препринтов arXiv , показывает, что они могут быть слишком уверены в своих первоначальных ответах, но терять уверенность и менять свое мнение, когда им предъявляют неверный контраргумент. Проверка уверенности в LLM Чтобы исследовать этот очевидный парадокс, исследователи проверили, как обладатели степени магистра права обновляют свою уверенность и решают, следует ли изменить свой ответ при получении внешней консультации. Сначала «отвечающему LLM» предлагался вопрос с бинарным выбором ответа. После ответа он получал совет от второго LLM, сопровождаемый оценкой точности ответа. Этот «совет LLM» также мог либо согласиться с первым ответом отвечающего...

25.07.2025

Рубрика: «Игры и Интернет» Поделиться:

Власти ХМАО облегчат себе жизнь с помощью искусственного интеллекта Губернатор ХМАО Руслан Кухарук заявил о внедрении искусственного интеллекта для оптимизации работы региональных органов власти. Об этом он рассказал ...

Сбер: В российском праве уже есть нормы ответственности в сфере искусственного интеллекта В российском праве уже есть точечные нормы по ответственности в сфере искусственного интеллекта (ИИ). Об этом заявил первый заместитель председателя ...

Андрей Разин: Cупруга подарила расслабляющий тренажер массаж головы делает, с расслабляющими звуками, искусственного интеллекта нет. Еще кресло есть Андрей Разин: «Cупруга подарила расслабляющий тренажер – массаж головы делает, с расслабляющими звуками, искусственного интеллекта нет. Еще кресло есть – классно расслабляешься» – Вы в своем телеграм-канале показали, как расслабляетесь после тяжелого рабочего дня. Расскажите, что это вообще за аппарат, как он работает? – Вот ...

Isambard-AI: новая эра искусственного интеллекта в Великобритании Создание суперкомпьютера стало возможным благодаря инвестициям в размере 225 миллионов фунтов и партнёрству с такими компаниями, как NVIDIA и Hewlett ...

Лукашенко предупредил об опасности искусственного интеллекта К чему приведет развитие искусственного интеллекта в мире неизвестно. Об этом 10 июля заявил президент Белоруссии Александр Лукашенко на открытии XXX ...

Скалар представила Машину для искусственного интеллекта «Скала^р» представила «Машину для искусственного интеллекта» «Скала^р» представила новый программно-аппаратный комплекс (ПАК) для работы с моделями искусственного интеллекта... ...

Windows превращается в платформу для искусственного интеллекта Новые возможности будут интегрированы на уровне системы, оборудования и чипов, что позволит организациям не просто экспериментировать с AI, а достига ...

Что думают психологи о зависимости от искусственного интеллекта Манипуляция со стороны разработчиков Термин думпромптинг (с англ. doom – тревога, prompting – введение запросов) был предложен врачом из ...