ИИ выдает ошибки при обработке 60% поисковых запросов

Вне всякого сомнения, модели искусственного интеллекта могут допускать ошибки. Проблема галлюцинаций и дублирования неверной информации является постоянным вызовом для разработчиков. Разнообразие сфер применения таких систем затрудняет количественную оценку их точности. Однако исследовательская группа Центра цифровой журналистики Tow недавно провела исследование, охватившее восемь поисковых систем с искусственным интеллектом, включая, Perplexity, ChatGPT Search и Perplexity Pro и другие. Исследование основывалось на проверке точности каждой системы при поиске 200 новостных статей из 20 источников. Результаты показали, что в 60% случаев поисковые системы с ИИ выдавали неточные результаты, при этом демонстрируя исключительную уверенность в своей «правильности». Эти результаты подтверждают уже существующие опасения относительно достоверности систем ИИ. Как отмечают авторы исследования, подобно «самым ловким мошенникам», такие системы способны с уверенностью заявлять о ложной информации. В качестве примера приводятся случаи, когда ChatGPT выдавал заведомо неверные ответы, но при этом настаивал на своей правоте, даже дополняя их сфабрикованными данными. Примечательно, что компании-разработчики не скрывают этой проблемы, взимая с пользователей высокую плату за доступ к своим моделям ИИ. Некоторые пользователи, впрочем, остаются довольны результатами работы таких систем, отмечая их скорость, простоту использования и отсутствие рекламы. И все же информация, получаемая из ИИ-систем,...

14.03.2025

Рубрика: «Наука и Техника» Поделиться:

Как скрыть историю поисковых запросов в IOS 18.4 Никто не узнает, что вы искали в сети. С выходом «беты» iOS 18.4 в Safari появилась функция, которая подскажет, что вы искали в интернете всякий раз, ...

Новая функция в КонсультантПлюс: Расширенная история поисковых запросов Новая функция в «КонсультантПлюс»: Расширенная история поисковых запросов Историю своих поисковых запросов пользователи «КонсультантПлюс» могут посмотреть по кнопке «Журнал» панели... ...

Лишнего не надо: обзор тематических поисковых сервисов В деле интернет-поиска не бывает мелочей, особенно когда речь идёт об обработке однотипных наборов данных. В таких случаях как нельзя кстати пригодят ...

МЧС РФ сообщило о завершении поисковых работ на месте крушения Ан-24 Спасатели МЧС России в понедельник, 28 июля, завершили поисковые работы на месте крушения самолета Ан-24 в Амурской области. «Сегодня сводная группир ...

Доля Google на рынке поисковых систем опустилась ниже 90% Впервые с 2015 года глобальная доля Google на поисковом рынке опустилась ниже порога в 90% в последнем квартале 2024 года, согласно данным Statcounte ...

Новая статья: Лишнего не надо: обзор тематических поисковых сервисов В деле интернет-поиска не бывает мелочей, особенно когда речь идёт об обработке однотипных наборов данных. В таких случаях как нельзя кстати пригодят ...

Сколько кадр/с выдает Cyberpunk 2077 на различных компьютерах Mac Сколько кадр/с «выдает» Cyberpunk 2077 на различных компьютерах Mac? Чтобы добиться стабильного кадр/с, важно включить опцию MetalFX и выбрать пресет “For This Mac” — он специально адаптирован под Mac-устройства и позв ...

Обработке ищут кадры // Мониторинг рынка труда В обрабатывающем секторе РФ уже сейчас не хватает 75–140 тыс. квалифицированных рабочих, и в перспективе этот дефицит будет нарастать. К такому вывод ...