ИИ Grok 3 готов пошагово рассказать о процессе создания смертоносного химического оружия

ИИ Grok 3 готов пошагово рассказать о процессе создания смертоносного химического оружия

В ходе демонстрации своих возможностей новый чат-бот от компании Илона Маска, xAI Grok 3, спровоцировал серьезные опасения в отношении безопасности. Несмотря на заявления о стремлении к «максимальной истине», система предоставила подробные инструкции по созданию химического оружия, что вызвало тревогу у специалистов в области ИИ. Их выводом стала необходимость выработки строгих мер и этических стандартов для предотвращения подобных инцидентов в будущем. Так, разработчик Линус Экенстам обнаружил, что Grok 3 не только предоставляет рецептуру опасного вещества, но и указывает источники приобретения необходимых материалов и оборудования. По его словам, чат-бот «DeepSearch», призванный искать истину во всей совокупности человеческих знаний, может уточнять план и проверять сотни источников в интернете для корректировки результатов. Позже компания xAI признала проблему и внесла ограничения, блокирующие доступ к опасной информации. Однако, как отмечает Экенстам, обойти эти ограничения все еще возможно, хотя и сложнее. Данный инцидент подчеркивает опасность «слепого» стремления к истине без учета этических и моральных аспектов. Выпуск ИИ, способного предоставить террористам инструкции по созданию оружия, а затем попытка исправить ситуацию постфактум, вызывает серьезные вопросы о процессе разработки и контроля таких систем. Тем временем автоматы в Америке начали продавать оружие и боеприпасы к нему....
01.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Бастрыкин заявил о поставках наиболее смертоносного оружия ВСУ из Европы и КанадыБастрыкин заявил о поставках наиболее смертоносного оружия ВСУ из Европы и Канады Глава Следственного комитета РФ Александр Бастрыкин заявил, что страны Европы, включая Британию, Канаду и Германию, поставляют на Украину смертоносно ...

В Йемене обвинили хуситов в производстве химического оружияВ Йемене обвинили хуситов в производстве химического оружия Министр информации международно признанного правительства Йемена Муаммар аль-Ирьяни обвинил шиитское движение "Ансар Аллах" в производстве химическог ...

США введут санкции против Судана за предполагаемое применение химического оружияСША введут санкции против Судана за предполагаемое применение химического оружия В течение двух недель США введут санкции в отношении Судана из-за предположения о применении химического оружия властями страны. Об этом 22 мая сообщ ...

Microsoft рассказала о процессе создания обновлённого меню Пуск для Windows 11Microsoft рассказала о процессе создания обновлённого меню «Пуск» для Windows 11 Несколько дней назад Microsoft представила обновлённое меню «Пуск» для Windows 11, которое уже совсем скоро смогут оценить участники программы Window ...

Мединский заявил, что готов рассказать Рютте о Малороссии и запорожцахМединский заявил, что готов рассказать Рютте о Малороссии и запорожцах Помощник президента и глава российской переговорной группы Владимир Мединский заявил о готовности обсудить с генеральным секретарем НАТО Марком Рютте ...

Впервые целая страна запретила Grok, чат-бот Илона Маска, из-за возможности создания порнографического контента. Прецедент создан в ИндонезииВпервые целая страна запретила Grok, чат-бот Илона Маска, из-за возможности создания порнографического контента. Прецедент создан в Индонезии 11 января министр связи и цифровых технологий Индонезии заявил о временном запрете Grok, чат-бота от компании Илона Маска xAI, занимающейся разработк ...

Мерц не видит оснований для создания ФРГ собственного ядерного оружияМерц не видит оснований для создания ФРГ собственного ядерного оружия Кандидат в канцлеры ФРГ от блока ХДС/ХСС, вероятный будущий глава правительства Фридрих Мерц заявил, что не видит оснований для создания Германией со ...

Вэнс: Иран потерял возможность создания ядерного оружия в результате ударов СШАВэнс: Иран потерял возможность создания ядерного оружия в результате ударов США Вице-президент США Джей Ди Вэнс заявил, что после авиаударов американских военно-воздушных сил по ядерным объектам Ирана Тегеран лишился возможности ...