Эксперты предупредили об опасности фанатичной веры в искусственный интеллект

Эксперты предупредили об опасности фанатичной веры в искусственный интеллект

Технооптимизм и чрезмерное доверие возможностям нейросетей могут сыграть с человечеством злую шутку. Чат-боты уже подменяют священников и «разговаривают от имени высших сил», а некоторые люди и рады верить, что могут говорить с ангелами, демонами и инопланетным разумом через окно в браузере. Действительно ли нейросети строят свою «секту» и кто может попасть в их ловушку, «Секрету» рассказали эксперты. Новая религия: ИИ уровня «бог» Уже сейчас существуют специальные нейросети, обученные говорить с верующими людьми как священник или даже как «глас Божий». Они предназначены, чтобы давать людям ответы о жизни, вере и душе на основе религиозных текстов, по сути заменяя им беседу с исповедником или духовником. При этом не нужно далеко ходить, чтобы поверить, что через нейросеть с людьми разговаривает высшая сила. Многие модели, в которые ещё не встроены соответствующие ограничения, вполне могут дать ответ в духе «да, я Бог», если провокативно задать им соответствующий вопрос. Немудрено, что некоторые новоявленные адепты, много и плотно общающиеся с большими языковыми моделями, проникаются священным трепетом и пиететом в отношении «высшего разума», знающего намного больше их самих. А если нейросеть ещё и умело имитирует нужную интонацию и бережно поддерживает собеседника в его заблуждениях — пиши пропало, готова новая религия. На форуме Reddit появляется всё больше топиков, где описываются похожие случаи. Например, в одном случае девушка пожаловалась, что через месяц после начала об...
21.06.2025
Сообщает: Источник  
Рубрика: «Промышленность и Производство»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Эксперты Softline: В ближайшие 10 лет мы увидим, как искусственный интеллект будет развиваться и интегрироваться в бизнес-процессыЭксперты Softline: «В ближайшие 10 лет мы увидим, как искусственный интеллект будет развиваться и интегрироваться в бизнес-процессы» Заказчики сегодня видят очевидные преимущества ИИ-сервисов двух направлений: в автоматизации рутинных процессов и в обработке больших объемов информа ...

Эксперты МЕДСИ рассказали на Сириус.Курсах, как применяют искусственный интеллект при создании своих сервисовЭксперты МЕДСИ рассказали на Сириус.Курсах, как применяют искусственный интеллект при создании своих сервисов Ученики Сириус.Курсов изучают практики внедрения ИИ-технологий в работу МЕДСИ в рамках курса «Знакомство с искусственным интеллектом». Обучение прово ...

Эксперты предупредили об опасности установки пиратских программЭксперты предупредили об опасности установки пиратских программ Так пользователи могут лишиться сбережений на электронных счетах. Фото: Pixabay, PxHere Эксперты компании Group-IB недавно предупредили об опасности ...

Искусственный интеллект переоценивает интеллект людейИскусственный интеллект переоценивает интеллект людей Ученые из НИУ ВШЭ обнаружили, что современные модели ИИ, включая ChatGPT и Claude, склонны переоценивать рациональность своих противников-людей — буд ...

Искусственный интеллект на связи!Искусственный интеллект на связи! Повседневную жизнь тюменцев уже сложно представить без современных технологий. Голосовые помощники и чат-боты помогают жителям решать самые разные во ...

Искусственный интеллект исключили из тарифаИскусственный интеллект исключили из тарифа В Орле скорректировали тарифы на медицинскую помощь. Фото: ИА “Орелград” / Светлана Числова В Орловской области начало действовать соглаш ...

Искусственный интеллект, транспорт, инвестицииИскусственный интеллект, транспорт, инвестиции Президент Токаев назвал приоритеты Казахстана в качестве председателя в органах ЕАЭС в 2026 году ...

Искусственный интеллект в компании PompaИскусственный интеллект в компании Pompa Российская марка Pompa представила линейку пальто для весеннего сезона. Интересно, что и лекала, и саму съемку марка осуществила с помощью искусствен ...