Эксперты раскрыли, как чат-боты становятся дырой для утечки денег и данных

Эксперты раскрыли, как чат-боты становятся дырой для утечки денег и данных

Всё больше компаний подключают ИИ-ассистентов и чат-ботов для обслуживания клиентов или помощи сотрудникам. Но мало кто думает о том, что эти «умные помощники» могут стать уязвимостью и точкой атаки для хакеров. Вместе с экспертами рассказываем, как именно нейросети для помощи клиентам подставляют бизнес под удар и что с этим делать. ИИ-ассистенты быстро вошли в корпоративную жизнь: они консультируют клиентов, ищут информацию во внутренних базах и даже генерируют коммерческие предложения. В основе большинства таких решений — архитектура RAG (Retrieval-Augmented Generation): ассистент сначала «вытягивает» данные из базы, потом генерирует ответ. Ключевая проблема — бизнес редко задумывается о том, что ИИ-модель можно атаковать целенаправленно. Злоумышленникам даже не нужно взламывать серверы или красть пароли, достаточно грамотно «разговаривать» с ботом. Как атакуют ИИ-ассистентов для бизнеса Экономическое истощение (Denial-of-Wallet) Самый массовый сценарий — атака на кошелёк. Большинство ИИ-агентов работают по модели «оплата за токены» (символы генерации) или по подписке с привязкой к числу пользователей. Бизнес может оплачивать определённое прогнозируемое число токенов и делать использование ИИ-помощника бесплатным для клиентов в расчёте, что все запросы к боту будут сугубо по делу. Однако достаточно пары злонамеренных пользователей, что...
10.07.2025
Сообщает: Источник  
Рубрика: «Промышленность и Производство»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

ИБ-аналитики выявили утечки данных в 81% компаний МСБИБ-аналитики выявили утечки данных в 81% компаний МСБ «СёрчИнформ» представила отчет с данными об инцидентах внутренней безопасности в более 100 компаниях малого и среднего бизнеса, в которых вендор и па ...

В МВД напомнили о золотом часе после утечки данныхВ МВД напомнили о «золотом часе» после утечки данных В МВД России напомнили, что при утечке личных данных важно действовать быстро — в течение «золотого часа». Этот термин заимствован из медицины — озна ...

Компания Logitech пострадала от взлома и утечки данныхКомпания Logitech пострадала от взлома и утечки данных Представители Logitech уведомили власти о взломе и крупной утечке данных. Ответственность за эту атаку взяла на себя известная вымогательская группир ...

Instagram отрицает факт взлома или утечки данныхInstagram отрицает факт взлома или утечки данных В Instagram пользователи массово столкнулись с письмами о сбросе пароля, которые приходили на электронную почту. ...

Серия Nothing Phone (3a): утечки раскрыли многое, анонс подогревает интересСерия Nothing Phone (3a): утечки раскрыли многое, анонс подогревает интерес Nothing использует MWC, чтобы показать свои новые смартфоны среднего класса из серии Phone (3a). Сегодня в Барселоне она уже приоткрыла внешний вид д ...

Обнаружены утечки данных с 16 млрд записей, включая 455 млн из РоссииОбнаружены утечки данных с 16 млрд записей, включая 455 млн из России Исследователи Cybernews выявили около 30 наборов утёкших данных, в которых содержится около 16 миллиардов записей. Эти данные могут помочь злоумышлен ...

Сотни тысяч клиентов Auchan пострадали от утечки данныхСотни тысяч клиентов Auchan пострадали от утечки данных Французская розничная сеть Auchan уведомила сотни тысяч клиентов о том, что их персональные данные были украдены во время хакерской атаки. ...

В США предложили сажать чиновников за утечки секретных данных в мессенджерахВ США предложили сажать чиновников за утечки секретных данных в мессенджерах Конгрессмен-демократ Ричи Торрес выступил с законодательной инициативой, предусматривающей уголовную ответственность для государственных служащих за ...