Угрозы ИИ при разработке программного обеспечения выявлены в новом исследовании

Угрозы ИИ при разработке программного обеспечения выявлены в новом исследовании

Исследователи UTSA недавно завершили одно из самых всеобъемлющих исследований на сегодняшний день, посвященных рискам использования моделей ИИ для разработки программного обеспечения. В новой статье они демонстрируют, как определенный тип ошибки может представлять серьезную угрозу для программистов, использующих ИИ для написания кода. Джо Спраклен, докторант UTSA по информатике, возглавил исследование того, как большие языковые модели (LLM) часто генерируют небезопасный код. Статья его команды, опубликованная на сервере препринтов arXiv, также была принята к публикации на USENIX Security Symposium 2025 — конференции по кибербезопасности и конфиденциальности. В многоинституциональном сотрудничестве приняли участие еще три исследователя из UTSA: докторант AHM Назмус Сакиб, научный сотрудник-постдокторант Равин Виджевикрама и доцент д-р Муртуза Джадливала, директор SPriTELab (Исследовательская лаборатория безопасности, конфиденциальности, доверия и этики в области вычислений). Дополнительными соавторами были Аниндья Майта из Университета Оклахомы (бывший научный сотрудник UTSA) и Бимал Вишванат из Политехнического университета Вирджинии. Галлюцинации в LLM возникают, когда модель производит контент, который фактически неверен, бессмыслен или совершенно не связан с задачей ввода. Большинство текущих исследований до сих пор были сосредоточены в основном на галлюцинациях в классических задачах генерации и прогнозирования естественного языка, таких как машинный перевод, реферировани...
15.04.2025
Сообщает: Источник  
Рубрика: «Игры и Интернет»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В Ozon заявили, что не зависят от зарубежного программного обеспеченияВ Ozon заявили, что не зависят от зарубежного программного обеспечения Цифровым платформам при поддержке правительства и Минцифры удалось нарастить опыт в сфере IT-технологий и разработать суверенную цифровую инфраструкт ...

Орловец осужден за использование вредоносного программного обеспеченияОрловец осужден за использование вредоносного программного обеспечения Мужчина признан виновным в совершении преступления, предусмотренного частью 1 статьи 273 Уголовного кодекса Российской Федерации. ИА “Орелград& ...

Контроль конфигураций включен в реестр отечественного программного обеспечения«Контроль конфигураций» включен в реестр отечественного программного обеспечения Система управления безопасностью конфигураций программного обеспечения «Контроль конфигураций», разработанная... ...

Объекты КИИ перейдут на преимущественное использование российского программного обеспеченияОбъекты КИИ перейдут на преимущественное использование российского программного обеспечения Го­сударс­твен­ная Ду­ма при­няла во вто­ром и треть­ем чте­ниях за­коноп­роект, ко­торый обя­зывает важ­ные объ­ек­ты кри­тичес­кой ин­фор­ма­цион­н ...

Xiaomi готовится выпустить обновление программного обеспечения с Android 16Xiaomi готовится выпустить обновление программного обеспечения с Android 16 Китайский технологический гигант Xiaomi анонсировал новую версию фирменной оболочки — HyperOS 3, основанную на новейшем поколении Android. Пока лишь ...

Открытие кода программного обеспечения для умных часов Pebble WatchОткрытие кода программного обеспечения для умных часов Pebble Watch Эрик Мигиковски (Eric Migicovsky), основатель компании Pebble Technology, объявил об открытии недостающего исходного кода программного обеспечения Pe ...

ПО Open vAIR компании Аэродиск включено в реестр российского программного обеспечения МинцифрыПО Open vAIR компании «Аэродиск» включено в реестр российского программного обеспечения Минцифры Программное обеспечение Open vAIR, разработанное компанией «Аэродиск», российским производителем систем хранения... ...

Bell Integrator разработала платформу автоматизации создания программного обеспечения на базе искусственного интеллекта АлькодBell Integrator разработала платформу автоматизации создания программного обеспечения на базе искусственного интеллекта «Алькод» Компания Bell Integrator (ГК Softline) разработала новую платформу автоматизации создания программного обеспечения на базе... ...

☰