В Microsoft разработали сверхэффективную ИИ-модель, которая запускается на CPU

В Microsoft разработали сверхэффективную ИИ-модель, которая запускается на CPU

Исследователи из Microsoft сообщили о разработке самой масштабной однобитной модели искусственного интеллекта — такой архитектурный подход называется «битнет». Модель BitNet b1.58 2B4T выложена в открытый доступ по лицензии MIT, и для её работы достаточно центрального процессора, в том числе Apple M2. Системы «битнет» — это сжатые модели, предназначенные для запуска на оборудовании невысокой производительности. В случае стандартных моделей веса — значения, которые определяют её внутреннюю структуру, — зачастую квантуются. При квантизации уменьшается количество битов, необходимых для представления весов, а модели получают возможность быстрее работать на системах с меньшим объёмом памяти. Битнет предполагает квантование веса в три значения: «-1», «0» и «1», то есть в теории такие модели оказываются значительно эффективнее с точки зрения памяти и вычислительных ресурсов, чем большинство современных систем ИИ....
17.04.2025
Сообщает: Источник  
Рубрика: «Hardware»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В России разработали технологию, которая помогает очистить берега водоёмовВ России разработали технологию, которая помогает очистить берега водоёмов Технология, которая поможет быстрее убрать мусор в труднодоступных местах. Эксперты Школы анализа данных Яндекса и ДВФУ разработали и выложили в откр ...

Исследователи разработали программу, которая уменьшает употребление вредной пищи на 50%Исследователи разработали программу, которая уменьшает употребление вредной пищи на 50% Большинство диетических программ не уделяют внимания ультраобработанным продуктам (УОП), несмотря на их связь с рисками для здоровья и чрезмерным упо ...

Ученые из Пензы разработали компьютерную программу, которая анализирует результаты ЭКГ буквально за секундыУченые из Пензы разработали компьютерную программу, которая анализирует результаты ЭКГ буквально за секунды Ученые из Пензы разработали компьютерную программу, которая анализирует результаты ЭКГ буквально за секундыОт этой новости преисполняешься гордостью! ...

В Microsoft разработали уникальный суперкомпьютер для компании Илона МаскаВ Microsoft разработали уникальный суперкомпьютер для компании Илона Маска Машина создала для обработки алгоритмов искусственного разума. Представители компании Microsoft официально объявили о том, что разработали суперкомпь ...

Microsoft накрыла банду хакеров, которая обманом заставляла ИИ рисовать неподобающие фейки со знаменитостямиMicrosoft накрыла банду хакеров, которая обманом заставляла ИИ рисовать неподобающие фейки со знаменитостями Microsoft заявила об обнаружении американских и зарубежных хакеров, которые обходили ограничения генеративных инструментов на базе искусственного инт ...

Microsoft удаляет команду bypassnro, которая позволяла установить Windows 11 с локальной учётной записьюMicrosoft удаляет команду «bypassnro», которая позволяла установить Windows 11 с локальной учётной записью Microsoft решила удалить популярную команду bypassnro.cmd, которая позволяла пройти первоначальный этап настройки Windows 11 без обязательного подклю ...

Страница Flight Simulator 2025 появился в PlayStation Store, но это фейковая игра, которая не имеет отношения к MicrosoftСтраница Flight Simulator 2025 появился в PlayStation Store, но это фейковая игра, которая не имеет отношения к Microsoft Flight Simulator 2025 появился в PlayStation Store, но не спешите радоваться, фанаты Microsoft Flight Simulator. Быстро стало понятно, что это не офи ...

Маркетплейс региональных брендов запускается на СтавропольеМаркетплейс региональных брендов запускается на Ставрополье В крае запускается онлайн-каталог под названием «Сделано на Ставрополье». Маркетплейс брендов создан ГУП СК «Корпорация развития Ставропольского края ...

☰