Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

В кодовую базу, на основе которой формируется выпуск Mesa 25.3, приняты изменения, существенно увеличивающие скорость работы движка выполнения больших языковых моделей Llama.cpp при использовании Vulkan-бэкенда на системах с GPU AMD и Mesa-драйвером RADV. Оптимизированный драйвер RADV в некоторых тестах llama-bench стал быстрее драйвера AMDVLK и стека ROCm на 31% при обработке запросов (тесты "pp" - prompt processing) и на 4% при генерации токенов (тесты "tg" - token generation). Оптимизацию выполнил Рис Перри (Rhys Perry) из компании Valve, участвующий в разработке драйвера Vulkan RADV и компилятора шейдеров ACO....
24.10.2025
Сообщает: Источник  
Рубрика: «Игры и Интернет»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В Mesa-драйвер radv добавлена поддержка расширения Vulkan для декодирования видео VP9В Mesa-драйвер radv добавлена поддержка расширения Vulkan для декодирования видео VP9 Дэвид Эйрли (David Airlie), мэйнтейнер подсистемы DRM (Direct Rendering Manager) в ядре Linux, объявил о принятии в состав Mesa изменений, добавляющи ...

Новый NVMe-драйвер в Windows 11 25H2 увеличивает скорость работы SSDНовый NVMe-драйвер в Windows 11 25H2 увеличивает скорость работы SSD В Windows 11 25H2 и Windows Server 2025 Microsoft представила обновлённый нативный драйвер nvmedisk.sys, который лучше учитывает особенности NVMe-арх ...

Just AI вербует агентов: разработчик запускает платформу для работы с нейросетямиJust AI вербует агентов: разработчик запускает платформу для работы с нейросетями Компания Just AI, работающая на рынке разговорного и генеративного ИИ, выводит на него платформу Jay Flow для «бесшовной» работы пользователей и бизн ...

В Mesa-драйверы radv и anv добавлена поддержка расширения Vulkan для декодирования видео VP9В Mesa-драйверы radv и anv добавлена поддержка расширения Vulkan для декодирования видео VP9 Дэвид Эйрли (David Airlie), мэйнтейнер подсистемы DRM (Direct Rendering Manager) в ядре Linux, объявил о принятии в состав Mesa изменений, добавляющи ...

HeadHunter оптимизировал работу рекрутеров на 15% с помощью Start LinkHeadHunter оптимизировал работу рекрутеров на 15% с помощью Start Link HeadHunter сократил временные затраты рекрутеров при сборе документов на 15% с помощью модуля для удаленного приема... ...

Голосовой ввод, разработанный ЦРТ, оптимизировал более 20% времени специалистов ООО Вега-ГАЗГолосовой ввод, разработанный ЦРТ, оптимизировал более 20% времени специалистов ООО «Вега-ГАЗ» Группа компаний ЦРТ реализовала проект по внедрению голосового ввода в ООО «Вега-ГАЗ» — российской компании... ...

IXcellerate оптимизировал мониторинг корпоративной ИТ-инфраструктуры с помощью российской системы ПультIXcellerate оптимизировал мониторинг корпоративной ИТ-инфраструктуры с помощью российской системы «Пульт» Оператор сети коммерческих ЦОД IXcellerate в партнерстве с компанией «Инфосистемы Джет» менее чем за два месяца завершил проект по внедрению у себя к ...

Яндекс Браузер оптимизировал потребление оперативной памяти с помощью машинного обучения«Яндекс Браузер» оптимизировал потребление оперативной памяти с помощью машинного обучения «Яндекс» внедрил в «Браузер» для компьютеров ML-модель для определения неактивных вкладок, которые не понадобятся... ...