AMD запускает проект Gaia с открытым исходным кодом для локального запуска LLM на любом ПК

AMD запускает проект Gaia с открытым исходным кодом для локального запуска LLM на любом ПК

Запуск больших языковых моделей (LLM) на персональных компьютерах становится все более популярным. В ответ на этот тренд компания AMD представила приложение Gaia — проект с открытым исходным кодом, позволяющий запускать LLM на любых компьютерах с Windows. Gaia предназначена для работы с различными моделями LLM на ПК с Windows и оптимизирована для процессоров Ryzen AI, включая Ryzen AI Max 395+. Приложение использует открытый исходный код Lemonade SDK от ONNX TurnkeyML для вывода LLM. Модели, работающие с Gaia, могут адаптироваться для различных задач, таких как обобщение информации и решение сложных указаний. Gaia функционирует через агента Retrieval-Augmented Generation (RAG), который объединяет LLM с базой знаний. Это позволяет LLM предоставлять более точные и контекстуально зависимые ответы, а также создавать интерактивный опыт для пользователей. В настоящее время RAG включает четыре агента: Simple Prompt Completion — для тестирования и оценки модели. Chaty — чат-бот, который взаимодействует с пользователем. Clip — агент, который ищет информацию на YouTube и отвечает на вопросы. Joker — генератор шуток, добавляющий юмор в общение с чат-ботом. Gaia работает, предоставляя специфические задачи для LLM через Lemonade SDK и поддерживая их в различных средах выполнения. Она открывает веб-сервис LLM, который взаимодействует с приложением Gaia через совместимый с OpenAI REST API. Gaia также извлекает и обрабатывает данные, векторизует внешний контент (напри...
22.03.2025
Сообщает: Источник  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Швейцария запускает собственную модель ИИ с открытым исходным кодомШвейцария запускает собственную модель ИИ с открытым исходным кодом В гонке за лидерство в области искусственного интеллекта появился новый игрок — целая страна. Швейцария представила Apertus — открытую национальную L ...

LG выпустила думающую модель ИИ с открытым исходным кодомLG выпустила «думающую» модель ИИ с открытым исходным кодом LG AI Research представила новое семейство ИИ-моделей для логического вывода EXAONE Deep. Презентация состоялась на конференции Nvidia GTC 2025. Моде ...

По следам Garrys Mod: s&box выходит как бесплатное ПО с открытым исходным кодомПо следам Garry’s Mod: s&box выходит как бесплатное ПО с открытым исходным кодом В последнее время вновь растут слухи вокруг возможного анонса Half-Life 3 . Между тем прошло уже более 20 лет с момента выхода второй части серии. Пр ...

TerraMaster представила генератор приложений ИИ с открытым исходным кодом API-in-a-BoxTerraMaster представила генератор приложений ИИ с открытым исходным кодом API-in-a-Box Компания TerraMaster в сотрудничестве со своим партнером Imagery Business Systems представила API-in-a-Box. Это предварительно настроенное... ...

ByteDance, владеющая TikTok, выпустила модель с открытым исходным кодомByteDance, владеющая TikTok, выпустила модель с открытым исходным кодом Владелец TikTok компания ByteDance выпустила новую модель ИИ с открытым исходным кодом и с окном контекста в 512 тысяч токенов, которая может состави ...

Huawei представила новые ИИ-модели с открытым исходным кодом PanguHuawei представила новые ИИ-модели с открытым исходным кодом Pangu Huawei представила ИИ-модели флагманской серии Pangu с открытым исходным кодом. Таким образом компания планирует ускорить развитие ИИ-технологий и по ...

В Канаде запустили разработку квантового компьютера с открытым исходным кодомВ Канаде запустили разработку квантового компьютера с открытым исходным кодом Учёные из Университета Ватерлоо и Института квантовых вычислений запустили проект Open Quantum Design (OQD). Это некоммерческая инициатива, цель кото ...

Ученые представили операционную систему квантового компьютера с открытым исходным кодомУченые представили операционную систему квантового компьютера с открытым исходным кодом Университет Осаки и партнеры выпустили OQTOPUS — операционную систему с открытым исходным кодом для квантовых компьютеров, призванную упростить интег ...