Искусственный интеллект ускорили на 93%: партнёрство Multiverse Computing и Qualcomm меняет правила игры в дата-центрах

Срочная медицинская отчётность (сжатая LLM):

• Время отклика: до 93% быстрее
• Пропускная способность: до 44% выше
• Использование памяти: до 45% меньше
• Энергопотребление: до 21% ниже
• Точность: без потерь

Чат-бот RAG для конфиденциальных финансовых документов:

• Время отклика: до 35% быстрее
• Пропускная способность: до 54% выше
• Использование памяти: до 45% меньше
• Энергопотребление: до 14% ниже
• Точность: без потерь

Для медицинского сценария результаты были независимо подтверждены несколькими источниками, включая 93% ускорение, 45% экономию памяти и 21% сокращение энергопотребления . В Multiverse Computing отмечают, что при работе напрямую на новых ускорителях Dragonfly AI200/AI250 показатели будут ещё выше .

Как это работает

Multiverse Computing оптимизирует ИИ-модели до их развёртывания, уменьшая требуемые вычислительные ресурсы и объём памяти. Это освобождает место на существующем оборудовании, позволяя операторам дата-центров обрабатывать больше запросов или запускать больше моделей одновременно без покупки новых ускорителей или расширения инфраструктуры .

Широкий отраслевой контекст

Данное партнёрство отражает фундаментальный сдвиг в индустрии дата-центров в сторону энергоэффективной ИИ-инфраструктуры. Ключевые сигналы этого тренда:

• ДНК Qualcomm: компания построила своё лидерство в мобильных устройствах и Интернете вещей, где необходимо максимально эффективно использовать энергию и теплоотвод — те же принципы теперь применяются в ИИ-дата-центрах .
• Инновации на уровне «железа»: ускоритель Qualcomm Dragonfly AI250 использует технологию High Bandwidth Compute (HBC) Gen 1, обеспечивая 133 ТБ/с эффективной пропускной способности памяти на плату (в 18 раз больше, чем у AI200). Это напрямую устраняет «бутылочное горлышко» вывода моделей, на которое приходится основная доля затрат и энергопотребления ИИ .
• Масштабирование без пропорционального роста затрат: с ускорением внедрения ИИ операторам нужно наращивать мощности, но без пропорционального увеличения числа серверов, энергии и бюджета. Сочетание эффективного «железа» и оптимизированных моделей — практический путь к этому .
• Подтверждение со стороны отрасли: обе компании прямо назвали сотрудничество «прорывным улучшением производительности, стоимости и энергоэффективности в масштабе». Дино Флоре из Qualcomm подчеркнул: «Заказчикам нужны решения, которые обеспечивают высокую производительность при большей эффективности», поскольку внедрение ИИ в корпоративную и облачную инфраструктуру ускоряется .

Это партнёрство — конкретный пример того, как отрасль отходит от подхода «больше GPU» и переходит к фокусу на производительность на ватт и совокупную стоимость владения, где совместная оптимизация программного и аппаратного обеспечения становится главным рычагом устойчивого масштабирования ИИ.