Huawei совершила историческое достижение. Платформа Ascend 950DT + CANN обеспечила полную поддержку Day 0 на том же уровне, что и Nvidia — это первый случай, когда не-CUDA платформа сравнилась с Nvidia по готовности к запуску модели такого масштаба . Независимые тесты на серийном Ascend 950PR показали вычисления FP4 со скоростью в 2,87 раза выше, чем у H20, а инференс MoE — в 1,96 раза быстрее при RL-развертываниях . Однако, из-за ограничений производственных процессов в Китае, абсолютная производительность Huawei все еще уступает лучшим образцам Nvidia.

Запуск AMD, прямо скажем, провалился. MI355X в первый день мог работать только в режиме FP8 — нативный чекпоинт FP4+FP8 оказался непригоден. Производительность составила жалкие 20,4 ток/с/GPU при 2,4 ток/с/пользователя на нагрузке 8K/1K . Стек ROCm не был оптимизирован — это была временная заглушка.

Восстановление AMD в 110,5 раз: программный спринт

То, что произошло дальше, — самый драматичный пример восстановления производительности за счет ПО в истории AI-инфраструктуры. За 26 дней команда AMD SGLang под руководством HaiShaw выполнила 31 оптимизационный pull request в боковой ветке amd/deepseek_v4 . Каждый PR исправлял очередной уровень стека ROCm, который практически не тестировался с MoE-моделью такого масштаба.

К 26-му дню (20 мая 2026 г.) MI355X достиг 2256 ток/с/GPU при 9,4 ток/с/пользователя на нагрузке 8K/1K — улучшение в 110,5 раз пропускной способности на GPU, одновременно увеличив интерактивность в 3,85 раза . Это редкий случай, когда оба показателя растут одновременно: обычно невозможно одновременно повысить скорость отклика для пользователя и общую пропускную способность на одном и том же железе.

При сопоставимых уровнях интерактивности на InferenceX MI355X на 26-й день достигает примерно 1411 ток/с/GPU, что ставит его на один конкурентный уровень с Nvidia B200 при низкой интерактивности . Он все еще уступает Nvidia GB300 NVL72 (которая достигает 11 474 ток/с/GPU в оптимальных условиях), но сам вектор развития очевиден: MI355X прошел путь от нефункционального запуска до жизнеспособного инференс-решения .

Итоговая таблица через 43 дня

Экономическая картина ясна из стоимости за миллион токенов. При низкой интерактивности GB300 NVL72 выдает токены по $0,064/М ток — примерно в 4,5 раза дешевле, чем MI355X ($0,291/М ток) . При высокой интерактивности (меньше одновременных пользователей, выше скорость для каждого) MI355X становится конкурентоспособным по цене с B200: оба показывают около $1,22–$1,45/М ток при 23–24 одновременных пользователях .

Настоящий ключ к успеху: гибридная архитектура внимания DeepSeek V4

Впечатляющие результаты бенчмарков были бы экономически бессмысленны без архитектурного прорыва со стороны самой модели. Стандартное внимание Transformer масштабируется квадратично с длиной контекста. При миллионе токенов вычислительные затраты и требования к памяти делают его экономически невыгодным на любом оборудовании. DeepSeek V4 заменяет стандартное внимание гибридом из двух взаимодополняющих механизмов:

Сжатое разреженное внимание (Compressed Sparse Attention, CSA) работает на мелкозернистом уровне. Оно группирует примерно 4 токена в одну обучаемую KV-запись, используя взвешивание, зависящее от данных, с перекрывающимися окнами. Затем применяется разреженный отбор: каждый запрос обращается только к k наиболее релевантным сжатым записям, индексируемым компонентом Lightning Indexer . Параллельно работает ветвь скользящего окна (sliding window attention) для сохранения локальной точности .

Сильно сжатое внимание (Heavily Compressed Attention, HCA) делает более грубую ставку. Оно сжимает до 128 токенов в одну KV-запись и применяет плотное внимание к сильно сжатому потоку . Это жертвует точностью поиска ради всеобъемлющего глобального охвата с почти нулевыми дополнительными затратами. HCA используется в ранних слоях, чтобы обеспечить дешевую «панораму» контекста; последний слой сохраняет полное внимание для максимальной точности .

Совокупный выигрыш в эффективности по сравнению с DeepSeek V3.2 при контексте 1М токенов огромен:

• Вычислительные затраты (FLOPs) на один токен инференса: 27% от V3.2 (сокращение на 73%)
• Память KV-кэша: ~10% от V3.2 (сокращение примерно на 90%)
• По сравнению с базовым GQA bfloat16: примерно 2% от размера кэша

Для меньшей модели V4 Flash эти показатели еще ниже: 10% FLOPs и 7% KV-кэша .

Без CSA и HCA модель Pro с 1,6 трлн параметров и контекстом в 1 млн токенов осталась бы научным проектом — интересным, но коммерчески нереализуемым. С ними это продукт.

Что это значит

43-дневные данные SemiAnalysis рассказывают три параллельные истории. Во-первых, экосистемное преимущество Nvidia остается структурно огромным: CUDA работает с первого дня, всегда, и оборудование действительно на шаг впереди. Во-вторых, Huawei полностью устранила разрыв в программной готовности — исторический сдвиг с геополитическими последствиями, которые проявятся в следующем поколении оборудования. В-третьих, оборудование AMD способно, но программный стек ROCm все еще остается узким местом, требующим героических усилий инженеров для каждой новой модели масштаба frontier — улучшение в 110,5 раз за 26 дней впечатляет, но так быть не должно.

Однако главная картина — заслуга архитекторов. Гибридное внимание CSA + HCA от DeepSeek не просто повышает эффективность: оно фундаментально меняет представление о том, что коммерчески выгодно обслуживать. Когда модель с 1,6 трлн параметров при контексте в миллион токенов стоит единицы центов за миллион токенов на правильном оборудовании, разговор смещается с «можем ли мы это сделать?» на «что мы сможем с этим построить?»

Huawei совершила историческое достижение. Платформа Ascend 950DT + CANN обеспечила полную поддержку Day 0 на том же уровне, что и Nvidia — это первый случай, когда не-CUDA платформа сравнилась с Nvidia по готовности к запуску модели такого масштаба . Независимые тесты на серийном Ascend 950PR показали вычисления FP4 со скоростью в 2,87 раза выше, чем у H20, а инференс MoE — в 1,96 раза быстрее при RL-развертываниях . Однако, из-за ограничений производственных процессов в Китае, абсолютная производительность Huawei все еще уступает лучшим образцам Nvidia.

Запуск AMD, прямо скажем, провалился. MI355X в первый день мог работать только в режиме FP8 — нативный чекпоинт FP4+FP8 оказался непригоден. Производительность составила жалкие 20,4 ток/с/GPU при 2,4 ток/с/пользователя на нагрузке 8K/1K . Стек ROCm не был оптимизирован — это была временная заглушка.

Восстановление AMD в 110,5 раз: программный спринт

То, что произошло дальше, — самый драматичный пример восстановления производительности за счет ПО в истории AI-инфраструктуры. За 26 дней команда AMD SGLang под руководством HaiShaw выполнила 31 оптимизационный pull request в боковой ветке amd/deepseek_v4 . Каждый PR исправлял очередной уровень стека ROCm, который практически не тестировался с MoE-моделью такого масштаба.

К 26-му дню (20 мая 2026 г.) MI355X достиг 2256 ток/с/GPU при 9,4 ток/с/пользователя на нагрузке 8K/1K — улучшение в 110,5 раз пропускной способности на GPU, одновременно увеличив интерактивность в 3,85 раза . Это редкий случай, когда оба показателя растут одновременно: обычно невозможно одновременно повысить скорость отклика для пользователя и общую пропускную способность на одном и том же железе.

При сопоставимых уровнях интерактивности на InferenceX MI355X на 26-й день достигает примерно 1411 ток/с/GPU, что ставит его на один конкурентный уровень с Nvidia B200 при низкой интерактивности . Он все еще уступает Nvidia GB300 NVL72 (которая достигает 11 474 ток/с/GPU в оптимальных условиях), но сам вектор развития очевиден: MI355X прошел путь от нефункционального запуска до жизнеспособного инференс-решения .

Итоговая таблица через 43 дня

Экономическая картина ясна из стоимости за миллион токенов. При низкой интерактивности GB300 NVL72 выдает токены по $0,064/М ток — примерно в 4,5 раза дешевле, чем MI355X ($0,291/М ток) . При высокой интерактивности (меньше одновременных пользователей, выше скорость для каждого) MI355X становится конкурентоспособным по цене с B200: оба показывают около $1,22–$1,45/М ток при 23–24 одновременных пользователях .

Настоящий ключ к успеху: гибридная архитектура внимания DeepSeek V4

Впечатляющие результаты бенчмарков были бы экономически бессмысленны без архитектурного прорыва со стороны самой модели. Стандартное внимание Transformer масштабируется квадратично с длиной контекста. При миллионе токенов вычислительные затраты и требования к памяти делают его экономически невыгодным на любом оборудовании. DeepSeek V4 заменяет стандартное внимание гибридом из двух взаимодополняющих механизмов:

Сжатое разреженное внимание (Compressed Sparse Attention, CSA) работает на мелкозернистом уровне. Оно группирует примерно 4 токена в одну обучаемую KV-запись, используя взвешивание, зависящее от данных, с перекрывающимися окнами. Затем применяется разреженный отбор: каждый запрос обращается только к k наиболее релевантным сжатым записям, индексируемым компонентом Lightning Indexer . Параллельно работает ветвь скользящего окна (sliding window attention) для сохранения локальной точности .

Сильно сжатое внимание (Heavily Compressed Attention, HCA) делает более грубую ставку. Оно сжимает до 128 токенов в одну KV-запись и применяет плотное внимание к сильно сжатому потоку . Это жертвует точностью поиска ради всеобъемлющего глобального охвата с почти нулевыми дополнительными затратами. HCA используется в ранних слоях, чтобы обеспечить дешевую «панораму» контекста; последний слой сохраняет полное внимание для максимальной точности .

Совокупный выигрыш в эффективности по сравнению с DeepSeek V3.2 при контексте 1М токенов огромен:

• Вычислительные затраты (FLOPs) на один токен инференса: 27% от V3.2 (сокращение на 73%)
• Память KV-кэша: ~10% от V3.2 (сокращение примерно на 90%)
• По сравнению с базовым GQA bfloat16: примерно 2% от размера кэша

Для меньшей модели V4 Flash эти показатели еще ниже: 10% FLOPs и 7% KV-кэша .

Без CSA и HCA модель Pro с 1,6 трлн параметров и контекстом в 1 млн токенов осталась бы научным проектом — интересным, но коммерчески нереализуемым. С ними это продукт.

Что это значит

43-дневные данные SemiAnalysis рассказывают три параллельные истории. Во-первых, экосистемное преимущество Nvidia остается структурно огромным: CUDA работает с первого дня, всегда, и оборудование действительно на шаг впереди. Во-вторых, Huawei полностью устранила разрыв в программной готовности — исторический сдвиг с геополитическими последствиями, которые проявятся в следующем поколении оборудования. В-третьих, оборудование AMD способно, но программный стек ROCm все еще остается узким местом, требующим героических усилий инженеров для каждой новой модели масштаба frontier — улучшение в 110,5 раз за 26 дней впечатляет, но так быть не должно.

Однако главная картина — заслуга архитекторов. Гибридное внимание CSA + HCA от DeepSeek не просто повышает эффективность: оно фундаментально меняет представление о том, что коммерчески выгодно обслуживать. Когда модель с 1,6 трлн параметров при контексте в миллион токенов стоит единицы центов за миллион токенов на правильном оборудовании, разговор смещается с «можем ли мы это сделать?» на «что мы сможем с этим построить?»