GLM-5.3-FlashX: быстрая версия открытой модели или новая модель?

Если разработчику нужен доступ к весам модели, речь идёт о GLM-5.3-Flash. Если важнее заявленная скорость ответа через API Zhipu AI, компания предлагает GLM-5.3-FlashX. Zhipu описывает FlashX как ускоренный вариант обслуживания той же базовой модели, а не как новую опубликованную архитектуру или отдельный выпуск открытых весов. 14

Модель и скорость: что именно сравнивают

GLM-5.3-Flash — мультимодальная модель с архитектурой «смесь экспертов»: из 320 млрд параметров при работе активируются 18 млрд. Для неё заявлено контекстное окно до 1 млн токенов — объём текста и других данных, который модель может учитывать в одном запросе. Для FlashX Zhipu указывает скорость до 200 выходных токенов в секунду. Это заявленный максимум, а не подтверждённый независимым тестом прирост относительно Flash при одинаковой нагрузке. 17

Что Zhipu сообщает об инфраструктуре

По словам компании, производственные запросы к Flash обслуживает кластер из более чем 100 тысяч ИИ-ускорителей китайского производства. Zhipu также сообщает, что Infra Agent — инструмент на базе GLM-5.3 — помогал находить узкие места, менять код и оптимизировать систему обслуживания запросов. Среди описанных работ — устранение проблемы с параллельной передачей KV-данных, используемых при генерации ответа, и улучшение вычислительного компонента этапа генерации. 67

Zhipu связывает развёртывание и оптимизацию с ростом сквозной пропускной способности в 3,2 раза относительно исходного состояния системы менее чем за две недели. Это показатель того, сколько работы выполняет сервис в целом; он не означает, что ответ каждому пользователю стал генерироваться в 3,2 раза быстрее. 1315

Эффективность для оператора — не то же самое, что цена для клиента

Zhipu утверждает, что загрузка оборудования и себестоимость обслуживания одного токена сопоставимы с показателями распространённых систем на графических ускорителях Nvidia. Независимого сопоставления при одинаковых условиях приведённые материалы не устанавливают. При этом тариф API для клиента выше у FlashX: $0,37 за миллион входных и $1,25 за миллион выходных токенов против $0,15 и $0,50 у Flash. Выходные токены FlashX стоят в 2,5 раза дороже. 745

Что пока остаётся проверить: удерживается ли скорость 200 токенов в секунду при одновременных запросах и каковы задержки и стабильность; сколько ускорителей действительно задействовано в производственном обслуживании; какую часть улучшений обеспечил Infra Agent, а какую — инженеры; как измерен прирост в 3,2 раза и на какой исходной базе; насколько корректно сравнение затрат с Nvidia. Доступные публикации в основном передают показатели Zhipu, а не результаты независимого аудита этих заявлений. 156