Внутренний бенчмарк Databricks на собственной кодовой базе из миллионов строк показал, что open source модели, включая GLM 5.2 от Z.ai, вышли на передний край (Pareto frontier) по соотношению производительности и цены... Цена за токен оказалась ненадёжным индикатором реальной стоимости: более крупные и дорогие за то...

Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What did Databricks' internal coding benchmark reveal about AI model performance and cost, and wh. Article summary: Databricks published results from an internal coding benchmark that evaluated agentic models on real engineering tasks from its multi-million-line codebase (Python, Go, TypeScript, Scala, SQL). The key findings and the c. Topic tags: general, documentation, general web, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, w
Компания Databricks, один из лидеров в области данных и AI, опубликовала результаты внутреннего бенчмарка по кодингу, проведённого в июле 2026 года. Тестирование оценивало AI-агентов на реальных инженерных задачах из собственной кодовой базы компании, насчитывающей миллионы строк (Python, Go, TypeScript, Scala, SQL). Итоги привели к тому, что Databricks выбрала китайскую open-source модель GLM 5.2 от Z.ai (ранее Zhipu AI) в качестве основного движка для кодинга. Вот что показал бенчмарк и почему компания приняла такое решение.
Databricks разработала собственный тест, так как обнаружила, что публичные бенчмарки, такие как SWE-bench, подвержены переобучению. Компания хотела измерить, какие агенты способны решать реальные задачи от начала до конца, используя верифицированные тест-сьюты . Оценка выявила три основных сюрприза.
Open-source модели вышли на передний край. Граница Парето для задач кодирования — то есть лучшее качество за заданную цену — теперь включает модели от OpenAI, Anthropic и open-source. Сооснователь Databricks Матей Захария заявил, что «многие модели, включая open-source, теперь действительно конкурентоспособны» . Компания пришла к выводу, что открытые модели, и в частности GLM 5.2, способны справляться с задачами самого высокого уровня сложности
.
Цена за токен — обманчивый показатель. Бенчмарк показал, что цена модели за токен не является надёжным предсказателем реальной общей стоимости в агентных рабочих процессах. Более крупные модели могут быть гораздо эффективнее по числу токенов: модель с низкой ценой за токен может в итоге стоить дороже, если ей требуется больше токенов для выполнения той же задачи. Это заставило Databricks оценивать модели по реальной стоимости выполнения задачи целиком, а не по сырым тарифам API .
Совокупная стоимость владения оказалась в пользу GLM 5.2. Через API Z.ai GLM 5.2 стоит примерно $1.40 за миллион входящих токенов и $4.40 за миллион исходящих . Для команды, обрабатывающей 10 миллионов токенов в месяц при соотношении ввода/вывода 50/50, общая сумма составит около $29 в месяц
. Конкурирующие модели, такие как Anthropic Opus 4.8 ($5/$25 за миллион токенов), могут обходиться в 3–6 раз дороже при сопоставимых или незначительно лучших результатах бенчмарков
. В пересчёте на задачу один из тестов Databricks показал, что GLM 5.2 с агентом Pi достигает уровня успешности 87.5% при стоимости $1.25 за задачу, тогда как Opus 4.8 с высокими затратами усилий через Claude Code достигает сопоставимого уровня успешности при $2.00 за задачу
.
Производительность на уровне топовых моделей при гораздо более низкой стоимости. GLM 5.2 набрала 62.1 балла на SWE-bench Pro, превзойдя GPT-5.5 (58.6) и приблизившись к Anthropic Opus 4.8 . На FrontierSWE Dominance модель показала 74.4%, почти сравнявшись с 75.1% у Opus 4.8
. Внутренние тесты Databricks подтвердили эти публичные результаты: китайская open-weight модель сравнялась или приблизилась по возможностям к ведущим проприетарным моделям на тех же реальных инженерных задачах
.
Гибкость развёртывания благодаря MIT-лицензии. GLM 5.2 имеет MIT-лицензию и полностью открытые веса, что позволило Databricks развернуть её на собственных серверах, дообучить и плотно интегрировать в свой агентный рабочий процесс кодинга без лицензионных отчислений за каждое рабочее место или привязки к вендору . Эта лицензионная модель позволяет предприятиям запускать модель на собственной инфраструктуре, избегая постоянных затрат на API при высоких объёмах использования.
Пригодность для многошаговых задач с длинным горизонтом. Бенчмарк был сосредоточен на агентных правках кода, затрагивающих множество файлов и шагов рассуждения. GLM 5.2 с контекстным окном в 1 миллион токенов и архитектурой смеси экспертов (MoE) на 744 миллиарда параметров была специально оптимизирована для такой репозиторий-масштабной, длительной работы, а не для автодополнения одного файла . На Terminal-Bench 2.1, который тестирует выполнение командной строки и агентных задач, модель набрала 81.0 балл, став самой сильной open-source моделью и уступив только Claude Opus 4.8 (85.0)
.
Studio Global AI
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
Внутренний бенчмарк Databricks на собственной кодовой базе из миллионов строк показал, что open source модели, включая GLM 5.2 от Z.ai, вышли на передний край (Pareto frontier) по соотношению производительности и цены...
Внутренний бенчмарк Databricks на собственной кодовой базе из миллионов строк показал, что open source модели, включая GLM 5.2 от Z.ai, вышли на передний край (Pareto frontier) по соотношению производительности и цены... Цена за токен оказалась ненадёжным индикатором реальной стоимости: более крупные и дорогие за токен модели могут быть эффективнее в итоге, выполняя задачи с меньшим числом токенов.
GLM 5.2 обошла GPT 5.5 на SWE bench Pro (62.1 против 58.6) и почти сравнялась с Opus 4.8 на FrontierSWE (74.4% против 75.1%), предлагая API по цене $1.40/$4.40 за миллион токенов (ввод/вывод).