Databricks ha sviluppato un benchmark interno sulla propria codebase multimilionaria per valutare i modelli AI su compiti di ingegneria reali, superando i limiti dei test pubblici come SWE bench. Il benchmark ha rivelato che i modelli open source, in particolare GLM 5.2 di Z.ai (ex Zhipu AI), hanno raggiunto la fron...

Create a landscape editorial hero image for this Studio Global article: Search & fact-check with cited sources for What did Databricks' internal coding benchmark reveal about AI model performance and cost, and wh. Article summary: Databricks published results from an internal coding benchmark that evaluated agentic models on real engineering tasks from its multi-million-line codebase (Python, Go, TypeScript, Scala, SQL). The key findings and the c. Topic tags: general, documentation, general web, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, w
Databricks, l'azienda specializzata in dati e AI, ha pubblicato i risultati di un benchmark interno sul coding condotto a luglio 2026, che ha valutato vari modelli AI su compiti di ingegneria reali tratti dalla propria codebase multimilionaria (che comprende Python, Go, TypeScript, Scala e SQL). Le conclusioni del benchmark hanno spinto l'azienda ad adottare il modello open source cinese GLM 5.2 di Z.ai (ex Zhipu AI) come motore di coding predefinito. Ecco cosa è emerso e perché Databricks ha fatto questa scelta.
Databricks ha creato un test personalizzato perché ritiene che i benchmark pubblici come SWE-bench possano essere 'ottimizzati' e voleva misurare quali agenti fossero in grado di risolvere compiti reali dall'inizio alla fine, utilizzando suite di test specifiche . La valutazione ha portato a tre sorprese principali.
I modelli open source hanno raggiunto la frontiera. La frontiera di Pareto per i compiti di coding (ovvero la migliore qualità a un dato costo) include ora modelli di OpenAI, Anthropic e fornitori open source. Matei Zaharia, cofondatore di Databricks, ha dichiarato che "molti modelli, inclusi quelli open source, sono ora veramente competitivi" . L'azienda ha concluso che i modelli aperti, e GLM 5.2 in particolare, sono ora in grado di gestire anche il massimo livello di difficoltà testato
.
Il prezzo per token è un indicatore di costo fuorviante. Il benchmark ha evidenziato che il prezzo per token di un modello non prevede in modo affidabile il costo totale effettivo nei flussi di lavoro di coding agentico. I modelli più grandi possono essere molto più efficienti in termini di token, il che significa che un modello apparentemente più economico può finire per costare di più se richiede più token per completare la stessa attività. Questo ha spinto Databricks a valutare i modelli in base al costo reale di completamento delle attività, piuttosto che alle tariffe API lorde .
Il costo totale di proprietà ha favorito GLM 5.2. Tramite l'API di Z.ai, GLM 5.2 costa circa 1,40 $ per milione di token in input e 4,40 $ per milione di token in output . Per un team che elabora 10 milioni di token al mese con un rapporto 50/50 tra input e output, il costo totale sarebbe di circa 29 $ al mese
. Modelli concorrenti come Opus 4.8 di Anthropic, a 5 $/25 $ per milione di token, possono costare da 3 a 6 volte di più per punteggi di benchmark comparabili o leggermente migliori
. Su base unitaria, un test di Databricks ha mostrato che GLM 5.2, utilizzando l'agente Pi, ha raggiunto un tasso di superamento dell'87,5% a 1,25 $ per attività, mentre Opus 4.8 ad alto sforzo, utilizzando Claude Code, ha ottenuto un tasso di superamento comparabile a 2,00 $ per attività
.
Prestazioni da frontiera a un costo molto inferiore. GLM 5.2 ha ottenuto un punteggio di 62,1 su SWE-bench Pro, superando GPT-5.5 (58,6) e avvicinandosi a pochi punti da Opus 4.8 di Anthropic . Su FrontierSWE Dominance, ha raggiunto il 74,4%, quasi alla pari con il 75,1% di Opus 4.8
. I test interni di Databricks hanno confermato questi benchmark pubblici: il modello open weight cinese ha eguagliato o quasi le capacità dei principali modelli proprietari sugli stessi compiti di ingegneria reali
.
Flessibilità di implementazione con licenza MIT e pesi aperti. Poiché GLM 5.2 è concesso in licenza MIT e ha pesi completamente aperti, Databricks ha potuto implementarlo internamente, metterlo a punto e integrarlo strettamente nel proprio flusso di lavoro di coding agentico, senza costi di licenza per utente o vincoli di vendor lock-in . Questo modello di licenza consente alle aziende di eseguire il modello sulla propria infrastruttura, evitando costi API ricorrenti per un utilizzo ad alto volume.
Adatto per attività a lungo termine e multi-step. Il benchmark si è concentrato su modifiche di coding agentico che coinvolgono molti file e passaggi di ragionamento. GLM 5.2, con la sua finestra di contesto di 1 milione di token e l'architettura mixture-of-experts da 744 miliardi di parametri, è stato specificamente ottimizzato per questo tipo di lavoro su larga scala, piuttosto che per il semplice completamento di codice su file singoli . Su Terminal-Bench 2.1, che testa l'esecuzione di attività da riga di comando e agentiche, ha ottenuto un punteggio di 81,0, diventando il modello open source più forte e superato solo da Claude Opus 4.8 (85,0)
.
Studio Global AI
Use this topic as a starting point for a fresh source-backed answer, then compare citations before you share it.
Databricks ha sviluppato un benchmark interno sulla propria codebase multimilionaria per valutare i modelli AI su compiti di ingegneria reali, superando i limiti dei test pubblici come SWE bench.
Databricks ha sviluppato un benchmark interno sulla propria codebase multimilionaria per valutare i modelli AI su compiti di ingegneria reali, superando i limiti dei test pubblici come SWE bench. Il benchmark ha rivelato che i modelli open source, in particolare GLM 5.2 di Z.ai (ex Zhipu AI), hanno raggiunto la frontiera delle prestazioni, competendo con i migliori modelli proprietari.
Il costo per token si è rivelato un indicatore inaffidabile: modelli apparentemente più economici possono richiedere molti più token per completare un'attività, aumentando il costo totale.