ZGCM-1-7B: otevřený model pro matematiku a vyhledávání s nástroji

ZGCM-1-7B spojuje dvě schopnosti: promýšlet matematické úlohy a podle potřeby získávat informace pomocí nástrojů. Výzkumníci ze Zhongguancun Academy a Zhongguancun Institute of Artificial Intelligence jej představili jako otevřený model, u něhož lze zkoumat také postup trénování, nikoli pouze porovnávat konečná skóre. 24

Co je dostupné a pod jakou licencí

Jde o hustý jazykový model se 7,39 miliardy parametrů, trénovaný od základu. Karta modelu uvádí licenci MIT. Označení CC BY 4.0 u výzkumného článku se vztahuje na článek, a nemělo by se proto zaměňovat za licenci modelu. Při použití jednotlivých zveřejněných zdrojů je namístě ověřit jejich vlastní podmínky. 271

Architektura a dlouhý kontext

ZGCM-1-7B je hustý Transformer typu decoder-only s deklarovaným kontextovým oknem 256 tisíc tokenů. V jednom modelu nabízí režim postupného uvažování (thinking) i režim přímé odpovědi. Výzkumníci tak mohou porovnávat oba způsoby odpovídání bez výměny modelu. 24

Architektura střídá vrstvy pozornosti s řízeným posuvným oknem a vrstvy plné pozornosti; jeden z popisů uvádí 27 vrstev prvního typu a pět druhého. Podle autorů toto uspořádání v jejich srovnání snížilo využití mezipaměti KV 6,4krát a při kontextu 256 tisíc tokenů zvýšilo propustnost 3,94krát oproti variantě s plnou pozorností. Nejde o příslib stejného zrychlení při každém nasazení. 410

Proč je zajímavý jako výzkumný základ

Zveřejněný postup zahrnuje předtrénování, postupné rozšiřování kontextu v navazující fázi trénování a doškolení na příkladech obecných i agentních úloh. Využívá optimalizátor Muon při trénování v přesnosti FP8; fáze dlouhého kontextu postupují přes 16K, 64K a 256K a záznamy interakcí převádějí na přechody markovského rozhodovacího procesu. Autoři pro tuto navazující fázi uvádějí 600 miliard tokenů. 1210

Projekt zveřejnil také datovou sadu a průběžné kontrolní body; zprávy o vydání zmiňují rovněž trénovací kód, postupy a záznamy. Lze tak zkoumat větší část cesty k výslednému modelu. Například kontrolní bod označený jako fáze dat 16K dokumentuje použitý trénovací kontext i průběžný počet tokenů. 2369

Tým uvádí, že mu při vývoji pomáhali AI agenti řízení výzkumníky, mimo jiné při přípravě dat a provozu výpočetního clusteru. To popisuje pracovní postup; samo o sobě to nedokládá, že agenti model nezávisle navrhli či ověřili, ani nevyčísluje jejich podíl na výsledcích. 28

Výsledky testů a jejich hranice

V uváděných hodnoceních dosáhl ZGCM-1-7B 97,13 % v MATH-500, 75,00 % v AIME 2026, 63,09 % ve WebWalkerQA a 19,43 % v BrowseComp. Ve všech srovnáních však nevede: zveřejněné tabulky ukazují také horší výsledky v AIME 2024 a AIME 2025. Autoři navíc uvádějí, že stejné hodnoty ztrátové funkce při předtrénování dosáhli přibližně za 4,2krát kratší dobu než se svou výchozí konfigurací AdamW/BF16. Jde o výsledky konkrétních testů a systémových srovnání, nikoli o záruku výkonu při každém vyhledávacím úkolu. 710

Na co dát pozor při spuštění

Karta modelu obsahuje příklad generování textu v knihovně Transformers pro zgcagi/ZGCM-1-7B. Používá volbu trust_remote_code=True, proto je vhodné před jejím zapnutím zkontrolovat vlastní kód v repozitáři. Dostupné podklady nestanovují minimální požadavky finálního modelu na GPU či paměť ani povinné verze balíčků; údaje z popisů průběžných kontrolních bodů za takové požadavky nelze vydávat. 219