Google „Frozen v2”: wbudowuje Gemini bezpośrednio w krzem, by zyskać 10-krotną wydajność

Czym jest Frozen v2 i czym różni się od TPU?

Frozen v2 to silnik wnioskowania przeznaczony do konkretnego zastosowania (application-specific inference engine), a nie ogólny procesor tensorowy, jakim są jednostki TPU Google'a. TPU to programowalne akceleratory, które za pomocą konfiguracji programowej obsługują szeroką gamę modeli AI . Frozen v2 jest ich przeciwieństwem: specyficzna architektura Gemini – jej warstwy, operatory i przepływ danych – jest trwale zapisywana w krzemie na etapie produkcji, co czyni z niego układ typu „Gemini w chipie”.

Głównym osiągnięciem jest efektywność: według doniesień inżynierowie Google'a szacują, że Frozen v2 może dostarczać 6 do 10 razy więcej tokenów AI na jednostkę zużytej energii niż najnowsze układy TPU .

Harmonogram wdrożenia

Zgodnie z raportem The Information i potwierdzającymi go doniesieniami, wdrożenie Frozen v2 planowane jest najwcześniej na 2028 rok . Oznacza to, że układ jest jeszcze kilka lat od produkcji i trafi do użytku dopiero po wdrożeniu i dojrzałości obecnej, ósmej generacji układów TPU (Sunfish i Zebrafish).

Precedens Taalas – jak wygląda wbudowanie modelu w krzem?

Startup Taalas pokazuje dokładnie, co ten kompromis oznacza w praktyce. W lutym 2026 roku Taalas zaprezentował układ HC1, który koduje cały model Llama 3.1 8B – każdy parametr – bezpośrednio w obwodach tranzystorowych chipa za pomocą mask ROM, bez zewnętrznej pamięci HBM do przechowywania wag .

Liczby są oszałamiające:

• ~17 000 tokenów/sekundę na modelu Llama 3.1 8B
• Około 48-krotna przepustowość w porównaniu z Nvidia B200
• Mniej więcej 10 razy szybciej niż Cerebras
• Deklarowany koszt 20 razy niższy na inferencję w porównaniu z równoważnymi konfiguracjami GPU
• Koszt inferencji nawet 0,75 centa za milion tokenów

Wady są równie spektakularne:

• Trwałe przypisanie do modelu. Układ uruchamia dokładnie jedną architekturę modelu. Jeśli model zostanie zaktualizowany (nowy mechanizm uwagi, inna liczba warstw), układ staje się bezużyteczny .
• Brak aktualizacji wag. Parametry są fizycznie zakodowane; dostrajanie, adaptery LoRA lub aktualizacje po trenowaniu wymagają nowej maski układu .
• Zero obsługi wielu modeli. Centrum danych z HC1 może obsługiwać tylko Llama 3.1 8B – żadnego innego LLM .

Założyciel Taalas opisał architekturę jako połączenie „mask ROM recall fabric” z „SRAM recall fabric”, która przechowuje zarówno model, jak i wykonuje wszystkie operacje pamięci podręcznej KV na chipie, całkowicie eliminując zewnętrzny transfer pamięci . Jest to to samo podstawowe podejście, które zastosuje Frozen v2.

Kryzys infrastrukturalny napędzający Frozen v2

Moc obliczeniowa AI Google'a jest tak przeciążona, że firma zaczęła racjonować dostęp nawet płacącym gigantom. Kilka danych wyjaśnia motywację:

Odmowa Meta (marzec 2026): Google poinformował Meta w marcu 2026 roku, że nie jest w stanie dostarczyć całej mocy obliczeniowej Gemini, którą Meta chciała kupić . Niedobór opóźnił niektóre wewnętrzne projekty AI Meta i zmusił firmę do polecenia inżynierom oszczędzania tokenów AI .

Zaległości w realizacji: Zaległości w zamówieniach Google Cloud prawie się podwoiły, osiągając 462 miliardy dolarów w pierwszym kwartale 2026 roku, co stanowi popyt około 23-krotnie przekraczający dostępną moc przetwarzania . CEO Sundar Pichai potwierdził podczas telekonferencji wynikowej: „Jesteśmy w najbliższym czasie ograniczeni mocą obliczeniową… nasze przychody z chmury byłyby wyższe, gdybyśmy byli w stanie zaspokoić ten popyt” .

Szersze ograniczenia: Google wynajmuje nawet około 920 milionów dolarów miesięcznie na GPU Nvidii od SpaceX, aby wypełnić lukę w mocy obliczeniowej . Wiceprezes Google Cloud Amin Vahdat powiedział w listopadzie 2025 roku, że firma będzie musiała podwajać moc AI co sześć miesięcy, aby sprostać popytowi .

Te ograniczenia bezpośrednio motywują Frozen v2: jeśli Google uzyska 6–10 razy więcej inferencji Gemini na wat, efektywnie zwielokrotni swoją przepustowość bez konieczności budowy nowych centrów danych.

Inne inicjatywy chipowe Google'a

Frozen v2 to jeden z elementów znacznie szerszej strategii sprzętowej:

1. Ósma generacja TPU podzielona na chipy do trenowania i wnioskowania. Podczas Cloud Next 2026 Google zaprezentował ósmą generację układów TPU, po raz pierwszy podzieloną na dwa wyspecjalizowane warianty :

• TPU 8t "Sunfish" – zorientowany na trenowanie, zaprojektowany przez Broadcom, wykonany w procesie TSMC N2 z pakietem CoWoS, planowany na drugą połowę 2027 roku
• TPU 8i "Zebrafish" – zorientowany na wnioskowanie, zaprojektowany z udziałem MediaTek jako lidera w zakresie układu I/O

2. Długoterminowa umowa z Broadcom do 2031 roku. Broadcom złożył w SEC formularz 8-K ujawniający długoterminową umowę (Long Term Agreement) na opracowanie i dostawę niestandardowych TPU dla przyszłych generacji Google'a, a także umowę gwarancji dostaw (Supply Assurance Agreement) komponentów sieciowych do 2031 roku . Osobno Anthropic podpisał umowę na około 3,5 GW mocy TPU Google'a, która ma być dostępna od 2027 roku .

3. Wynajem TPU klientom, w tym OpenAI. Doniesienia wskazują, że Google coraz częściej oferuje moce TPU jako produkt do wynajęcia zewnętrznym firmom AI, a wśród klientów wymieniane jest OpenAI .

4. Projekt "Icefish" z MediaTek. Kodowa nazwa "Icefish" pojawia się w kontekście zaangażowania MediaTek w niestandardowy projekt chipowy dla Google'a poza TPU 8i – prawdopodobnie akceleratora inferencyjnego o niższej mocy lub brzegowego .

5. Rozmowy z Intelem. Według doniesień Google prowadził rozmowy z Intelem na temat niestandardowych projektów chipów AI, choć nie ogłoszono żadnej formalnej umowy .

6. Ironwood (siódma generacja TPU) ogólnie dostępny. Ironwood został udostępniony klientom chmurowym w kwietniu 2026 roku . Zbudowany w procesie 3 nm z architekturą dual-chiplet, został zoptymalizowany dla modeli MoE zasilających ekosystem Gemini .

Jak Frozen v2 uzupełnia, a nie zastępuje linię TPU

Raport The Information wyraźnie stwierdza, że Frozen v2 jest zaprojektowany jako uzupełnienie, a nie zamiennik mapy drogowej TPU Google'a . Logika jest prosta:

• TPU pozostają uniwersalnym kręgosłupem obliczeniowym AI. Obsługują trenowanie, wnioskowanie dla wielu modeli, dostrajanie i inferencję dla dowolnych modeli klientów. Są głównym produktem Google Cloud dla zewnętrznych klientów AI .
• Frozen v2 to hiperspecjalistyczny akcelerator dla własnego wnioskowania Gemini o dużym wolumenie. To w zasadzie "urządzenie Gemini", które odciąża najbardziej przewidywalny i największy ruch inferencyjny z TPU, uwalniając ich moc dla bardziej zróżnicowanych obciążeń i klientów zewnętrznych .
• Żaden inny model, żadne trenowanie, żadna elastyczność. Frozen v2 nie może trenować modeli, uruchamiać LLM konkurencji ani dostosowywać się do zmian architektury Gemini. Zajmuje wąską, ale masową niszę .
• TPU 8i (Zebrafish) i Frozen v2 współistnieją. Zorientowany na wnioskowanie TPU 8i obsługuje szerokie spektrum obciążeń inferencyjnych. Gdy architektura Gemini się ustabilizuje, a wolumen uzasadni produkcję stałego chipa, Frozen v2 przejmie tę konkretną część obciążenia przy radykalnie niższym poborze mocy .

Jest to analogiczne do wykorzystywania przez hyperscalerów zarówno ogólnego przeznaczenia CPU dla większości obciążeń, jak i ASIC-ów o stałej funkcji do konkretnych, masowych zadań (np. transkodowanie wideo, odciążanie sieci). Frozen v2 jest odpowiednikiem w świecie AI: dedykowanym silnikiem inferencyjnym, który działa obok programowalnej floty TPU.