Partner projektowy: rosnąca rola MediaTek

Firma MediaTek otrzymała wyłączne zamówienie na układ Triggerfish . Zamówienie to ma jednostkową cenę o około 30% wyższą niż w przypadku bazowego układu Humufish . Analityk Kuo sugeruje, że MediaTek przejmuje więcej prac architektonicznych i integracyjnych, co oznacza przejście w kierunku projektowania na poziomie systemowym . To potwierdza pozycję MediaTek jako głównego partnera Google w generacji TPU v9.

Kluczowe ulepszenia techniczne

Triggerfish wprowadza trzy główne zmiany architektoniczne w porównaniu do obecnego TPU v9 (Humufish):

• Zwiększona pamięć SRAM na chipie: Nawet 2–3 razy więcej niż w Humufish. Dzięki temu większa część aktywnego zbioru roboczego agenta AI lub modelu RL może pozostać na chipie, redukując potrzebę sięgania do wolniejszej pamięci zewnętrznej. Przekłada się to na niższe koszty przesyłania danych i lepszą wydajność .
• Nowa pamięć HBM4E: Pamięć off-chip DRAM została ulepszona z HBM4 do najnowszej generacji HBM4E, co zapewnia wyższą przepustowość pamięci dla wnioskowania na dużą skalę .
• Dedykowany rdzeń symulacyjny: Dodano nowy, analogowy rdzeń (simulation die) zaprojektowany specjalnie z myślą o obciążeniach związanych z uczeniem przez wzmacnianie (RL) i agentami AI. Jego możliwe funkcje to lokalne zarządzanie TPU, przełączanie między trybem treningu i wnioskowania oraz współpraca w zakresie uczenia przez wzmacnianie z agentami AI .

Zmiany te bezpośrednio rozwiązują problemy tzw. „ściany CPU

Partner projektowy: rosnąca rola MediaTek

Firma MediaTek otrzymała wyłączne zamówienie na układ Triggerfish . Zamówienie to ma jednostkową cenę o około 30% wyższą niż w przypadku bazowego układu Humufish . Analityk Kuo sugeruje, że MediaTek przejmuje więcej prac architektonicznych i integracyjnych, co oznacza przejście w kierunku projektowania na poziomie systemowym . To potwierdza pozycję MediaTek jako głównego partnera Google w generacji TPU v9.

Kluczowe ulepszenia techniczne

Triggerfish wprowadza trzy główne zmiany architektoniczne w porównaniu do obecnego TPU v9 (Humufish):

• Zwiększona pamięć SRAM na chipie: Nawet 2–3 razy więcej niż w Humufish. Dzięki temu większa część aktywnego zbioru roboczego agenta AI lub modelu RL może pozostać na chipie, redukując potrzebę sięgania do wolniejszej pamięci zewnętrznej. Przekłada się to na niższe koszty przesyłania danych i lepszą wydajność .
• Nowa pamięć HBM4E: Pamięć off-chip DRAM została ulepszona z HBM4 do najnowszej generacji HBM4E, co zapewnia wyższą przepustowość pamięci dla wnioskowania na dużą skalę .
• Dedykowany rdzeń symulacyjny: Dodano nowy, analogowy rdzeń (simulation die) zaprojektowany specjalnie z myślą o obciążeniach związanych z uczeniem przez wzmacnianie (RL) i agentami AI. Jego możliwe funkcje to lokalne zarządzanie TPU, przełączanie między trybem treningu i wnioskowania oraz współpraca w zakresie uczenia przez wzmacnianie z agentami AI .

Zmiany te bezpośrednio rozwiązują problemy tzw. „ściany CPU