Waymo’nun 5 nm’lik carTPU’su ne yapıyor?

Waymo’nun özel Sensor Fusion Processor’ı, şirketin otonom sürüş sistemindeki sensörlere dönük hesaplama katmanı olarak anlaşılmalı. Şirket içinde “carTPU” adıyla anıldığı bildirilen bu 5 nm ASIC; yüksek bant genişliğine sahip sensör akışlarını alıyor, özellikleri çıkarıyor ve ana sürüş bilgisayarının kullanacağı birleştirilmiş makine öğrenimi temsilleri üretiyor. Yani bu, Waymo Driver’ın tamamının yerine geçen bağımsız bir “otonom sürüş beyni” değil; sistemin ön ucunda çalışan özel amaçlı bir işlemci. 171

Özel silikon, ana sürüş bilgisayarından önce devreye giriyor

Waymo, işlemciyi ham sensör verilerini gerçek zamanlı olarak işlemek, birleştirmek ve bu veriler üzerinde sinir ağlarını çalıştırmak üzere geliştirilen 5 nm’lik özel bir ASIC olarak tanımlıyor. Şirketin hedefi, sensöre ulaşan ilk piksel ile sürüş kararlarında kullanılacak temsil arasındaki süreyi mümkün olduğunca kısaltmak. 1719

Bu görev paylaşımı önemli. ASIC, algılamanın yoğun veri işleme gerektiren ilk aşamasını üstlenirken araçtaki daha geniş bilgisayar platformu heterojen yapısını koruyor. Sistem; özel makine öğrenimi donanımını CPU’lar, GPU’lar ve veri yönetimi, görev düzenleme ve kayıt gibi işler için kullanılan diğer hızlandırıcılarla birlikte çalıştırıyor. 1

Dolayısıyla ortaya çıkan tablo “Waymo, Nvidia’nın yerine tek bir çip koydu” şeklinde değil. Waymo, Nvidia ve AMD’nin yanı sıra Micron, Samsung, SanDisk, Socionext ve TSMC’yi de donanım ortakları arasında gösterdi. 173

İşlemci hangi verileri gerçek zamanlı olarak birleştiriyor?

Waymo’nun kamuya açık açıklamasında üç sensör türü açıkça belirtiliyor:

• Lidar: Çevrenin üç boyutlu yapısı hakkında bilgi sağlıyor.
• Radar: Algılama ve mesafe ölçümü için tamamlayıcı veriler sunuyor.
• Kameralar: Sistemin yüksek çözünürlüklü kamera akışlarını oluşturuyor.

İşlemci bu akışlarda gerçek zamanlı ön işleme, özellik çıkarımı ve sinir ağı tabanlı sensör füzyonu gerçekleştiriyor. Waymo ayrıca düşük ışık koşullarındaki algılama için zamansal gürültü azaltmadan söz ediyor. 1

Hot Chips sunumunu aktaran haberlerde sistemin aynı anda 13 yüksek çözünürlüklü kamera akışını işlediği ve kamera, lidar ile radar verilerinden oluşturulan gömlemelerin sensör füzyonu kodlayıcısına aktarıldığı belirtiliyor. 158 Ancak mevcut birincil kaynaklarda mikrofon verilerinin bu işlemci tarafından birleştirildiği bağımsız olarak doğrulanmıyor. Waymo’nun altıncı nesil sensör paketi harici ses alıcıları içeriyor; fakat bu durum, mikrofon verilerinin söz konusu ASIC tarafından işlendiğini tek başına kanıtlamıyor. 23

Hot Chips kapsamında bildirilen teknik özellikler

En ayrıntılı rakamlar Waymo’nun resmi duyurusundan ziyade Hot Chips sunumu ve bu sunumu aktaran haberlerden geliyor. Bildirilen yapılandırma şöyle: 1516

Özellik	Bildirilen ayrıntı
Üretim teknolojisi	TSMC 5 nm N5 otomotiv uygulaması
Paket	45 × 45 mm FCBGA
Yonga alanı	208 mm²
Bellek	Paket içi LPDDR5X
Bellek bant genişliği	273 GB/s
Güç tüketimi	75 wattın altında
Makine öğrenimi performansı	1.000 TOPS’tan fazla
Ana bilgisayar bağlantısı	PCIe Gen5 x8 ve 25 Gb Ethernet

Paket, yonga alanı, bellek ve güç tüketimi rakamları Waymo’nun resmi açıklamasında bağımsız biçimde doğrulanmış ayrıntılar olarak değil, raporlanan teknik özellikler olarak okunmalı. Waymo’nun resmi paylaşımı çipin amacını, 5 nm üretimini, heterojen mimarisini, 1.000 TOPS üzerindeki performans iddiasını ve iş ortağı ekosistemini doğrularken uygulama düzeyindeki ayrıntıların önemli bölümünü ikincil kaynaklar sağlıyor. 1715

Gecikme odaklı heterojen mimari

Bildirilen tasarım; Waymo’nun görüntü işleme, video kod çözücüleri, MIPI sensör girişi ve scratchpad belleği için geliştirdiği blokları, üçüncü taraf GPU yetenekleri, PCIe Gen5, 25 Gb Ethernet ve güvenli önyükleme IP’siyle bir araya getiriyor. Haberlerde ayrıca her işlem öğesi için 2 MB bankalı SRAM bulunduğu aktarılıyor. 1516

Buradaki öncelik yalnızca yüksek bir işlem gücü rakamına ulaşmak değil. Waymo’nun yaklaşımı, belirleyici ve düşük gecikmeli çalışmayı donanım-yazılım ortak tasarımıyla birleştiriyor. Sunumdan yapılan aktarımlara göre yazılım tarafı, büyük “mega-kernel” iş yüklerini derleyici öncelikli biçimde çalıştıracak şekilde tasarlanıyor. Böylece sensör verisinin girişinden gömmelere kadar olan zincir, yazılım ve silikon birlikte ayarlanarak optimize edilebiliyor. 15

Bu yaklaşım, araç içi hesaplamanın sınırlarını yansıtıyor. Sistem çok büyük veri hacimlerini gerçek zamanlı işlerken güç, ısı, fiziksel alan, titreşim ve hata toleransı kısıtları içinde çalışmak zorunda. Waymo, hesaplama platformunda sıvı soğutma ve iki bağımsız hesaplama motoru kullandığını; motorlardan biri arızalanırsa diğerinin görevi devralabildiğini söylüyor. 1

1.000 TOPS rakamı neden tek başına yeterli değil?

1.000 TOPS’tan fazla performans, manşetlik bir rakam. Ancak TOPS, bir otonom sürüş bilgisayarının ne kadar etkili olduğunu tek başına anlatmıyor. Bu değerin hangi işlemleri ölçtüğü, modellerin ne kadar verimli çalıştığı, ne kadar veri taşınması gerektiği ve ham sensör girdisinin kullanılabilir bir temsile ne hızla dönüştürüldüğü de önemli.

Waymo’nun açıklaması özel ASIC’i, şirketin kendi sensör paketi ve modelleri için optimize edilmiş bir ön uç hızlandırıcı olarak konumlandırıyor. Amaç, ham akışların tamamını genel amaçlı merkezi işlemciye göndermek yerine veriyi araca girdiği noktaya yakın işleyerek bant genişliği ihtiyacını ve gecikmeyi azaltmak. 172

Mevcut haberler, 1.000 TOPS üzerindeki değerin tek bir hesaplama motoruna mı yoksa yedekli iki motorun toplamına mı ait olduğunu da kesinleştirmiyor. Bu nedenle rakam, ek açıklama olmadan doğrudan kullanılabilir sistem işlem kapasitesinin basit bir ölçüsü olarak yorumlanmamalı. 14

Waymo’nun stratejik mesajı: Çoklu sensör ve ortak tasarım

Daniel Rosenband, Waymo’nun hedefini yalnızca insan performansını taklit eden bir sistem değil, “insanlardan çok daha az kazaya karışan süper insan bir sürücü” olarak çerçeveledi. Bu açıklama, kamera, lidar ve radarın birlikte kullanılmasını; yalnızca kameraya dayalı bir yaklaşımın tercih edilmemesini savunan görüşle birlikte sunuldu. 6

Donanım stratejisi de aynı mantığı izliyor: Waymo sensörleri, algoritmaları ve silikon tasarımını otonom sürüşün ihtiyaçları etrafında birlikte geliştiriyor. Şirketin altıncı nesil Driver platformu, yüksek çözünürlüklü kameralar, görüntüleme radarı ve lidarın tek bir çok modlu algılama sistemi olarak çalıştığı bir yapı kullanıyor. 22

Rosenband ayrıca araç içinde çok daha büyük yapay zekâ modelleri çalıştırma, uzun vadede trilyon parametreli bir modeli otomobile sığdırma ve araç içi bilgisayarın boyutunu “pizza kutusu” seviyesinden dizüstü bilgisayar boyutuna indirme hedeflerinden bahsetti. Bunlar geleceğe yönelik hedefler; mevcut işlemcinin duyurulan yetenekleri olarak değerlendirilmemeli. 6

Waymo aslında ne açıkladı?

Açıklamanın en net sonucu, Waymo’nun tek başına bir robotaksiyi çalıştırabilecek tek bir çip ürettiği değil. Şirket, en zorlu erken aşama sorunlarından birine odaklanan özel bir hesaplama hattı kuruyor: çok sayıda yüksek bant genişlikli sensör akışını, ana otonom sürüş sisteminin kullanabileceği güvenilir ve düşük gecikmeli temsillere dönüştürmek.

Doğrulanabilen temel tablo; 5 nm’lik özel bir sensör işleme ASIC’i, 1.000 TOPS’tan fazla makine öğrenimi performansı, kamera-lidar-radar verilerinin gerçek zamanlı füzyonu, heterojen bir hesaplama platformu, yedekli işlem motorları ve geniş bir donanım ortağı ağı. 171

Hot Chips kapsamında bildirilen 45 × 45 mm paket, 208 mm² yonga, 273 GB/s LPDDR5X bant genişliği ve 75 wattın altındaki güç tüketimi gibi ayrıntılar tasarımı daha somut hâle getiriyor; ancak bunlar ağırlıklı olarak ikincil kaynakların aktardığı bilgiler olmaya devam ediyor. 1511 Tüm bu veriler, Waymo’nun otonom sürüşü yalnızca ham yapay zekâ işlem gücüyle değil; gecikme, güvenilirlik, sensör çeşitliliği ve enerji verimliliğini birlikte ele alan bir uç bilişim ve sistem mühendisliği problemi olarak gördüğünü ortaya koyuyor.