AMD, Taalas’ı satın aldı: Yapay zekâ çıkarımında 48 kata varan hız artışı

Bu yöntem, yapay zekâ hizmetlerinin yanıt üretme aşaması olan çıkarımda hız ve enerji verimliliğini artırmayı hedefliyor.

Taalas nasıl 48 kata varan hız artışı sağlıyor?

Geleneksel GPU tabanlı sistemlerde temel darboğaz yalnızca hesaplama gücü değil, verinin bellekte taşınmasıdır. Nvidia dahil modern GPU’lar, model ağırlıklarını yüksek bant genişlikli bellekten (HBM) hesaplama çekirdeklerine sürekli aktarır. Bu veri hareketi hem zaman hem de enerji tüketir ve yapay zekâ çıkarımındaki performans sınırını belirler.

Taalas bu sorunu, model-özel tümleşik devreler (MSIC) geliştirerek çözmeye çalışıyor. Şirket, modelin veri akış mimarisini ve sayısal ağırlıklarını üretim sırasında çipin mantık yapısına ve metal katmanlarına sabitliyor. Böylece ağırlıkların çalışma anında bellekten yüklenmesine gerek kalmıyor.

Sonuçlar dikkat çekici. TSMC’nin 6 nanometre üretim süreciyle hazırlanan Taalas HC1 test çipi, Şubat 2026’da Meta’nın Llama 3.1 8B modelini saniyede 16.960 token hızında çalıştırdı. Taalas, bu performansı eşdeğer bir Nvidia GPU çıkarımına göre 48 kata kadar daha hızlı olarak tanımladı. Kullanılan Nvidia karşılaştırma sistemine bağlı olarak bazı kaynaklarda 73 kata kadar hız farkı da veriliyor.

Hızın bedeli: Esneklikten vazgeçmek

Model ağırlıkları fiziksel olarak çipe işlendiği için Taalas çipleri genel amaçlı GPU’lar gibi farklı modelleri çalıştırmak üzere yeniden programlanamıyor. Her çip, üretim sırasında tasarlandığı tek bir model için kullanılabiliyor; başka bir model için farklı bir fiziksel çip gerekiyor.

Taalas, bu katılığı azaltmak için özel bir tasarım ve üretim araç zinciri geliştirdi. Yaklaşık 100 katmanlı çip yapısının yalnızca en üstteki iki metal katmanı değiştiriliyor. Böylece temel yonga tasarımı korunurken yeni bir model için tasarımın üretime gönderilmesi yaklaşık iki ay içinde tamamlanabiliyor.

Bu yaklaşım, sık sık değişen veya çok çeşitli modeller için uygun olmayabilir. Buna karşılık, milyonlarca kullanıcı tarafından sürekli talep edilen sabit bir model söz konusu olduğunda, özel amaçlı donanımın yüksek hız ve verimlilik avantajı öne çıkabilir.

AMD’nin planı: GPU’lar ve özel çipler aynı sistemde

AMD, Taalas’ın MSIC’lerini şirketin Instinct GPU’ları ve raf ölçeğinde hesaplama sistemi Helios ile birlikte kullanmayı planlıyor. Bu, farklı görevlerin farklı donanımlara dağıtıldığı heterojen ve ayrıştırılmış bir mimari anlamına geliyor.

Bu yapıda Instinct GPU’ları eğitim süreçlerini ve esnek çıkarım iş yüklerini üstlenirken, Taalas çipleri en yoğun talep gören modeller için yüksek hacimli ve düşük gecikmeli çıkarım hızlandırıcıları olarak görev yapacak. Helios platformu ise bu bileşenleri tek bir raf ölçeği bağlantı yapısında bir araya getirecek.

AMD böylece iki katmanlı bir çözüm sunmayı hedefliyor: Çok sayıda farklı model ve değişken iş yükü için esnek GPU’lar; sabit ve yüksek hacimli modeller için ise son derece hızlı, model-özel çipler.

Satın almanın finansal ve rekabet boyutu

Satın almanın finansal şartları açıklanmadı. Anlaşma, AMD’nin yapay zekâ donanımı alanındaki son büyük hamlelerinin devamı niteliğinde. Şirket Temmuz 2024’te ZT Systems’ı 4,9 milyar dolar, Ağustos 2024’te ise Silo AI’ı 665 milyon dolar karşılığında satın almıştı.

Anlaşma aynı zamanda AMD’nin Nvidia’nın yapay zekâ çıkarımı alanındaki üstünlüğüne karşı hamlelerini güçlendiriyor. Nvidia’nın 2026’nın başlarında Groq’un LPU çıkarım mimarisine erişim sağlayan, yaklaşık 20 milyar dolar değerinde olduğu bildirilen bir lisans anlaşması yaptığı aktarılmıştı. AMD ise belirli ve yüksek hacimli iş yüklerinde Taalas’ın modele özel donanım yaklaşımının watt başına daha yüksek performans sunabileceğine güveniyor.

Taalas’ın kuruluşu ve geliştirdiği HC1 çipi

Taalas, 2023’te Toronto’da, daha önce başka bir yapay zekâ çipi girişimi olan Tenstorrent’in CEO’luğunu yapan Ljubisa Bajic ve aralarında eski AMD mühendislerinin de bulunduğu bir ekip tarafından kuruldu.

Girişim satın alınmadan önce Eclipse Ventures, Makers Fund ve Radical Ventures gibi yatırımcılardan toplam 219 milyon dolar girişim sermayesi topladı.

Şirket, AMD’nin ilgisini çeken HC1 test çipini Şubat 2026’da tanıttı. Çipin Llama 3.1 8B modelinde saniyede 16.960 token üretmesi, Taalas’ın model ağırlıklarını doğrudan silikona işleme stratejisinin en dikkat çekici gösterimlerinden biri oldu.

Sonuç: Yapay zekâ çıkarımında yeni bir denge arayışı

AMD’nin Taalas hamlesi, yapay zekâ çıkarımının geleceğinin yalnızca daha hızlı ve daha genel amaçlı GPU’lardan ibaret olmayabileceğine dair bir bahis. Taalas, esnekliği feda ederek en çok kullanılan modellerde olağanüstü hız ve verimlilik sağlamayı amaçlıyor.

AMD bu özel amaçlı çipleri Instinct GPU’larıyla birlikte konumlandırarak hem çok çeşitli modelleri çalıştırabilecek hem de en yoğun talep gören modeller için yüksek hacimli çıkarım sunabilecek bir yapı kurmaya çalışıyor. Bu strateji, Nvidia’nın GPU merkezli yapay zekâ altyapısına karşı doğrudan bir alternatif oluşturma çabasını temsil ediyor.