AMD Beli Taalas: Cip Khas untuk AI yang Boleh Ubah Industri Inferens

'Model Itu Adalah Cip'

Dalam persediaan GPU konvensional, pemberat model AI perlu sentiasa dipindahkan dari memori berkelajuan tinggi ke unit pengiraan. Taalas menghapuskan proses ini dengan mengukir pemberat model terus ke dalam susunan transistor cip semasa pembuatan .

Taalas memanggil pendekatan ini sebagai "Model Hardcore" atau litar bersepadu khusus model (MSICs) — cip tersuai yang menjelmakan pemberat dan aliran data model ke dalam pendawaian itu sendiri, bukannya memuatkannya semasa masa jalan .

Cip ujian pertama Taalas, HC1, dibina menggunakan proses N6 TSMC dengan kira-kira 53 bilion transistor pada die 815 mm². Ia direka khusus untuk model Llama 3.1-8B daripada Meta dan menyimpan pemberat dalam tatasusunan berasaskan mask-ROM dan bukannya HBM atau DRAM luaran. KV cache dan penyesuai fine-tuning disimpan dalam SRAM pada cip .

Taalas telah menunjukkan HC1 menjalankan inferens pada kelajuan sehingga 17,000 token sesaat setiap pengguna — kira-kira 10x lebih pantas daripada persediaan berasaskan GPU yang setanding — dengan kos 20x lebih rendah dan penggunaan kuasa 10x kurang .

Kelemahannya jelas: cip Taalas hanya boleh menjalankan satu model. Untuk menukar model, anda perlukan cip baru. Bagaimanapun, Taalas mendakwa proses automatiknya boleh menukar model yang belum pernah dilihat kepada reka bentuk cip siap dalam beberapa minggu, dan TSMC boleh mengeluarkan bahagian tersuai dalam masa kira-kira dua bulan .

Bagaimana AMD Merancang untuk Mengintegrasikan Taalas

Menurut siaran akhbar rasmi AMD, syarikat itu akan mengintegrasikan teknologi Taalas ke seluruh platform AI-nya untuk memberikan "prestasi dan kecekapan inferens yang terobosan" . Pelan ini termasuk menggandingkan pemecut inferens khusus Taalas dengan GPU AMD Instinct, CPU EPYC, perisian ROCm, dan sistem rak-skalabel Helios dalam penyelesaian peringkat sistem .

Aliran kerja yang dibayangkan adalah hibrid: AMD berhasrat untuk mengarahkan fasa prefill inferens (pemprosesan prompt, di mana intensiti aritmetik tinggi) ke GPU Instinct, dan kemudian menyerahkan fasa penjanaan token kepada pemecut Taalas, di mana seni bina khusus model boleh memaksimumkan daya pemprosesan .

Pengasas bersama Taalas dan bekas CEO Tenstorrent, Ljubisa Bajic — yang juga bekas eksekutif AMD — serta pasukan Taalas akan menyertai AMD di bawah organisasi AI Vamsi Boppana .

Corak Semikonduktor Kanada

Taalas adalah yang terbaru dalam barisan syarikat pemula semikonduktor Kanada yang menjanjikan dan kemudiannya diambil alih oleh firma AS, bersama-sama Hyperlume, Untether AI, dan CentML yang berkaitan dengan cip . Corak ini telah menarik perhatian pemerhati industri dan penggubal dasar.

Paul Slaby, pengarah urusan Majlis Semikonduktor Kanada, menyifatkan pengambilalihan Taalas sebagai "undi keyakinan sebenar" terhadap bakat cip AI Kanada. "AMD tidak membeli pasukan seperti Taalas melainkan orang di sini bertaraf dunia," kata Slaby kepada BetaKit . Namun, beliau pada masa sama memberi amaran bahawa perjanjian ini menekankan perjuangan Kanada untuk mengekalkan syarikat semikonduktornya yang paling berpotensi dan harta intelek yang dibangunkan di dalamnya .

Majlis itu berulang kali menegaskan bahawa tanpa modal peringkat awal yang lebih baik dan laluan pembangunan domestik, Kanada akan terus melihat syarikat pemula cip tempatannya — dan bakat di belakangnya — berhijrah ke AS . Laporan 2025 daripada Majlis itu mengenal pasti kekurangan bakat sebagai halangan nombor satu kepada pertumbuhan sektor semikonduktor Kanada . Lebih separuh daripada semua modal teroka yang dilaburkan dalam syarikat pemula Kanada datang dari AS, memberikan pelabur Amerika pengaruh yang tidak seimbang terhadap idea Kanada yang mana terselamat dan mana yang diambil alih .

Terma Kewangan

Terma kewangan urus niaga itu tidak didedahkan oleh mana-mana pihak . Perjanjian ini tertakluk kepada syarat penutupan biasa dan kelulusan kawal selia .