İçi hava dolu fiber, yapay zekâ veri merkezlerinin coğrafi sınırlarını genişletebilir

Yapay zekâ veri merkezlerinin tasarımı artık yalnızca hesaplama gücüyle ilgili değil; aynı zamanda bir coğrafya problemi. Elektrik, arazi, şebeke bağlantısı, izin süreçleri veya yerel siyasi koşullar tek bir dev kampüsün kurulmasını zorlaştırdığında, operatörler GPU kapasitesini birden fazla tesise dağıtmak zorunda kalabilir. Relativity Networks, daha hızlı bir optik iletişim ortamının bu tesisleri birbirine daha sıkı bağlı, tek bir sistem gibi çalıştırabileceğine yatırım yapıyor.

Şirketin ChronoCore platformu, geleneksel fiberdeki katı cam çekirdek yerine içi hava dolu bir merkezden ışığı yönlendiren içi boş çekirdekli fiber teknolojisini kullanıyor. Relativity, bu yaklaşımın sinyalin yayılma gecikmesini kilometre başına yaklaşık 3,4–3,5 mikrosaniyeye düşürebileceğini; standart fiberde bu sürenin yaklaşık 5 mikrosaniye olduğunu belirtiyor. 1618

Temel fikir: Mesafeyi daha az kısıtlayıcı hâle getirmek

Fiber, veri merkezleri arasındaki fiziksel mesafeyi ortadan kaldırmaz. Ancak optik sinyalin bu mesafeyi kat etme süresini azaltabilir. GPU kümeleri arasında sürekli veri alışverişi yapan dağıtık yapay zekâ iş yüklerinde bu fark önem kazanır.

Relativity’nin hedeflediği kullanım alanı, veri merkezleri arasındaki bağlantı. Şirket, kablosunun yapay zekâ tesislerini birbirine bağlamak için 24 düşük gecikmeli kanal sunduğunu ve içi boş çekirdekli fiberin benzer gecikme düzeyinde veriyi yaklaşık 1,5 kat daha uzağa taşıyabildiğini söylüyor. 1424

Pratikte bu teknoloji, altyapı planlamacılarına daha fazla seçenek sunmayı amaçlıyor. Sıkı biçimde bağlı bir yapay zekâ sisteminin kurulabileceği tek yerin kesintisiz ve devasa bir kampüs olduğu varsayımı yerine, işletmeci elektriğin ve inşaat koşullarının daha elverişli olduğu birkaç tesisteki kapasiteyi bir araya getirebilir.

Yapay zekâ gecikme hesabını neden değiştiriyor?

Günlük internet bağlantılarında birkaç mikrosaniyelik ek gecikme çoğu zaman kritik değildir. Ancak iş yükü farklı tesislere bölündüğünde ve bu tesislerin sık sık senkronize olması gerektiğinde tablo değişir. Relativity’nin iddiası, fiberin yayılma gecikmesini azaltmanın, dağıtık eğitim ve çıkarım süreçlerinin daha geniş bir fiziksel alanda senkron kalmasına yardımcı olabileceği yönünde. 110

Şirket bunu, “coğrafyanın bilgisayarın bir parçası hâline gelmesi” olarak tanımlıyor: Ağ artık yalnızca ayrı tesisleri birbirine bağlamıyor; bu tesislerin hâlâ tek bir koordineli yapay zekâ fabrikası gibi çalışabilmesi için aralarındaki mesafenin ne kadar olabileceğini de etkiliyor. 1718

Bununla birlikte, daha hızlı fiber tek başına birden fazla veri merkezini tek bir kümeye dönüştürmez. Uçtan uca performans; anahtarlar, alıcı-vericiler, ağ topolojisi, yazılım, iş yükünün iletişim biçimi ve bağlantıdaki diğer tüm gecikme kaynaklarına da bağlıdır. İçi boş çekirdekli fiber, sorunun yalnızca bir katmanını, yani optik bağlantıdaki yayılma süresini ele alır.

“Yüzde 50 daha hızlı” ifadesi ne anlatıyor?

Duyuruyla ilgili haberlerde içi boş çekirdekli fiberin geleneksel fiberden yaklaşık yüzde 50 daha hızlı olduğu aktarıldı. 2 Relativity’nin kendi materyallerinde ise ChronoCore için oran yaklaşık yüzde 47; aynı mesafede gecikme azalması ise yaklaşık yüzde 32 olarak veriliyor. 18

Bu rakamlar birbirinin tam karşılığı değil. Gecikmenin kilometre başına 5 mikrosaniyeden 3,5 mikrosaniyeye düşmesi, tek yönlü yayılma gecikmesinde yüzde 30 azalma anlamına gelir. Basitleştirilmiş bu karşılaştırmada hız artışı ise yaklaşık yüzde 43’tür. Kesin oran, kullanılan başlangıç değeri ve ölçüm yöntemine göre değişir.

Dolayısıyla kalıcı önem taşıyan nokta manşetlerdeki yüzde oranı değil. Katı camın yerine hava çekirdekli bir iletişim ortamı koymanın, tesisler arasındaki pratik mesafeyi genişletecek kadar zaman kazandırıp kazandıramayacağıdır.

Finansman ve hiper ölçekleyici siparişi neden önemli?

Relativity, 22 milyon dolarlık SAFE senedi finansmanı ve adı açıklanmayan bir hiper ölçekleyiciden 40 milyon dolarlık ayrı bir takip siparişi aldığını açıkladı. 23 SAFE, yatırımın genellikle gelecekteki fiyatlandırılmış bir finansman turunda hisseye dönüşmesini sağlayan bir anlaşmadır. Bu nedenle söz konusu finansman, geleneksel değerlemesi belirlenmiş bir hisse satışından çok erken aşama sermayesi olarak değerlendirilmelidir. 2

40 milyon dolarlık sipariş ise farklı türde bir sinyal veriyor. Haberlerde, hiper ölçekleyicinin takip siparişini vermeden önce ChronoCore’u veri merkezleri arasındaki bağlantı için test ettiği aktarılıyor. Bu durum, en az bir büyük bulut işletmecisinin ilk değerlendirme aşamasının ötesine geçtiğine işaret ediyor. 113

Yine de bu, teknolojinin geniş çapta benimsendiğinin kanıtı değil. Müşterinin adı açıklanmadı; kamuya açık bilgilerde sözleşmenin uygulama takvimi, teknik test sonuçları veya siparişin ne kadar altyapıyı kapsayacağı belirtilmiyor. Bu nedenle 40 milyon dolarlık rakam, ticari ilgiyi gösteriyor; içi boş çekirdekli fiberin geleneksel fiberin yerini standart olarak alacağını garanti etmiyor.

Ürünün arkasındaki altyapı dönüşümü

Relativity, GPU’ların dışında kalan bir kısıtlamayı hedefliyor: yeterli elektrik ve uygun geliştirme alanının nerede bulunabileceği. Şirketin materyalleri ve haberler, yapay zekâ altyapısı işletmecilerinin mevcut elektriğe ve elverişli arazilere ulaşabilmek için tesislerini coğrafi olarak birbirinden ayrı kampüslere yaydığını aktarıyor. 1627

Bu durum ağın rolünü de değiştiriyor. Geleneksel bir veri merkezi yapısında ağ, öncelikle belirli bir tesis içindeki makineleri birbirine bağlar. Dağıtık yapay zekâ altyapısında ise tesisler arası bağlantı, ayrı kampüslerin aynı sistemin parçası olacak kadar birbirine yakın çalışıp çalışamayacağını etkileyebilir.

Bu nedenle içi boş çekirdekli fiber, bir coğrafi olanaklandırma katmanı olarak konumlandırılıyor. İşletmecilerin yeterli elektrik, arazi, şebeke erişimi ve siyasi desteğe sahip tek bir mega kampüsü beklemek yerine, kapasiteyi elektrik açısından uygulanabilir birkaç konumda birleştirmesine yardımcı olabilir. Optics.org, Relativity’nin standart fiber için yaklaşık 60 kilometrelik tipik sınırla ChronoCore için potansiyel 90 kilometrelik erişimi karşılaştırdığını bildiriyor. Ancak belirli bir yapay zekâ iş yükünde kullanılabilecek gerçek mesafe, tüm sistem tasarımına bağlı olacaktır. 24

Duyuru neyi gösteriyor, neyi göstermiyor?

Duyuru, yapay zekâ sistemleri büyüdükçe sektörün yalnızca hesaplama yoğunluğunu ve tesis içi ağları değil, sistemin toplam fiziksel coğrafyasını da optimize etmeye yöneldiğini gösteriyor.

Relativity’nin aldığı finansman üretimi büyütmesi için sermaye sağlarken, takip siparişi de içi boş çekirdekli yaklaşımın en az bir ciddi hiper ölçekleyicinin değerlendirmesini çektiğine işaret ediyor. 34 Teknik öneri basit: Daha düşük yayılma gecikmesi, coğrafi olarak dağılmış GPU kapasitesinin daha uygulanabilir olmasını sağlayabilir.

Ancak asıl soru operasyonel. Üretim ölçeği, maliyet, güvenilirlik, kurulum karmaşıklığı ve gerçek dağıtık yapay zekâ iş yüklerinde ölçülmüş uçtan uca performans konusunda henüz kamuya açık daha fazla kanıta ihtiyaç var. Bu ayrıntılar ortaya çıkana kadar ChronoCore, yapay zekâ veri merkezlerinin değişen kısıtlarına yönelik önemli bir altyapı yatırımı olarak görülmeli; fiber teknolojisinin yapay zekâ veri merkezlerinin coğrafya sorununu çözdüğünün kanıtı olarak değil.