Trump yapay zekâda yavaşlamayı reddetti: Amodei ise sınır modeller için güvenlik kuralları istiyor

Donald Trump, gelişmiş yapay zekâ sistemlerinin geliştirilme hızını kasıtlı olarak düşürme çağrılarını ABD-Çin rekabeti üzerinden reddetti. Kamuya açık açıklamalarında ABD’nin sektörde lider kalması gerektiğini, çünkü “yapay zekâyı kim kazanırsa, kazanır” sözleriyle dile getirdi. Daha sonra yapay zekânın dünyayı ele geçirebileceği ya da insanlığı yok edebileceği iddialarını “HOAX” (aldatmaca) olarak niteledi; yapay zekâya ve veri merkezlerine karşı çıkışı ise Çin’in yararına olan “SICK” (hastalıklı) bir komplo diye tanımladı. 1719

Trump neden Dario Amodei’yi hedef aldı?

Trump’ın tepkisi, Anthropic CEO’su Dario Amodei’nin en güçlü yapay zekâ sistemlerinin yeteneklerinin ilerleme hızını bilinçli biçimde düşürme çağrısından sonra geldi. İki yaklaşım farklı önceliklerden hareket ediyor: Trump ABD’nin teknolojik üstünlüğünü korumaya odaklanırken, Amodei model yeteneklerinin etkili güvenlik uygulamaları ve denetim mekanizmalarından daha hızlı ilerliyor olabileceğini savundu. 17

Trump ayrıca mevcut ceza ve düzenleyici yetkilerin zaten geniş olduğunu, gerekli güvencenin de güçlü bir başkan olduğunu ileri sürdü. Bu nedenle Amodei’ye yönelik eleştirisi, hem insanlığın geleceğine ilişkin risk uyarılarına duyduğu kuşkuyu hem de resmî kısıtlamaların ABD şirketlerini Çinli rakipleri karşısında zayıflatabileceği kaygısını içeriyordu. 1921

“We Must Pace the Frontier” ne öneriyor?

Amodei yapay zekâ araştırmalarının tamamen durdurulmasını istemiyor. Üç maddelik planı; güvenlik çalışmaları, testler ve yönetişim mekanizmalarının geride kalmaması için, denetimsiz yetenek artışını yavaşlatmayı öngörüyor.

1. Sınır yapay zekâ laboratuvarlarında kalıcı bağımsız değerlendiriciler: Anthropic, üçüncü taraf değerlendiricilere sistemlerine çalışan düzeyinde, sürekli erişim vereceğini söyledi. Bu kişilerin görevi güvenlik uygulamalarını doğrulamak, olayları raporlamak ve eğitim sürecinde modellerin amaçlanan hedeflerle uyumunu değerlendirmek olacak. 16
2. Önde gelen yapay zekâ şirketleri arasında koordinasyon: Plan, şirketlerin yalnızca daha güçlü modeller üretme yarışına girmek yerine ortak güvenlik standartları belirlemesini ve denetimsiz gelişime sınırlar koymasını öneriyor.
3. Uluslararası iş birliği: Amodei, en ciddi yapay zekâ risklerinin yönetiminin nihayetinde tek bir ülke veya blokla sınırlı kalamayacağını savunuyor.

İlk madde yalnızca hükümetlere ya da rakiplere yapılmış bir çağrı değildi: Anthropic bunu hemen uygulayacağı tek taraflı bir taahhüt olarak sundu. 16

Diğer yapay zekâ liderleri ne dedi?

OpenAI CEO’su Sam Altman, sınırdaki gelişimin kontrollü bir tempoda ilerlemesi gerektiği konusunda Amodei’ye katıldığını ve OpenAI’ın da dış değerlendiricilere erişim sağlayacağını söyledi. xAI’ın başındaki Elon Musk da Amodei’yi desteklediğini belirtti.

Microsoft CEO’su Satya Nadella, temkinli ilerleme ve laboratuvar içindeki bağımsız değerlendiriciler fikrine olumlu yaklaştı; ancak önemli bir koşul ekledi: Denetim, yalnızca küçük bir şirket grubunun kontrolünde olmamalı. Nadella’ya göre süper zekâ arayışı insanlığa fayda sağlamalı ve insan denetimi altında kalmalı.

Bu açıklamalar, üzerinde uzlaşılmış eksiksiz bir düzenleme rejimi anlamına gelmiyor. Ancak en ileri sistemlerin sürekli ve daha kurumsal biçimde denetlenmesine, sektörün önemli isimleri arasında destek bulunduğunu gösteriyor.

Esas düğüm: Çin ve tek taraflı yavaşlama

Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon, bu sistemleri geliştiren kişilerin insanlığın geleceği konusunda “gerçekten korktuğunu” söyledi. Gelişimin yavaşlatılması fikrini olumlu buldu; fakat bunun Çin’le eşgüdüm içinde yapılması gerektiğini vurguladı. 1

Bu, tartışmanın merkezindeki soruna işaret ediyor. Tek başına yavaşlayan bir şirket ya da ülke, aynı frenleri uygulamayan rakiplerinin gerisine düşmekten endişe edebilir. Çin Dışişleri Bakanlığı da Amodei’nin Çin’in yapay zekâ kapasitesini sınırlamaya yönelik çağrısına karşı çıktı; bunu tarafsız bir güvenlik yönetişimi önerisi değil, ABD’nin Çin’i çevreleme girişimi olarak değerlendirdi. 4

Ortaya çıkan tablo bir güven sorununa işaret ediyor: Savunucular karşılıklı kuralları riski azaltmanın yolu sayarken, karşı çıkanlar aynı kuralları diğer tarafın teknolojik üstünlüğünü koruyacak bir araç olarak görebiliyor.

“Güvenlik, yerleşik şirketleri korur” eleştirisi

Yatırımcı Michael Burry, yavaşlatma kampanyasını “self-serving”, yani kendi çıkarına hizmet eden bir tutum olarak niteledi. Burry’ye göre daha yavaş gelişim ve daha ağır uyum yükümlülükleri, yeni rakiplerin pazara girmesini zorlaştırarak halihazırdaki büyük yapay zekâ şirketlerine avantaj sağlayabilir. Ayrıca mevcut büyük dil modellerinin yapay genel zekâya giden bir yolda olduğu görüşüne de karşı çıktı.

Bu eleştiri yapay zekâ güvenliği kaygılarını tek başına çürütmüyor. Ancak pratik bir politika riskini ortaya koyuyor: En ileri sistemleri daha güvenli hâle getirmek için tasarlanan kurallar, bu kurallara uyum sağlayacak kaynakları en çok olan şirketlerin piyasa gücünü pekiştirebilir. İnandırıcı bir çerçevenin hem güvenliği hem de gücün yoğunlaşmasını ele alması gerekir.

Planlanan Trump-Xi görüşmesi neden önemliydi?

Trump ile Çin lideri Şi Cinping’in, 24 Eylül için planlanan görüşmede yapay zekâ yönetişimini de ele alması bekleniyordu. 4 Bu görüşme önemliydi; çünkü sınır yapay zekâ güvenliği stratejisinin en zor tarafı, tek bir laboratuvar için kural yazmak değil, rakip güçlerin karşılıklı ve uygulanabilir olduğuna inandığı düzenlemeler kurmak.

Trump’ın Çin rekabetini önceleyen yaklaşımı ve Pekin’in Çin’in yapay zekâ gelişimini sınırlama fikrine itirazı, bunun ne kadar zor olacağını gösteriyordu. Dolayısıyla tartışma basitçe “hızlanmak mı, durmak mı?” ikiliğinin ötesine geçiyor: Asıl mesele, yapay zekâ yarışının güvenlik politikalarını jeopolitik rekabetin yeni cephesine dönüştürmeden yönetilip yönetilemeyeceği. 174