Yapay zekâ riskinde itiraz, güvenlikte uzlaşı: Trump’ın gönüllü anlaşması ne vaat ediyor?

29 Eylül’de Beyaz Saray’da yapılan toplantı, yapay zekâ riskleri konusundaki özel bir anlaşmazlığı kamuoyuna yansıyan ortak bir taahhütle yan yana getirdi. Haberlere göre teknoloji yöneticileri, Anthropic CEO’su Dario Amodei’nin risk uyarılarına itiraz etti. Toplantıdan sonra Amodei, teknolojinin “çok gerçek riskler” taşıdığını, bu risklere nasıl karşılık verileceğinin ise hâlâ tartışıldığını söyledi. Aynı toplantıda yöneticiler ve Başkan Donald Trump gönüllü bir güvenlik anlaşması da sundu. Ancak ortak imza, devlet düzenlemesinin rolü konusunda uzlaşıldığı anlamına gelmiyordu. 2

Toplantıda ne yaşandı?

Mevcut haberlerde aktarılan bir habere göre, daha küçük bir oturumda bazı yöneticiler Amodei’nin uyarılarını sorguladı. Ancak eldeki bilgiler, konuşmanın ayrıntılarını ya da hangi katılımcının tam olarak ne söylediğini ortaya koymaya yetmiyor. Bu karşılaşmanın özellikle iş kayıpları konusunu içerdiği de doğrulanmış değil.

Daha geniş görüş ayrılığı ise açıktı: Amodei, gelişmiş yapay zekâ sistemlerinin bağımsız denetimden geçmesini zorunlu kılacak düzenlemeleri savunmuştu. Trump ise yeni federal kısıtlamalar yerine şirketlerin kendi denetimlerini yapmasını tercih ettiğini belirtti. 4 Toplantı sonrasında Amodei, risklerin gerçek olduğunu vurgularken bunlara verilecek yanıtın hâlâ tartışıldığını söyledi. 2

Gönüllü anlaşma şirketlerden ne istiyor?

“Beyaz Saray Süper Zekâ Anlaşması” şirketlerin iç kontroller ve güvenlik incelemeleri yürütmesine ilişkin taahhütler içeriyor. Şirketlerin, yapay zekâ sistemlerinin geliştiricilerinin amaçladığı gibi çalışıp çalışmadığını değerlendirmek üzere bağımsız denetçilerle çalışması ve izinsiz erişim ya da bilgisayar korsanlığına karşı önlemler alması da öngörülüyor. 315

Trump anlaşmayı “ahlaken bağlayıcı” diye niteleyerek şirketlerin kendi kendilerini denetleyeceğini söyledi. Ancak haberlerde taahhütler gönüllü ve hukuken uygulanabilir olmayan bir çerçeve olarak tanımlandı. Başka bir deyişle bu, yeni bir federal düzenleme değil; sektörün kendi verdiği bir sözdü. 411

Bu fark önemli: Anlaşma bazı denetim adımlarını sıralıyor, ancak bunların dışarıdan kurallarla zorunlu tutulup tutulmayacağını, nasıl uygulanacağını ya da ileride yasaya dönüşüp dönüşmeyeceğini kesinleştirmiyor. Haberlere göre metin, önlemlerin zaman içinde mevzuata geçirilmesi ihtimalini açık bırakıyor.

Denetimin nasıl yapılacağı hâlâ belirsiz

Trump, sektörü gözetleyecek 10 kişilik bir komite kurulması ihtimalinden söz etti. Mevcut haberler bunu kurulmuş bir yapı olarak değil, değerlendirilmekte olan bir öneri olarak aktarıyor. 210

Kaynaklar ayrıca ayrı bir sektör özdenetim mekanizmasının rafa kaldırıldığı iddiasını doğrulamıyor; böyle bir planın imzalanan anlaşmayla nasıl ilişkilendirileceğini de açıklamıyor. Anthropic’in toplantıya katılımı ve daha geniş düzenleme tartışması haberlerde yer alsa da şirketin yönetimle ilişkileri olası bir halka arz öncesinde düzeltmek için imza attığı ya da halka arzın yakın olduğu kanıtlanmış değil. 45

İmza atıldı, tartışma bitmedi

Toplantıda güvenlik önlemleri konusunda ortak bir dil kuruldu; ancak hükümetin rolü konusunda fikir birliği sağlanmadı. Amodei’nin düzenlemeye dayalı bağımsız denetim çağrısı ile Trump’ın şirketlerin gönüllü denetimini tercih etmesi, temel soruyu açık bırakıyor: Yapay zekâ güvenliği kurallarını kim belirlemeli ve kim uygulamalı? 4

Bu nedenle anlaşmayı, şirketlerin atmayı kabul ettiği gönüllü adımları içeren bir çerçeve olarak görmek daha doğru. İmzalar, yöneticilerin yapay zekâ risklerinin boyutu ya da özdenetimin yeterli olup olmadığı konusunda anlaştığını göstermiyor.