Kral III. Charles, 17 Eylül’de İskoçya’nın Ayrshire bölgesindeki Dumfries House’da üst düzey yapay zekâ şirket temsilcileri ile Birleşik Krallık hükümetinden isimleri bir araya getirdi. Nvidia, Google DeepMind, OpenAI ve Anthropic temsilcilerinin yanı sıra Birleşik Krallık Yapay Zekâ Bakanı Kanishka Narayan’ın katıldığı özel toplantıda, yapay zekânın insan denetiminden çıkmadan topluma nasıl fayda sağlayabileceği ele alındı. Haberler, buluşmanın bağlayıcı bir düzenleme paketi değil, ortak ilkeler arayışına yönelik bir görüşme olduğunu gösteriyor.
1
9
12
Charles’ın yapay zekâ liderlerine mesajı
Kral Charles, yapay zekâyı hem büyük imkânlar sunan hem de kaygı yaratan bir teknoloji olarak tanımladı. Teknolojinin insanlara, topluluklara ve gezegene hizmet etmesi gerektiğini vurguladı; güçlü sistemlerin yanlış kişilerin eline geçmesi ve felaket niteliğinde kullanılması ihtimalinin doğurabileceği “varoluşsal tehlikelere” dikkat çekti. Ana çağrısı, çok geç olmadan koruyucu güvencelerin oluşturulmasıydı.
9
11
13
Bu yaklaşım, giderek daha güçlü hâle gelen ileri seviye yapay zekâ sistemlerinin; onları yönetecek kurumları, güvenlik uygulamalarını ve toplumsal normları geride bırakıp bırakamayacağı tartışmasına doğrudan müdahale anlamına geliyor. Zirvenin hedefi, insan onurunu gözeterek yapay zekânın toplumsal yararını artırmanın ve risklerini sınırlamanın yollarını değerlendirmekti.
1
9
Jensen Huang’ın yaklaşımı: Yapay zekâyı değil, ürünleri düzenleyin
Nvidia CEO’su Jensen Huang, yapay zekâ güvenliğinin gereksiz olduğunu savunmuyor. Huang’a göre şirketler sistemlerini titizlikle test etmeli; güvenli olduğundan emin olmadıkları ürünleri piyasaya sürmemeli. Bunu, temel bir mühendislik sorumluluğu olarak görüyor.
18
23
30
Huang’ın ayrıştığı nokta ise düzenlemenin hedefi. Ona göre yapay zekâ, sosyal medya gibi tekil bir tüketici ürünü değil; çok sayıda ürün ve hizmetin altında çalışan temel bir teknoloji. Bu nedenle düzenleyicilerin yapay zekâyı bir kategori olarak toptan ele almak yerine, yapay zekâ ile geliştirilen somut ürün ve hizmetlere odaklanması gerektiğini savunuyor. Bir uygulamada sorun çıktığında denetim yapılmasını, mevcut yasalarda boşluk varsa bunların ek hükümlerle giderilmesini öneriyor. Sağlık, ulaşım ve eğlence gibi alanlarda zaten sektörel düzenlemelerin bulunduğunu da hatırlatıyor.
26
28
Bu, ürün ve sektöre özgü bir yönetim modeli anlamına geliyor:
- Risk, sağlık hizmeti veya ulaşım aracı gibi somut kullanım alanında değerlendirilir.
- Bir yapay zekâ uygulaması sorun yaratırsa, ilgili sektördeki kurallar uygulanır ya da açık varsa mevcut mevzuat genişletilir.
- Ürün piyasaya çıkmadan önce kontrollü ortamlarda dikkatli ve kapsamlı test yapılır.
23
28
Bu yaklaşım, teknoloji çapında kapsamlı bir yapay zekâ yasasına veya model geliştirmeyi zorunlu olarak durdurmaya daha az ağırlık veriyor.
Neden zirvenin ihtiyatlı tonuyla karşıtlık oluşturdu?
Charles’ın uyarısı, zarar veren belirli bir ürün açıkça ortaya çıkmadan önce de doğabilecek ağır kötüye kullanım risklerine odaklanıyordu. Bu, daha önleyici bir yönetim anlayışı: Felaket boyutunda sonuçları engellemek için güvenlik önlemleri ve uluslararası iş birliği erken aşamada kurulmalı.
1
11
Anthropic CEO’su Dario Amodei ise ayrı bir çağrısında, güvenlik önlemlerinin teknolojiyle aynı hızda ilerleyebilmesi için ileri seviye modellerin geliştirilme temposunun yavaşlatılmasını istemişti. Huang, yeni yasaların veya şirketlerin birlikte yavaşlamasını sağlayacak özel düzenlemelerin gerekli olduğu fikrine karşı çıktı; bunun yerine mühendislik, test ve mevcut hukuk araçlarına işaret etti.
8
30
Pratikteki anlaşmazlık, müdahalenin nereye ve ne zaman yapılacağı konusunda yoğunlaşıyor:
| Yaklaşım |
Temel odak |
Tercih edilen zamanlama |
| Huang’ın yaklaşımı |
Yapay zekâ destekli ürünler ve belirli uygulamalar |
Piyasaya sürülmeden önce test; risk görüldüğünde veya mevzuat boşluğu netleştiğinde sektörel kurallarla müdahale |
| Zirvede dile getirilen ihtiyatlı yaklaşım |
Güçlenen yapay zekâdan kaynaklanabilecek sistem çapındaki ve potansiyel felaket boyutundaki riskler |
Riskler ya da yetenekler denetim mekanizmalarını aşmadan önce daha güçlü güvenceler oluşturma |
Her iki yaklaşım da güvenlik ve insan gözetimini destekliyor. Ancak sorumluluğun dağılımı farklı. Huang, geliştiricilerin ürün yayımlama disiplini, mühendislik standartları ve belirli ürünleri denetleyen kurumlara daha fazla ağırlık veriyor. Charles’ın açıklamaları ve ortak ilkeler arayışı ise bazı yapay zekâ risklerinin, belirli bir sektördeki uygulama başarısız olmadan önce devreye girecek koordineli koruma çerçeveleri gerektirebileceğini vurguluyor.
9
23
28
Sonuç: Aynı hedef, farklı düzenleme yolu
Dumfries House zirvesi yapay zekânın nasıl düzenleneceği tartışmasını çözmedi. Ancak temel ayrımı netleştirdi: Yapay zekâ esas olarak mevcut ürün ve sektör mevzuatıyla, sıkı test süreçleri üzerinden mi yönetilmeli; yoksa ileri seviye sistemlerin sektörler arası riskleri yeni ve önleyici bir koordinasyon çerçevesini mi gerektiriyor?
Zirvedeki ortak hedef açıktı: Yapay zekâ insanlığa hizmet etmeli ve insan denetiminde kalmalı. Buna ulaşmanın yöntemi ise hâlâ tartışmalı.
9
12
28