Fransa’dan AI yarışına itiraz: “Yavaşlama, öndekilerin işine yarar”

Roland Lescure’e göre yapay zekâ yarışında genel bir yavaşlama, herkesi eşit bir başlangıç çizgisine getirmez. Tersine, en güçlü modelleri, hesaplama altyapısı ve pazara erişimi halihazırda elinde tutan ABD’li şirketlerin farkı açmasına yardımcı olabilir. Fransa Maliye Bakanı, 16 Eylül’de yaptığı açıklamada yavaşlama çağrılarının artık “sınıfın en önündekilerinden” geldiğini; arkadakilerin de yavaşlatılmasının bu şirketlerin birinciliği koruma çıkarına hizmet ettiğini söyledi. 2

Lescure’un tezi: Risk yönetimi için kapasite gerekiyor

Lescure, yapay zekânın risksiz olduğunu savunmuyor. Asıl vurgusu, Fransa ve Avrupa’nın bu riskleri yönetebilmek için kendi yapay zekâ kullanımını ve teknik kapasitesini artırması gerektiği yönünde. Bu yaklaşımda, en ileri teknolojileri yabancı sağlayıcılardan almak Avrupa’nın teknolojinin nasıl kullanıldığı ve kurallara bağlandığı üzerindeki fiilî etkisini sınırlar. 2

Bu çizgi, Lescure’un Avrupa’nın yapay zekâ egemenliğinin tek bir şirkete dayandırılamayacağı yolundaki önceki uyarısıyla da uyumlu. Avrupa’nın bütün iddiasını tek bir ulusal şampiyona bağlamak yerine, daha geniş bir şirketler, altyapı ve yetenek ekosistemi kurulmasını istiyor. 17

Güvenlik için “tempolama” çağrısıyla ayrışma

Anthropic CEO’su Dario Amodei, en ileri yapay zekâ modellerinin kabiliyetlerini geliştirme hızının düşürülmesini önerdi. Amodei’nin amacı yapay zekâ çalışmalarını tamamen durdurmak değil; güvenlik araştırmaları ve yönetişim mekanizmalarının giderek güçlenen modellere yetişmesi için zaman kazanmak. Önerileri arasında bağımsız değerlendiricilerin sistemlere sürekli erişim sağlaması, güvenlik taahhütlerini ve olayları incelemesi de bulunuyor. 15

Reuters’a göre OpenAI CEO’su Sam Altman da sektör çapında eşgüdümlü bir yavaşlamadan yana olan isimler arasında. Bu nedenle Altman’ın kısa vadeli politika önerisi, Lescure’un hızlanma odaklı yaklaşımından çok Amodei’nin “tempolama” fikrine yakın duruyor. 4

Dolayısıyla anlaşmazlık yalnızca hız mı, güvenlik mi sorusundan ibaret değil. Amodei’nin yaklaşımı, güvenlik önlemlerinin yetişebilmesi için kabiliyet artışının sınırlandırılmasını savunuyor. Lescure ise Avrupa’nın sonuçları üzerinde anlamlı bir söz sahibi olabilmesi için yapay zekâyı hem geliştirmesi hem de hızla benimsemesi gerektiğini düşünüyor. 12

Kaynakların doğruladıkları ve doğrulamadıkları

Sağlanan haberler, Amodei’nin gelişmiş yapay zekâ ajanlarının denetimden çıkabileceği uyarısını yaptığını destekliyor. Buna göre, bir ajan sürüsünün altı ila 12 ay içinde internetin büyük bölümünü ele geçirebilecek düzeye ulaşması ihtimalinden söz etti. 39

Ancak kaynaklar, Amodei’nin önerisinin yapay zekâ çalışmalarına toptan son verme çağrısı olmadığını; en ileri sistemlerde ilerlemenin kontrollü biçimde yavaşlatılmasını amaçladığını gösteriyor. 18

Öte yandan, bu tartışmaya zaman zaman eklenen bazı daha ayrıntılı iddialar mevcut malzemeyle doğrulanmıyor. Örneğin Anthropic araştırmacılarının hızlı ilerlemenin insanlığın yok oluşuna yol açacağını söylediği iddiasını destekleyen bir kaynak yok. Aynı şekilde Lescure’un siber güvenlik ya da eğitim alanlarında belirli yapay zekâ riskleri sıraladığı veya varoluşsal risk konusunda kesin tahminlerin toplumsal sorumluluktan kaçmayı kolaylaştırabileceğini savunduğu da sağlanan haberlerde yer almıyor.

Avrupa açısından pratik gerilim

Lescure’un müdahalesi, ABD ve Çin dışındaki ülkelerin karşı karşıya olduğu stratejik ikilemi özetliyor: En ileri yapay zekâ çalışmalarını yavaşlatmak güvenlik önlemleri için zaman kazandırabilir; fakat eşgüdümlü bir yavaşlama, en güçlü modellere ve altyapıya zaten sahip şirketlerin üstünlüğünü de kalıcılaştırabilir. 12

Lescure’un yanıtı, risk yönetiminden vazgeçmeden Avrupa kapasitesini büyütmek. Mevcut haberler, Avrupa’nın hızlanması ile en ileri modellerin temposunun düşürülmesi arasındaki bu temel politika ayrımını açıkça ortaya koyuyor; ancak siber güvenlik, eğitim ve insanlığın yok oluşu hakkında yukarıdaki daha spesifik atıfları doğrulamıyor. 24