Yapay zekâ güvenliği mi, pazar gücü mü? Mistral CEO’sunun itirazı

Mistral AI CEO’su Arthur Mensch, 24 Eylül’de Le Monde’a verdiği söyleşide ABD’li yapay zekâ devlerinin teknolojiye ilişkin korkuları kendi çıkarları için kullandığını savundu. “Yapay zekâ bir yazılımdır. Kontrol edilebilir” sözleriyle de kaçınılmaz bir kontrol kaybı anlatısına karşı çıktı. Ancak bir uyarının şirket çıkarına hizmet edebilmesi, işaret ettiği riskin gerçek olmadığı anlamına gelmiyor.29

Tartışma yalnızca riskin büyüklüğüyle ilgili değil

Mensch’in itirazı, güvenli gelişmenin kurallarını kimin belirleyeceğine uzanıyor. En büyük geliştiricilerin kolayca karşılayabildiği, küçük rakipler içinse ağır maliyet yaratan şartlar rekabeti etkileyebilir. Bu olasılık incelenmeye değer; fakat tek başına güvenlik uyarılarının uydurma olduğunu kanıtlamaz.29

Mistral da sınırsız kullanımın risksiz olduğunu söylemiyor. Şirket, modellere kendi başlarına hareket etme alanı ve araçlara erişim verildiğinde güçlü aktörlere dönüşebileceklerini belirterek güvenli kullanım için dikkat çağrısı yaptı. Dolayısıyla Mensch’in “kontrol edilebilir” sözü, her gelecekteki sistemin güvenle kontrol edilebileceğinin kanıtı değil; risklerin yönetilebileceği yönünde bir görüş.72

Uyarılar ne söylüyor, neyi kanıtlamıyor?

Daha önce OpenAI’da çalışmış eski Anthropic araştırmacısı Jacob Coxon, eylül başında yapay zekânın on yılın sonuna kadar “hepimizi öldürebileceği” uyarısında bulundu. Anthropic CEO’su Dario Amodei ise 12 Eylül’de en gelişmiş modellerin geliştirilmesinde gönüllü yavaşlama çağrısı yaptı. Le Monde’a göre bu çağrı, şirketin ABD’li büyük rakiplerinden destek gördü.18

Bunlar ciddiye alınması gereken açıklamalar; kesinleşmiş tahminler değil. Coxon bir olasılıktan söz ediyor, doğrulanmış bir son tarih vermiyor. Yavaşlama çağrısına destek verilmesi de genel bir yavaşlamanın, belirli risklere yönelik önlemlerden daha etkili olacağını kendi başına göstermiyor.18

Rekabet iddiası nasıl değerlendirilmeli?

Yapay zekâ hizmetlerine abone olan kişilerin açtığı bir davada Anthropic, OpenAI, SpaceXAI ve Google’ın 12 Eylül’deki çağrının ardından rakip geliştirme çalışmalarını yavaşlatma konusunda anlaştığı öne sürülüyor. Bu, mahkemenin hukuka aykırı bir anlaşma tespit ettiği anlamına gelmiyor. Yöneticilerin benzer güvenlik kaygılarını dile getirmesi de tek başına aralarında koordinasyon bulunduğunun kanıtı değil.

Bu nedenle iki soru ayrı tutulmalı: Önerilen önlem hangi somut riski azaltıyor? Ve uygulama maliyeti yeni rakiplerin önünü gereksiz yere kesiyor mu? Aynı sorgulama hem büyük şirketlerin yavaşlama çağrılarına hem de Mistral’ın geliştirmeye devam etme yönündeki görüşüne uygulanmalı. Ticari çıkar, bir savı peşinen reddetme gerekçesi değil; onu dikkatle sınama nedenidir.789