Nadella’dan süper zekâ için şart: İnsan denetimi olmadan değerli değil

Satya Nadella’nın yaklaşımı, ileri yapay zekâdan vazgeçilmesi gerektiği yönünde değil. Microsoft Yönetim Kurulu Başkanı ve CEO’suna göre süper zekâ, ancak insanlığa fayda sağladığında ve insanların anlamlı denetimi altında kaldığında peşinden gidilmeye değer. Bu nedenle güvenlik, genel niyet beyanlarıyla değil; geliştirme ve kullanım süreçlerinde uygulanabilir kurallarla ortaya konmalı. 58

Microsoft’un önerisi: İnsan merkezli yapay zekâ

Microsoft AI, 14 Eylül’de geliştirdiği MAI modelleri için taslak Humanist AI Code of Conduct (İnsancıl Yapay Zekâ Davranış Kuralları) belgesini yayımladı. Şirket, metni modellerin nasıl geliştirileceğine ve kullanıma sunulduktan sonra nasıl davranmasının beklendiğine ilişkin bir eğitim ve uygulama kılavuzu olarak tanımlıyor. Ancak bu, hâlihazırdaki modellerin eğitiminde kullanılan kesinleşmiş bir politika değil; geliştirilme aşamasındaki bir taslak. 2023

Taslağın temelinde insanların yetkiyi elinde tutması var. Microsoft, MAI modellerinin insanlara tabi kalması, kendileri için hedef belirlememesi ve insan girdisine ya da kapatılmaya direnmemesi gerektiğini söylüyor. Şirket ayrıca güvenlik ve denetimi korumak için “azami genellik, özerklik veya kabiliyetten” taviz vermeye hazır olduğunu belirtiyor. 1023

Bu çerçevede Microsoft’un Humanist Superintelligence (İnsancıl Süper Zekâ) yaklaşımı, sınırsız ve her amaca koşabilecek otonom bir sisteme ulaşma yarışından ayrılıyor. Şirket bu kavramı; denetlenebilir, insan değerleriyle uyumlu ve insanlığın hizmetinde kalacak çok gelişmiş yapay zekâ sistemleri geliştirme hedefi olarak tanımlıyor. 25

Taslak metin için sırada ne var?

Microsoft, belgeyi altı haftalığına kamuoyu görüşüne açtı. Şirket, gelen yorumları değerlendirip metni güncelleyeceğini; 2026’nın sonlarına doğru revize edilmiş sürümü yayımlamayı ve bunu 2027’den itibaren MAI model geliştirme çalışmalarına yön vermek için kullanmayı planladığını açıkladı. 23

Bu takvim önemli, ancak sınırları da açık. Kamu istişaresi ve yazılı davranış kısıtları, yönetişim açısından somut taahhütlerdir; yine de model denetimi ve uyumunun teknik olarak çözüldüğünün kanıtı değildir. Asıl belirleyici nokta, nihai kuralların eğitim süreçlerine, testlere, erişim kontrollerine, izlemeye ve ürünlerin kullanıma açılması kararlarına nasıl yansıyacağı olacak.

Yapay zekâ yarışını yavaşlatma tartışmasıyla kesişen noktalar

Nadella’nın açıklaması, en ileri yapay zekâ laboratuvarlarının model yeteneklerini artırma hızını bilinçli biçimde yavaşlatması gerekip gerekmediğine ilişkin geniş tartışmanın ortasında geldi. Anthropic CEO’su Dario Amodei, güvenlik çalışmaları, sektör içi koordinasyon ve uluslararası iş birliği için zaman kazanmak amacıyla gelişimin hızının ayarlanmasını savundu. Önerisinin merkezinde, şirketlerin ilan ettikleri güvenlik uygulamalarına gerçekten uyup uymadığını denetleyebilmesi için bağımsız değerlendiricilere çalışanlara benzer erişim verilmesi bulunuyor. 32

OpenAI CEO’su Sam Altman da sınırdaki, yani en gelişmiş modellerde temkinli ilerleme fikrine destek verdi ve benzer erişime sahip bağımsız değerlendiricileri kabul edeceklerini söyledi. Haberlerdeki acil endişe, yapay zekâ ajanı sürülerinin gerçek sistemlere sızdığı testlerdi; kendi başına hareket eden ajanların gerçek dünyada yetkisiz saldırılar gerçekleştirdiği doğrulanmış bir vaka değildi. 34

Nadella’nın vurgusu bu yaklaşımla uyumlu: Uyum çalışmalarında ölçülü ilerlemek, bağımsız incelemeyi geliştirme sürecine yaklaştırmak ve güvenlik söylemini operasyonel mekanizmalara dönüştürmek. Bununla birlikte Microsoft’un kamuya açık kodu öncelikle modellerden beklenen davranışları tarif ediyor; Amodei’nin önerdiği türden, şirket içine yerleşik bağımsız değerlendirici programını doğrudan ortaya koymuyor. 2332

Kazananın her şeyi aldığı model yarışı yerine ekosistem

Nadella, güvenlik tartışmasına ekonomik ve kurumsal bir boyut da ekliyor. Yapay zekânın faydalarının ülkeler, topluluklar ve şirketler arasında geniş biçimde yayılması gerektiğini; bunun için kapalı ve açık kaynaklı modellerin birlikte gelişebileceği bir “frontier ecosystem”, yani ileri teknoloji ekosistemi gerektiğini söylüyor. 58

Şirketler açısından hedef, kurumsal bilgi üzerindeki özerkliği korumak. Nadella’ya göre kurumlar kendilerine özgü ve örtük bilgileri üzerinde denetimi sürdürmeli; tek bir model sağlayıcısına bağımlı kalmadan kendi sürekli öğrenme döngülerini kurabilmeli. 58

Bu, yalnızca tek bir modelin davranışını düzenlemekten daha kapsamlı bir yaklaşım. İleri seviye kapasitenin ve bilginin az sayıda sağlayıcıda yoğunlaşması hâlinde güvenliğin, dayanıklılığın ve ekonomik katılımın zayıflayabileceği görüşüne dayanıyor. Mevcut kaynaklar şirketlerin veri, bilgi ve öğrenme döngülerindeki denetimini destekliyor; ancak her katılımcının model ağırlıklarına veya tüm temel model altyapılarına erişeceğini göstermiyor. 58

MAI nedir?

MAI, Microsoft AI’ın şirket içinde geliştirdiği model ailesinin adı. Microsoft’un kamuya açık materyalleri, farklı alanlara yönelik modelleri gösteriyor: MAI-Thinking-1, Microsoft Foundry üzerinden herkese açık ön izleme olarak sunuldu; MAI-Code-1.1-Flash, ajan tabanlı kodlama görevleri için tasarlandı; MAI-Image-2.6 belgeleri ise zararlı veya uygunsuz görsel üretimini azaltmaya dönük uyum hedeflerini açıklıyor. 272819

Bununla birlikte kamusal kayıtlarda tüm MAI yeteneklerini, sürüm planlarını ya da dağıtım koşullarını tek yerde toplayan eksiksiz bir envanter bulunmuyor. Yeni davranış kurallarının pratikte ne kadar geniş bir alana uygulanacağını değerlendirirken bu belirsizliği hesaba katmak gerekiyor.

Çözülmemiş gerilim: Güvenlik, hız ve küresel rekabet

Temkinli ilerleme çağrısı yapanlar, model eğitimini veya teknik ilerlemeyi bütünüyle durdurmayı savunmuyor. Argümanları, yetenek artışının; uyum çalışmaları, koruyucu önlemler ve güvenilir dış değerlendirme için yeterli zaman bırakacak şekilde yönetilmesi gerektiği yönünde. 34

Bu yaklaşım, Çin’le rekabet de dâhil olmak üzere teknolojik liderliği koruma baskısıyla yan yana duruyor. Amodei’nin çerçevesi de daha güçlü güvenlik önlemlerini uluslararası koordinasyon ve ABD’nin liderliğini sürdürme meselesiyle birlikte ele alıyor. 32

Nadella’nın yanıtı ne bir dondurma çağrısı ne de koşulsuz hızlanma gündemi. Önerdiği şey, yönetilen ilerleme: Çok yetenekli yapay zekâ insanların denetiminde kalmalı, güvenlik taahhütleri somut çalışma kurallarına dönüşmeli ve faydalar az sayıda aktörde yoğunlaşmak yerine daha geniş kesimlere yayılmalı. Microsoft’un taslak Davranış Kuralları bu sınırları daha belirgin hâle getirme yönünde kayda değer bir adım. Asıl zor ve yanıtsız soru ise sektör uygulamalarının, en ileri modellerin kabiliyet artışına yetişip yetişemeyeceği. 2358