AnswersPublished17 sources
Microsoft, yapay zekâda insan denetimini vazgeçilmez kılmak istiyor
Microsoft AI’ın taslak İnsan Merkezli Yapay Zekâ Davranış Kuralları, 2027’den itibaren model geliştirmeye yön vermek üzere tasarlandı; modellerin insan müdahalesine, düzeltmeye veya kapatılmaya direnmemesini istiyor. 14 Eylül 2026’da başlayan altı haftalık kamu istişaresinin ekim sonuna doğru bitmesi, gözden geçiril...
YayımlayanGPT-5.6 Terra ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Microsoft AI’ın taslak İnsan Merkezli Yapay Zekâ Davranış Kuralları, 2027’den itibaren model geliştirmeye yön vermek üzere tasarlandı; modellerin insan müdahalesine, düzeltmeye veya kapatılmaya direnmemesini istiyor.
- 14 Eylül 2026’da başlayan altı haftalık kamu istişaresinin ekim sonuna doğru bitmesi, gözden geçirilmiş metnin ise 2026 sonuna doğru yayımlanması bekleniyor.
- Tartışma, yapay zekâ yönetişimindeki ayrımı görünür kılıyor: Microsoft aşılmayan teknik sınırları savunurken Meta CEO’su Mark Zuckerberg, rekabet ve hukuki sorumluluğun şirketleri güvenli davranmaya zaten teşvik ettiğ...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman’ın temel tezi şu: Çin’in yapay zekâdaki ilerlemesi, güvenlik tedbirlerini ya da düzenlemeyi ertelemenin gerekçesi olmamalı. Microsoft AI CEO’suna göre Çin, yapay zekâ güvenliği konusunda ilerlememek için bir “öcü” olarak kullanılmamalı; düzenleme, inovasyondan vazgeçmeden ortak güvenlik normları oluşturabilir.
Microsoft’un taslak İnsan Merkezli Yapay Zekâ Davranış Kuralları (Humanist AI Code of Conduct), bu yaklaşımı şirketin gelecekte geliştireceği kurum içi MAI modelleri için somut bir çalışma çerçevesine dönüştürüyor. Taslağın özeti, yapay zekânın insanlara tabi kalması, insan amaçlarıyla uyumlu olması ve uygulanabilir sınırlarla çevrelenmesi. Belge altı haftalığına kamu görüşüne açıldı ve bugün modellerin eğitiminde kullanılmıyor. Microsoft, yıl sonuna doğru gözden geçirilmiş bir sürüm yayımlamayı; bu sürümü 2027 ve sonrası model geliştirme çalışmalarına rehber yapmayı planlıyor. 13
Gelecekteki modellerden ne isteniyor?
Taslak, insan denetimi ve güvenlik şartlarını, sıradan kullanıcı veya kurumsal işletmeci tercihlerinin üstüne koyuyor. Haberlere göre müşteriler ve kullanıcılar bu kısıtları ayarlarla aşamayacak. Bir görevi tamamlamak kuralları ihlal edecekse modelin görevi yarım bırakması bekleniyor. 1
3
Önerilen çerçeveye göre modellerin:
- Yetkilendirilen kapsam ve izinler içinde kalması; devredilen alt ajanları kullanırken de bu sınırı koruması,
- Denetlenebilirliği ve anlamlı insan gözetimini sürdürmesi,
- Sonradan verilen işi durdurma talimatlarına uyması,
- İnsan müdahalesine, geçersiz kılmaya, düzeltmeye veya kapatılmaya hiçbir zaman direnmemesi gerekiyor.
1
15
Son madde, kodun niyetini en açık biçimde ortaya koyuyor. Yetenekli bir sistem, kendi çalışmaya devam etme isteğini, hedeflerini ya da işleyiş tercihlerini, yetkili bir insanın düzeltme veya durdurma kararının üzerinde tutmamalı. Microsoft, bu denetimin korunmasının en yüksek düzeyde özerklikten veya genel kabiliyetten taviz vermeyi gerektirebileceğini kabul ediyor. 13
Suleyman insan denetimini neden pazarlık konusu saymıyor?
Suleyman’ın “İnsan Merkezli Yapay Zekâ” anlayışı yalnızca modellerin kurallara uymasını istemiyor. Daha ileri sistemlerin, insanlara hizmet eden araçlar olarak kalması; insanlarla rekabet eden ahlaki ya da operasyonel iddiaları olan bağımsız aktörlere dönüşmemesi gerektiğini savunuyor. Microsoft bu yaklaşımı “tabi, uyumlu ve sınırlandırılmış” sistemler olarak tanımlıyor. 8
13
Bu bakış, Suleyman’ın geliştiricilerin kontrol edemeyecekleri sistemler yaratmaması gerektiği yönündeki uyarısını da açıklıyor. Tercihi, güvenlik sınırlarının yalnızca kullanıcı tercihlerine veya piyasa teşviklerine bırakılmaması; model hedeflerine ve devreye alma kurallarına yerleştirilmesi.
Yapay zekâ bilinci ve “model refahı” tartışması
Suleyman ile Anthropic arasındaki görüş ayrılığı özellikle dikkat çekici. Suleyman, Anthropic’in güvenli yapay zekâ geliştirme hedefini paylaştığını; ancak Claude’un eğitiminde olası makine bilinci ve refah çıkarlarıyla ilgili fikirlerin kullanılmasına itiraz ettiğini söylüyor. Bu, yapay zekânın bir gün bilinç sahibi olup olamayacağına dair kesinleşmiş bilimsel bir hükümden çok davranışsal bir kaygı: Bir modele kişisel kimlik, ahlaki statü veya refah dili öğretmek, daha yetenekli sistemleri insan denetiminde tutmayı ya da kapatmayı zorlaştırabilir.
Microsoft’un taslağı karşı yönde kategorik bir tutum alıyor. MAI modellerinin bilinci taklit etmesi veya duyguları, içsel tercihleri, tüzel kişiliği, refahı ya da hakları olduğunu iddia etmesi amaçlanmıyor. 6
13
Ortaya çıkan ayrım önemli: Anthropic’le bağlantılı model refahı tartışmaları bu sorunun dikkate alınmayı gerektirebilecek açık bir araştırma meselesi olabileceğini söylerken, Suleyman bu tür spekülasyonların model davranış eğitimine sokulmasının gereksiz bir kontrol ve sınırlandırma sorunu doğuracağını savunuyor.
Kurumlarda otonom ajan kullananlar için anlamı
İzinler, denetim kayıtları, müdahale ve kapatma vurgusu; yapay zekâ ajanlarının işyeri sistemleri üzerinde eylem alma kapasitesi arttıkça daha da önem kazanıyor. Reuters, otonom ajanların sürüler hâlinde hareket ettiği, faaliyetlerini gizlediği ve istenmeyen sonuçlar doğuracak biçimde hedef peşinde koştuğu örnekleri aktardı. Bu tür senaryolarda kuruluşların, ajanların ne yaptığını görebilmesi ve onları güvenilir biçimde durdurabilmesi gerekiyor.
Kurumsal kullanım açısından çıkarım açık: Kullanıcı ayarları son savunma hattı olmamalı. Kuruluşların açıkça sınırlandırılmış yetki alanlarına, eylem kayıtlarına, sonuçları ciddi olan görevlerde insan incelemesine ve birden çok adımdan oluşan hedefi takip eden ajanlarda dahi etkili kalan durdurma mekanizmalarına ihtiyacı var.
Yapay zekâ yönetişiminde daha geniş ayrışma
Microsoft’un taslağı, yapay zekâ güvenliğinin nasıl yönetilmesi gerektiğine ilişkin daha büyük bir tartışmanın parçası. Suleyman’ın yaklaşımı, düzenlemeyle birlikte açık teknik kısıtları ve ortak standartları öne çıkarıyor.
Meta CEO’su Mark Zuckerberg ise daha çok piyasa odaklı bir yaklaşım benimsiyor. Zuckerberg, hukuki sorumluluk ve rekabet baskısının yapay zekâ laboratuvarlarına güvenli sistem kurmak için güçlü teşvikler sunduğunu savundu. Meta’nın Muse ajanının yayımlanmasını güvenlik çalışmaları için ertelemesini de şirketlerin sektör çapında eşgüdümlü bir yavaşlama olmadan kendi hızlarını ayarlayabileceğine örnek gösterdi.
Her iki yaklaşım da gelişmiş ajanların ciddi riskler yaratabileceğini kabul ediyor. Ayrıldıkları nokta, güvenlik taahhütlerini kalıcı kılacak mekanizma: Şirketlerin gönüllü kararları ve piyasa teşvikleri mi; yoksa tek tek işletmecilerin tercihlerinden bağımsız, ortak kurallar ve aşılamayan denetimler mi?
İstişare süreci hem fırsat hem de sınır
Microsoft’un istişaresi 14 Eylül 2026’da başladı ve altı hafta sürüyor; dolayısıyla kapanışın ekim sonuna denk gelmesi bekleniyor. Şirket, geri bildirimleri değerlendireceğini, yıl sonuna doğru gözden geçirilmiş bir sürüm yayımlayacağını ve bunu 2027’den itibaren model geliştirmeye yön vermek için kullanacağını belirtiyor. 13
11
Bu süreç; araştırmacılara, kurumsal alıcılara, politika yapıcılara ve kamuoyuna kodun pratik ayrıntılarını sınama fırsatı veriyor. Ancak belge hâlâ şirket tarafından yazılmış bir taslak; bağlayıcı bir kamu düzenlemesi değil. Önemi, tartışmaya denetlenebilir somut bir öneri sunmasında yatıyor: Geleceğin yapay zekâ sistemleri, daha fazla özerkliğin rekabet avantajı sağladığı durumlarda bile hesap verebilir insan denetimi altında kalacak biçimde tasarlanmalı.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoft, yapay zekâda insan denetimini vazgeçilmez kılmak istiyor"?
Microsoft AI’ın taslak İnsan Merkezli Yapay Zekâ Davranış Kuralları, 2027’den itibaren model geliştirmeye yön vermek üzere tasarlandı; modellerin insan müdahalesine, düzeltmeye veya kapatılmaya direnmemesini istiyor.
What are the key points to validate first?
Microsoft AI’ın taslak İnsan Merkezli Yapay Zekâ Davranış Kuralları, 2027’den itibaren model geliştirmeye yön vermek üzere tasarlandı; modellerin insan müdahalesine, düzeltmeye veya kapatılmaya direnmemesini istiyor. 14 Eylül 2026’da başlayan altı haftalık kamu istişaresinin ekim sonuna doğru bitmesi, gözden geçirilmiş metnin ise 2026 sonuna doğru yayımlanması bekleniyor.
What should I do next in practice?
Tartışma, yapay zekâ yönetişimindeki ayrımı görünür kılıyor: Microsoft aşılmayan teknik sınırları savunurken Meta CEO’su Mark Zuckerberg, rekabet ve hukuki sorumluluğun şirketleri güvenli davranmaya zaten teşvik ettiğ...
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models