DeepSeek Harness ve Cordis, yapay zekânın kendini geliştirme yarışında ne anlatıyor?

DeepSeek Harness (DSH), DeepSeek’in otonom bir yinelemeli öz-iyileştirme sistemi kurduğunu veya AGI’ye ulaştığını göstermiyor. Daha savunulabilir yorum şu: DSH; araçların, model bağdaştırıcılarının, oturum altyapısının ve hatta ajan döngüsünün değiştirilebilir bileşenler olarak ele alınabildiği bir çalışma zamanı sunuyor. Bu da tekrar tekrar deneme yapmayı daha güvenli ve uygulanabilir hâle getiriyor — sınırlandırılmış öz-iyileştirmenin ihtiyaç duyduğu türden bir temel. 2526

Ana fikir: Yalnızca modeli değil, çalışma altyapısını da geliştirmek

Yinelemeli öz-iyileştirme farklı anlamlarda kullanılabiliyor. Bir sistem yalnızca belirli bir çıktıyı, örneğin bir algoritmayı, geliştirebilir; araştırmacıların daha güçlü bir sonraki model üzerinde çalışmasına yardımcı olabilir veya bir ajanın nasıl çalıştığını belirleyen yeniden kullanılabilir altyapıyı değiştirebilir. RSI araştırmaları, sabit ve dışarıdan belirlenen değerlendiricilerle yürütülen bu tür sınırlandırılmış öz-iyileştirmeyi, iyileştirme mekanizmasını ya da ölçütlerini de değiştiren açık uçlu RSI’dan ayırıyor. 1

DSH en açık biçimde altyapı katmanına odaklanıyor. Ajanın sinir ağı ağırlıklarını yeniden yazmasını gerektirmek yerine mimari; modelin çevresindeki bileşenlerde — istemler, araçlar, bellek, politikalar, orkestrasyon ve yürütme döngüleri — deney yapılmasına izin veriyor. Daha iyi performans gösteren bir bileşen kurulup değerlendirilebiliyor; başarısız olan ise kaldırılabiliyor.

Bu, mühendislik odaklı RSI yönünde anlamlı bir adım. Ancak bir ajanın bağımsız biçimde daha yetenekli bir halef tasarlaması, kendi hedeflerini belirlemesi veya kontrolsüz bir zekâ patlaması başlatmasıyla aynı şey değil.

Cordis, çalışma zamanı değişikliklerini nasıl geri alınabilir hâle getiriyor?

DSH, belgelerinde “zamansal ve uzamsal birleştirilebilirlik” olarak tanımlanan bir yaklaşımı temel alan Cordis eklenti çalışma zamanı üzerine kuruluyor. Bu çerçeve, yazılım çalışırken bileşenler değiştiğinde ortaya çıkan iki ayrı soruna yanıt vermeyi amaçlıyor: Bileşenlerin zaman içinde yüklenip kaldırılması sırasında ne olacağı ve mevcut sistemdeki bileşenlerin birbirleriyle nasıl etkileşeceği. 1718

Zamansal birleştirilebilirlik: Yönetilen etkileri geri almak

Bir eklenti, paylaşılan çalışma zamanına kaynaklar, dinleyiciler, servisler veya başka durum bilgileri kaydedebilir. Geleneksel eklenti sistemlerinde kaldırma işlemi çoğu zaman geliştiricinin elle yazdığı temizlik koduna bağlıdır. Bu da geride sızıntılar veya “hayalet” durumlar bırakabilir.

Cordis ise çalışma zamanındaki değişiklikleri geri alınabilir etkilerle ilişkilendiriyor. Bir bileşen kaldırıldığında çalışma zamanı, ilgili ters işlemleri uygun sırayla yürütebiliyor. Buradaki amaç eklentiyi tersten çalıştırmak ya da ajanın gerçekleştirdiği her dış eylemi geri çevirmek değil; ilgili çalışma zamanı yapısını geçerli bir önceki yapılandırmaya döndürmek. 2024

Bu ayrım kritik. Bir eklentinin kaydını geri alma mekanizması gönderilmiş bir e-postayı, silinmiş bir dosyayı, kirlenmiş verilerle eğitilmiş bir modeli veya fiziksel dünyada gerçekleştirilen geri döndürülemez bir eylemi otomatik olarak geri alamaz. Dolayısıyla Cordis’in geri alınabilirliği evrensel bir güvenlik garantisi değil, sınırları belirli bir yazılım özelliği.

Uzamsal birleştirilebilirlik: Bağımlılıkları yönetmek

Bileşenler birbirlerine de bağımlı olabilir. Bir araç, bir kayıt sistemine; bellek modülü, oturum yöneticisine; ajan döngüsü ise model bağdaştırıcısına ve araç arayüzüne ihtiyaç duyabilir.

Uzamsal birleştirilebilirlik, bileşenlerin bu ilişkileri bildirmesine ve sağlayıcılar ya da bağımlılıklar değiştiğinde çalışma zamanının etkinleştirme, devre dışı bırakma, değiştirme ve kurtarma işlemlerini koordine etmesine olanak tanıyor. Böylece modüler bir ajan, tüm sistemi tek ve kırılgan bir blok olarak ele almadan kendini yeniden yapılandırabiliyor. 1820

Geri alınabilir etkiler ile bağımlılık farkındalığına sahip bileşim birlikte; daha güvenli denemeleri, bileşen değiştirmeyi, arıza sonrası toparlanmayı ve işlemsel çalışma zamanı güncellemelerini destekliyor. Bunlar öz-iyileştirme için önemli ön koşullar: Yeni bir değişikliği denemenin ve işe yaramadığında reddetmenin maliyetini düşürüyorlar.

DSH, DeepSeek’in AGI yaklaşımı hakkında ne söylüyor?

Bu tasarım, giderek daha genel yeteneklere sahip ajanlara ulaşmak için sistem odaklı bir rota öneriyor: Ajanın iş yapma mekanizmalarını da geliştirebileceği kadar esnek bir yürütme ortamı oluşturmak.

Bu yaklaşım dikkati yalnızca modele yöneltmiyor. Sabit bir model; daha iyi araçlar, bellek, planlama, değerlendirme ve hata kurtarma mekanizmalarıyla pratikte daha yetenekli hâle gelebilir. Ajan bu mekanizmalarda değişiklik önerebilir, bunları dış ölçütlere göre test edebilir ve yalnızca başarılı sürümleri koruyabilirse iyileştirme kontrollü bir döngü içinde gerçekleşebilir.

Ancak mimarinin kendisi, DSH’nin otonom biçimde yinelemeli öz-iyileştirme yaptığı anlamına gelmiyor. Mevcut kanıtlar bir çalışma zamanını ve açık kaynaklı bir ajan altyapısını tanımlıyor; DSH’nin bağımsız olarak kendisinin giderek daha yetenekli sürümlerini ürettiği, değerlendirdiği, seçtiği ve devreye aldığı uçtan uca bir döngünün gösterildiğini değil. 2526

DSH, RSI ile ilişkilendirilen diğer çalışmaların neresinde duruyor?

RSI tartışmasında ele alınan sistemler, iyileştirme sürecinin farklı katmanlarını hedefliyor. Bunları doğrudan birbirinin alternatifi saymak, aralarındaki teknik farkları görünmez kılıyor.

Google DeepMind AlphaEvolve: Değerlendirici destekli algoritma evrimi

AlphaEvolve daha doğrudan bir optimizasyon döngüsü kuruyor. Gemini tabanlı ajanlar kod değişiklikleri öneriyor, otomatik değerlendiriciler sonuçlara puan veriyor ve evrimsel süreç umut vadeden adayları öne çıkarıyor. Google, sistemi matematik problemleri ve hesaplama altyapısı da dâhil olmak üzere algoritma keşfi ve optimizasyonunda kullandığını belirtiyor. 2314

AlphaEvolve’un belirleyici gücü geri bildirim: Bir aday, makine tarafından denetlenebilen bir hedefe karşı test edilebiliyor. DSH ise öncelikle bileşenleri güvenli biçimde birleştirmek ve değiştirmek için tasarlanmış bir çalışma zamanı mimarisi. AlphaEvolve çözümleri evrimleştirirken Cordis, canlı bir sistemin güvenli şekilde yeniden yapılandırılmasına odaklanıyor.

OpenAI RSI Index: Mekanizma değil, ölçüm

Buradaki kamuya açık materyaller OpenAI RSI Index’i, çeşitli yapay zekâ araştırması değerlendirmelerinin birleştirildiği bir ölçüm olarak tanımlıyor. Bu çerçevede RSI Index, bir modeli değiştiren veya kendi başına iyileştirme döngüsü çalıştıran bir motor değil; yetenekleri takip eden bir gösterge. Bir skor, seçilmiş öz-iyileştirme görevlerindeki performansı gösterebilir; ancak tek başına bir sistemin üretim ortamında otonom biçimde kendini geliştirdiğini kanıtlamaz. 3435

Bu nedenle endeks, DSH ile mimari bir rakip olarak değil, bir ölçüm katmanı olarak karşılaştırılmalı. Sunulan kamuya açık kanıtlar, endeksin nasıl oluşturulduğunu veya skor değişimlerinin ne anlama geldiğini bağımsız biçimde değerlendirmek için yeterli değil.

Anthropic’in otomatik zayıftan güçlüye araştırması: Yapay zekâ araştırmasını otomatikleştirmek

Anthropic’in otomatik hizalama araştırmacıları farklı bir darboğaza odaklanıyor: Daha zayıf bir denetim kaynağını kullanarak daha güçlü bir modeli eğitmek veya yönlendirmek. Bu sistemlerde ajanlar fikirler öneriyor, deneyler yürütüyor ve zayıftan güçlüye denetim araştırması üzerinde yineleme yapıyor. 4958

Bu çalışma, DSH’nin çalışma zamanı düzeyindeki bileşen değişiminden çok yapay zekâ araştırmasının ve hizalama değerlendirmesinin bazı bölümlerini otomatikleştirmeye yakın. İki yaklaşım ileride birbirini tamamlayabilir: Bir araştırma ajanı daha iyi bileşenler keşfederken geri alınabilir bir altyapı bunları kontrollü biçimde test edip devreye alabilir.

Anthropic’in daha geniş kamuya açık değerlendirmesi de önemli bir sınır çiziyor: Şirket, henüz tamamen otonom RSI aşamasında olmadığını ve RSI’ın kaçınılmaz olmadığını söylüyor. 59

Tencent Hyra-1.0 ve MiniMax M2.7: Teknik karşılaştırma için kanıt yetersiz

Sunulan kaynaklar, Tencent’in Hyra-1.0’ı veya MiniMax’ın M2.7’si hakkında güvenilir ve bağımsız biçimde doğrulanabilir teknik dokümantasyon sağlamıyor. Bu nedenle iki sisteme belirli bir RSI mimarisi atfetmek veya onları DSH, AlphaEvolve ya da Anthropic’in yayımlanmış çalışmalarıyla aynı kanıt düzlemine yerleştirmek yanıltıcı olur.

Rekabet neden ortamlara ve geri bildirim döngülerine kayıyor?

Giderek daha önemli rekabet avantajı temel modelin kendisinden çok, onun etrafındaki sistemde oluşuyor. Dört unsur özellikle öne çıkıyor:

1. Yetenekli bir ortam: Güvenli sanal alanlar, depolar, araçlar, simülatörler, veri kümeleri, hesaplama kaynakları ve dağıtım telemetrisi, bir ajanın gerçekte hangi deneyleri yapabileceğini belirliyor.
2. Otomatik geri bildirim: Testler, doğrulayıcılar, kıyaslamalar, ödül işlevleri ve üretim metrikleri, önerilen değişiklikleri ölçülebilir deneylere dönüştürüyor. AlphaEvolve, model üretimini otomatik değerlendiricilerle birleştirmenin değerini gösteriyor. 26
3. Kurtarılabilirlik: Sürümleme, izolasyon, kaynak izleme, geri alma ve onay kapıları; tek bir başarısızlığın sistemi kalıcı biçimde bozmasına izin vermeden daha fazla deney yapılmasını sağlıyor. Cordis’in geri alınabilir çalışma zamanı etkileri doğrudan bu katmana hitap ediyor. 1720
4. Birikimli yineleme: Her döngü kodlama, değerlendirme, deney yapma veya altyapı kurma süreçlerinden birini geliştiriyorsa sonraki döngüler daha hızlı ya da daha ucuz hâle gelebilir. Bununla birlikte mevcut kanıtlar, açık uçlu ve kendi kendini sürdüren RSI’dan çok sınırlandırılmış öz-iyileştirmeyi destekliyor. 1

Bu nedenle kıyaslamalarda biraz daha düşük performans gösteren bir model bile daha iyi araçlara, geri bildirime ve kurtarma mekanizmalarına sahip bir ortamda rekabetçi olabilir. Ürün artık yalnızca model kontrol noktası değil, iyileştirme döngüsünün tamamı hâline geliyor.

Çözülmemiş kontrol sorunu

Kurtarılabilirlik riski azaltır; ortadan kaldırmaz. Bir geri alma düğmesi, ajanın her eyleminin tüm sonuçlarının gözlemlenebilir veya geri döndürülebilir olduğunu garanti edemez. Değişiklikler verilere, kimlik bilgilerine, dış servislerine, güvenlik sınırlarına veya çalışma zamanının denetimi dışındaki insan kararlarına etki edebilir.

Daha hızlı yineleme; faydalı iyileştirmelerin yanı sıra kötü hedefleri, şartnameyi istismar etmeyi, gizli gerilemeleri ve opak bağımlılıkları da büyütebilir. İnsan denetimi için teknik geri alma düğmesinden fazlası gerekiyor. Değişikliklerin tüm sistem genelinde — yalnızca eklenti grafiği içinde değil — gözlemlenebilir, bağımsız biçimde değerlendirilebilir, yetkilendirilmiş, izlenebilir ve gerçekten geri döndürülebilir kalması gerekiyor.

En güçlü sonuç bu nedenle ölçülü olmalı: DSH ve Cordis, ajan altyapısının sınırlandırılmış ve kurtarılabilir öz-değişim için nasıl tasarlanabileceğini gösteriyor. AlphaEvolve değerlendirici destekli evrimin gücünü, Anthropic’in çalışmaları ise yapay zekânın araştırmaya giderek daha fazla katılabileceğini ortaya koyuyor. Birlikte ele alındıklarında bu çalışmalar, yapay zekâ destekli iyileştirme döngülerinde ilerleme olduğunu gösteriyor; ancak tamamen otonom, açık uçlu RSI veya AGI’nin kanıtı değiller. 14959