AnswersPublished14 sources
Sampura Research nedir ve yapay zekâyı nasıl denetlemeyi planlıyor?
Sampura Research, eski Google DeepMind araştırmacıları Rishub Jain ve Josh Jacob tarafından kurulan Londra merkezli bir AI güvenliği kuruluşu. Kuruluş, ilk yılı için 7 milyon dolar ve devamı için 4 milyon dolar taahhüt içeren toplam 11 milyon dolarlık Coefficient Giving desteği aldı.
YayımlayanGPT-5.6 Luna ile düzenlendiGörseller GPT Image 1.5 ile oluşturuldu
Research answer
Key takeaways
- Sampura Research, eski Google DeepMind araştırmacıları Rishub Jain ve Josh Jacob tarafından kurulan Londra merkezli bir AI güvenliği kuruluşu.
- Kuruluş, ilk yılı için 7 milyon dolar ve devamı için 4 milyon dolar taahhüt içeren toplam 11 milyon dolarlık Coefficient Giving desteği aldı.
- Planın merkezinde, AI çıktılarının doğruluğunu ve güvenliğini insan, yapay zekâ veya ikisinin birlikte oluşturduğu “hibrit yargıçların” değerlendirmesi var.
- Sampura; aldatma tespiti, kültürel önyargı ve güvenli olmayan ajan davranışları gibi alanları kapsayan 20'den fazla alt veri setine sahip, sürekli güncellenen açık bir değerlendirme platformu kurmayı amaçlıyor.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
Sampura Research neden kuruldu?
Sampura Research, eski Google DeepMind araştırmacıları Rishub Jain ve Josh Jacob tarafından kurulan, Londra merkezli kâr amacı gütmeyen bir AI güvenliği kuruluşu. Kuruluşun kendi duyurusuna göre Alex Adams kurucular arasında bulunmuyor; Adams, duyuruya geri bildirim sağlayan isimlerden biri olarak anılıyor. Sampura kamuya 25 Ağustos 2026'da çıktı ve Coefficient Giving'den ilk yıl için 7 milyon dolar, ilerleyen dönem için 4 milyon dolar taahhüt içeren toplam 11 milyon dolarlık destek aldı. 4
Girişimin çıkış noktası, gelişmiş modelleri yine yapay zekâ kullanarak denetlemenin hızlı ve ucuz olsa da güvenlik açısından yeterli olmayabileceği düşüncesi. Sektörde giderek yaygınlaşan “AI, AI'yi denetlesin” yaklaşımında büyük dil modelleri, başka modellerin yanıtlarını veya davranışlarını değerlendiren hakemler olarak kullanılıyor.
Sampura ise insan muhakemesinin tamamen ortadan kaldırılmaması gerektiğini savunuyor. İnsanlar, modellerin her zaman aynı şekilde hata yapmaması gibi “girintili çıkıntılı” ya da öngörülmesi zor başarısızlıkları fark edebilir; model ile onu değerlendiren sistemin aynı açığa karşı birlikte çalışmasını bağımsız biçimde kontrol edebilir ve yeni ortaya çıkan insani değerler hakkında daha kapsamlı değerlendirme yapabilir. 4
“Hibrit yargıç” sistemi nasıl çalışacak?
Sampura'nın kullandığı anlamıyla bir yargıç, bir AI sisteminin yanıtının, kararının veya bir ajan olarak izlediği adımların doğru ve güvenli olup olmadığını değerlendiren insan, yapay zekâ ya da insan-AI birleşiminden oluşan sistemdir.
Kuruluşun planladığı yaklaşım, her görevi baştan sona insanlara bırakmak değil. Bunun yerine:
- AI yargıcının ne kadar emin olduğunu tahmin etmek,
- Emin olunmayan veya riskli durumları insan incelemesine aktarmak,
- Görevleri ya da görevlerin alt parçalarını insanlarla AI sistemleri arasında paylaştırmak,
- İnsan değerlendiricilere, yaptıkları işe özel AI desteği sağlamak
amaçlanıyor. Böylece insan emeği yalnızca güvenlik açısından en fazla değer kattığı noktalarda kullanılacak. Bu, “insan her şeyi kontrol etsin” yaklaşımından çok, insan denetimini stratejik biçimde ölçeklendirme arayışı.
İlk aşamada hangi testler yapılacak?
Sampura, ilk altı aylık programında kamuya açık ve sürekli güncellenen bir sıralama platformu oluşturmayı planlıyor. Platformda aldatma tespiti, kültürel önyargı ve güvenli olmayan AI ajanı eylemleri gibi başlıkları içeren 20'den fazla alt veri seti bulunması hedefleniyor. 4
Testler yalnızca sabit örneklerle sınırlı kalmayacak. Sampura, denetlenen modelin pekiştirmeli öğrenme sırasında değerlendirme sisteminin açıklarını keşfedip ona göre davranabildiği durumları da incelemek istiyor. Bu, ödül kandırma olarak bilinen; modelin gerçekten güvenli veya başarılı olmak yerine değerlendirme ölçütünü manipüle ederek yüksek puan almaya çalıştığı riski ölçmek açısından önemli.
Kuruluş; makaleleri, kodu, veri setlerini ve sıralama tablolarını kamuya açacağını söylüyor. Bu yaklaşım, farklı araştırmacıların sonuçları karşılaştırmasını ve yargıç sistemlerinin yalnızca laboratuvar ortamında değil, değişen modeller karşısında da ne kadar dayanıklı olduğunu incelemesini kolaylaştırabilir. 4
Araştırma alanı yalnızca “kontrolden çıkan AI” senaryolarıyla sınırlı değil
Sampura'nın duyurduğu kapsam, klasik “asi AI” veya modelin kontrolden çıkması senaryolarının ötesine uzanıyor. Kültürel önyargı, çocuklarla güvenli olmayan etkileşimler ve refakatçi AI sistemlerine aşırı bağımlılık da ele alınacak konular arasında.
İlerleyen aşamalarda kuruluş yalnızca model çıktılarının değerlendirilmesine değil, bu değerlendirmelerde kullanılan talimatların, ölçütlerin ve test senaryolarının üretilmesine ve denetlenmesine de odaklanmayı planlıyor. Bu, olası başarısızlıkları daha erken fark etmeye yardımcı olabilir. Ancak Sampura'nın duyurusu, bunun kanıtlanmış bir containment veya model kontrol sistemi olduğu anlamına gelmiyor; söz konusu olan bir araştırma gündemi. 4
Gerçek dünyada işe yarayıp yaramadığı nasıl ölçülecek?
Sampura'nın asıl sınavı, daha iyi görünen yargıçların pratikte daha az ödül kandırmaya yol açıp açmayacağı olacak. Kuruluş ayrıca şu sorulara yanıt aramayı planlıyor:
- Modeller değiştikçe yargıçlar ne zaman yeniden eğitilmeli?
- İnsan katkısı güvenlik açısından en fazla ne zaman değer sağlıyor?
- İnsan denetimi hız, maliyet ve kalite arasında nasıl dengelenebilir?
- Geliştirilen yöntemler, eğitim, değerlendirme ve sürekli izleme süreçlerine nasıl uygulanabilir?
İlk aşamada sistemlerin üçüncü taraf değerlendiricilerle stres testine tabi tutulması, daha sonra ise ileri seviye AI laboratuvarlarının eğitim ve izleme süreçlerinde kullanılması hedefleniyor. 4
Neden araştırmacı bulmak da başlı başına bir sorun?
AI güvenliği alanında yöntem geliştirmek kadar, bu işi yapabilecek deneyimli insanları bulmak da zor. METR'nin yayımladığı bir değerlendirme-uygulama pozisyonunda yıllık temel ücret 285.548 ila 503.116 dolar arasında gösteriliyor; istisnai adaylar için daha yüksek ücret ihtimali de belirtiliyor. Bu tablo, deneyimli AI değerlendirme uzmanlarının ne kadar kıt olduğunu gösteriyor. 9
Bu nedenle Sampura'nın Londra'da teknik ekip kurma planı stratejik önem taşıyor. Bununla birlikte, kuruluşun en az altı kişiyi 100.000 ila 290.000 sterlin maaşla işe alacağı iddiasını doğrulayan yeterli birincil kaynak bulunmuyor. Sampura'nın kendi duyurusu yalnızca Londra'da kurucu teknik ekip için işe alım yaptığını söylüyor. 4
AI geliştirmeyi yavaşlatma çağrısıyla bağlantısı ne?
Temmuz 2026'da 1.100'den fazla ileri seviye AI çalışanı, geliştirme hızı güvenli insan denetiminin önüne geçerse süreci yavaşlatmayı mümkün kılacak uluslararası bir kapasite oluşturulması çağrısında bulunan bir mektubu imzaladı. 1
Sampura'nın çalışmaları bu tartışmaya teknik bir katkı sunabilir: Daha güvenilir, denetlenebilir ve karşılaştırılabilir değerlendirmeler, hangi modellerin ne ölçüde güvenli biçimde geliştirilebileceğine dair daha sağlam veriler sağlayabilir.
Ancak bir değerlendirme kuruluşu tek başına hukuki yetki, uluslararası koordinasyon, model erişimi veya yaptırım gücü oluşturamaz. Bu nedenle Sampura'nın yaklaşımı, yönetişimin yerine geçmekten çok yönetişim için gerekli olabilecek teknik altyapıyı destekliyor.
DeepMind'dan ayrılış ve “şirketler ne yaptığını kontrol edemiyor” iddiası
Jain'in Google DeepMind'dan ayrılışı, kurumdan art arda yaşanan başka araştırmacı ayrılıklarının da gündemde olduğu bir döneme denk geldi. Ancak “altı günde beş çekirdek araştırmacı” ifadesi daha düşük güvenilirlikteki ikincil kaynaklara dayanıyor ve bağımsız biçimde doğrulanmış bir olgu olarak sunulmamalı. 5
Benzer şekilde, mevcut kaynaklar AI şirketlerinin “inşa ettikleri şeyi kontrol edemediği” gibi geniş bir iddiayı kanıtlamıyor. Daha temkinli ve desteklenebilir sonuç şu: Giderek daha yetenekli modellerin güvenilir biçimde denetlenmesi hâlâ kanıtlanmış değil, değerlendirme uzmanları sınırlı ve Sampura insan katkısını tamamen AI'ye devretmek yerine daha ölçeklenebilir ve dayanıklı hâle getirmeye çalışıyor.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sampura Research nedir ve yapay zekâyı nasıl denetlemeyi planlıyor?"?
Sampura Research, eski Google DeepMind araştırmacıları Rishub Jain ve Josh Jacob tarafından kurulan Londra merkezli bir AI güvenliği kuruluşu.
What are the key points to validate first?
Sampura Research, eski Google DeepMind araştırmacıları Rishub Jain ve Josh Jacob tarafından kurulan Londra merkezli bir AI güvenliği kuruluşu. Kuruluş, ilk yılı için 7 milyon dolar ve devamı için 4 milyon dolar taahhüt içeren toplam 11 milyon dolarlık Coefficient Giving desteği aldı.
What should I do next in practice?
Planın merkezinde, AI çıktılarının doğruluğunu ve güvenliğini insan, yapay zekâ veya ikisinin birlikte oluşturduğu “hibrit yargıçların” değerlendirmesi var.