AnswersPublished19 sources
Süper zekânın geleceği için üç senaryo: uluslararası denetim, ortak yapı ya da tek şirketin hâkimiyeti
Altman’ın çalışanlara aktardığı bildirilen üç olasılık: IAEA benzeri uluslararası denetim, CERN benzeri ortak bir yapı veya rakiplerinin bilgi işlem kaynaklarını kısıtlayabilecek tek bir geliştiricinin hâkimiyeti. Altman’ın ilk seçeneğe daha sıcak baktığı, tek bir şirketin rakipleri engellediği üçüncü senaryoyu ise...
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Altman’ın çalışanlara aktardığı bildirilen üç olasılık: IAEA benzeri uluslararası denetim, CERN benzeri ortak bir yapı veya rakiplerinin bilgi işlem kaynaklarını kısıtlayabilecek tek bir geliştiricinin hâkimiyeti.
- Altman’ın ilk seçeneğe daha sıcak baktığı, tek bir şirketin rakipleri engellediği üçüncü senaryoyu ise kötü bulduğu bildiriliyor.
- Yudkowsky’nin 2022’deki “yakıp kül etme” örneği bir öneri değil, hizalanmamış yapay zekânın geliştirilmesini durdurmaya ilişkin varsayımsal bir müdahaleydi.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
OpenAI CEO’su Sam Altman’ın şirket çalışanlarına süper zekânın nasıl yönetilebileceğine dair üç olası yol anlattığı bildirildi: uluslararası denetim, büyük yapay zekâ laboratuvarlarının ortak bir yapıda buluşması veya tek bir geliştiricinin rakiplerini engelleyecek ölçüde güç kazanması. Haberlere göre Altman ilk seçeneğe daha yakın durdu; üçüncü senaryoyu ise kötü olarak niteledi. Bunlar benimsenmiş OpenAI politikaları değil, olası gelecek senaryoları olarak aktarıldı. 1
4
6
Masadaki üç senaryo
1. Uluslararası bir denetim kurumu
İlk seçenek, Uluslararası Atom Enerjisi Ajansı’nı (IAEA) örnek alan bir uluslararası kurum oluşturmak. Bu kurumun ileri yapay zekâ sistemleri için güvenlik standartları belirlemesi veya bunların uygulanmasını denetlemesi düşünülüyor. Haberlerde modele, gelişmiş sistemlerin denetlenmesi, inceleme ve güvenlik denetimleri de eşlik ediyor. 1
4
6
Ancak mevcut haberler, böyle bir kurumun yetkilerini ve işleyişini kapsayan ayrıntılı bir plan ortaya koymuyor. Örneğin bilgi işlem gücüyle enerji kullanımının birlikte izlenmesi gibi kimi ayrıntılar doğrulanmış değil. İç görüşmenin, Mayıs 2023’te sunulmuş belirli bir önerinin doğrudan devamı olduğu da mevcut kaynaklarla kesinleşmiyor.
2. “Demis Planı”
İkinci seçenek “Demis Planı” olarak anılıyor. Adını Google DeepMind’ın Demis Hassabis’inden alan bu yaklaşım, önde gelen yapay zekâ laboratuvarlarını CERN benzeri ortak bir kuruluşta buluşturmayı ya da ortak bir yapının çatısı altında çalıştırmayı öngörüyor. Muhabir Amir Efrati, fikri yaklaşık 2017’deki bir öneriyle ilişkilendirdi. 5
23
Aktarılan bir anlatıma göre bu kuruluş, kendisiyle iş birliği yapan ülkelere modeller sağlayacaktı. 5 Temel fikir, birbirinden bağımsız laboratuvarların rekabeti yerine ortak sahiplik veya yönetişim yoluyla koordinasyon sağlamak.
3. “Eliezer Planı”
Eliezer Yudkowsky’nin adını taşıyan üçüncü senaryoda, bir geliştirici kendi kendini geliştiren yapay zekâ sayesinde rakiplerinin çok önüne geçiyor; ardından elde ettiği güçle onların bilgi işlem kaynaklarına erişimini kısıtlayabiliyor. Bu ihtimal, “herkesin GPU’larını eritmek” ifadesiyle özetlendi. Haberlere göre Altman bu senaryoyu reddetti. 3
5
6
Yudkowsky’nin varsayımıyla Altman’ın senaryosu aynı şey değil
“Eliezer Planı” etiketi, birbirinden farklı iki fikrin karıştırılmasına yol açabilir. Yudkowsky’nin 2022’deki yazısına ilişkin anlatımlarda, “hizalanmış” bir yapay genel zekânın (AGI), “hizalanmamış” AGI’lerin geliştirilmesini durduracağı bir “kritik müdahale” fikri yer alıyor. 7
10 Bu, bir şirketin rekabet üstünlüğünü kullanarak diğer geliştiriciler üzerinde hâkimiyet kurmasıyla aynı senaryo değil.
Ayrı bir habere göre Yudkowsky, “tüm GPU’ları yakma” örneğinin bir öneri olmadığını daha sonra açıkladı. 34 Eldeki kaynaklar, yanıtının tüm ayrıntılarını ve koşullarını aktarmaya yetecek kapsamda değil. Burada desteklenen temel ayrım şu: Bir yanda hizalanmamış AGI’yi önlemeyi amaçlayan varsayımsal bir müdahale, diğer yanda tek bir geliştiricinin bilgi işlem kaynaklarını tekeline alması var.
“Eliezer Planı” adının Anthropic’e gönderme veya iğneleme olarak yorumlandığını da mevcut haberler doğrulamıyor. Bir senaryonun Yudkowsky’nin adıyla anılması, Anthropic’in bu senaryoyu desteklediğini ya da etiketin şirkete yönelik olduğunu göstermez.
Tartışmanın odağındaki yönetim tercihi
Üç senaryo, gücün nerede toplanacağı konusunda ayrışıyor: uluslararası bir denetim kurumunda, önde gelen laboratuvarların ortak kuruluşunda ya da tek bir baskın geliştiricide. Altman’ın ilk seçeneği tercih ettiği, üçüncüyü reddettiği yönündeki haberler, tartışmanın temel gerilimini ortaya koyuyor: koordineli denetim mi, yoksa gücün tek elde toplanması mı? 1
4
6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Süper zekânın geleceği için üç senaryo: uluslararası denetim, ortak yapı ya da tek şirketin hâkimiyeti"?
Altman’ın çalışanlara aktardığı bildirilen üç olasılık: IAEA benzeri uluslararası denetim, CERN benzeri ortak bir yapı veya rakiplerinin bilgi işlem kaynaklarını kısıtlayabilecek tek bir geliştiricinin hâkimiyeti.
What are the key points to validate first?
Altman’ın çalışanlara aktardığı bildirilen üç olasılık: IAEA benzeri uluslararası denetim, CERN benzeri ortak bir yapı veya rakiplerinin bilgi işlem kaynaklarını kısıtlayabilecek tek bir geliştiricinin hâkimiyeti. Altman’ın ilk seçeneğe daha sıcak baktığı, tek bir şirketin rakipleri engellediği üçüncü senaryoyu ise kötü bulduğu bildiriliyor.
What should I do next in practice?
Yudkowsky’nin 2022’deki “yakıp kül etme” örneği bir öneri değil, hizalanmamış yapay zekânın geliştirilmesini durdurmaya ilişkin varsayımsal bir müdahaleydi.
Sources
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI