Sam Altman’dan yapay zekâ için iki uyarı: Kontrol kaybı ve gücün tek elde toplanması

Güçlü yapay zekâ, OpenAI CEO’su Sam Altman’a göre toplumu iki farklı yoldan başarısızlığa sürükleyebilir: İnsanlar giderek yeteneklenen sistemler üzerindeki kontrolü kaybedebilir ya da bu sistemleri yönlendirme gücü çok az sayıda aktörün elinde toplanabilir. Bu yaklaşım, teknik yapay zekâ güvenliği ile siyasi yönetişimi aynı çerçevede ele alıyor: Güvenli yapay zekâ yalnızca modellerin neler yapabildiğiyle değil, onları kimin yönettiğiyle de ilgili. 1316

Altman’ın kaçınılması gerektiğini söylediği iki senaryo

İlki: İnsan denetiminin kaybı. Altman, insanlığın “geleceğin kontrolünü yapay zekâya kaptırabileceği” uyarısında bulundu ve bunu kabul edilemez diye niteledi. Ona göre temel ilke, yapay zekânın insanlara hizmet etmesi; insanların yeterince gözetemediği sistemlere bağımlı veya tabi hâle gelmemesi. 216

İkincisi: Yapay zekâ gücünün yoğunlaşması. Altman ayrıca olağanüstü güçlü bir yapay zekâ sisteminin tek bir kişi, şirket veya ülkenin kontrolünde olup herkesin üzerine kendi dünya görüşünü dayatmak için kullanılabileceği bir dünyaya karşı uyardı. Bunun “son derece distopik” sonuçlar doğurabileceğini söyledi. 113

Bu iki risk birbiriyle bağlantılı, ancak aynı şey değil. İlki, insanların güçlü sistemleri anlayıp sınırlandırabilmesi ve gerektiğinde devre dışı bırakabilmesiyle ilgili. İkincisi ise, teknik olarak denetlenebilir sistemlerin aşırı ve denetimsiz yetkiye sahip bir aktör tarafından kullanılmasına ilişkin.

Altman hangi güvenlik önlemlerini savunuyor?

Altman’ın kamuoyuna yansıyan yaklaşımı, yapay zekâ geliştirmeyi tamamen durdurmak değil. Bunun yerine, model yeteneklerinin uyumlandırma ve izleme çalışmalarını geride bırakmaması gerektiğini; rekabet baskısının da pervasız dağıtımlara mazeret olamayacağını savunuyor. 213

Öne çıkardığı önlemler şöyle:

• Yetenek artışıyla aynı hızda ilerleyen uyumlandırma ve izleme: Geliştiricilerin giderek güçlenen modellerin ne yaptığını anlamlı biçimde değerlendirebilmesi ve kontrol edebilmesi temel koşul. 213
• İnsanların hizmetinde kalan yapay zekâ: Kontrol kaybı uyarısının arkasındaki ana hedef bu. 216
• En ileri yapay zekâ sistemleri için tutarlı federal kurallar: Altman, yalnızca parçalı ve gönüllü taahhütlere dayanmak yerine, ABD düzeyinde ileri yapay zekâ risklerini yönetecek ortak bir çerçeveyi destekliyor. 1316
• Bağımsız inceleme: Giderek daha yetenekli modeller geliştiren şirketlere yönelik kamu güvenini artırabilecek araçlardan biri olarak bağımsız denetçileri işaret ediyor. 16

Pratikte bu, en güçlü sistemler için daha yüksek bir kanıtlama yükü anlamına geliyor: Güvenlik tedbirleri, model yetenekleri ilerledikten sonra eklenen bir ayrıntı değil; dağıtım kararından önce test edilmiş ve güvenilir önlemler olmalı.

Anthropic’ten gelen uyarılar tartışmayı nasıl sertleştiriyor?

Aynı hafta Anthropic’in eski araştırmacısı Jacob Coxon, önde gelen laboratuvarların kendi kendini geliştiren yapay zekâ yönünde ilerlerken “hayatlarımızla kumar oynadığını” söyledi. İstifasıyla ilgili haberlerde, bu sistemleri geliştiren araştırmacıların sistemlerin insan denetimi için fazla güçlü hâle gelmesinden ciddi biçimde endişe duyduğu aktarılıyor. 17

Bu uyarının tonu Altman’ın ifadelerinden daha sert; ancak temel kaygı ortak: Sistemlerin yetenekleri, onları güvenilir biçimde denetleme kapasitesini aşabilir. Anthropic’in uyumlandırma çalışmalarından sorumlu Evan Hubinger’ın yer aldığı bildirilen bir kamuoyu tartışmasında, yapay zekânın önümüzdeki on yıl içinde insanlığın yok olmasına yol açma ihtimali için kişisel tahmininin %10’un üzerinde olduğu ve süper zekânın uyumlandırılması sorununa yönelik tam bir çözümün henüz bulunmadığı belirtildi. Bu, yerleşik bir bilimsel olasılık ya da kesinleşmiş bir öngörü değil; kişisel bir risk değerlendirmesi. 17

Buradaki önemli nokta, belirli bir yok oluş takviminin kanıtlandığı iddiası değil; kanıtlanmış değil. Asıl mesele, en ileri sistemleri geliştiren araştırmacıların mevcut güvenlik uygulamalarının geliştirilmekte olan modellerin hızına yetişip yetişmediğini açıkça tartışması.

Sektördeki gerçek ayrım: Önce yetenek mi, önce güvenlik mi?

Ortaya çıkan ayrım sık sık yapay zekâyı hızlandırmak isteyenlerle yavaşlatmak isteyenler arasındaki mücadele gibi sunuluyor. Ancak bu çerçeve eksik kalıyor. Katılımcıların çoğu yapay zekânın önemli faydalar sağlayabileceğini kabul ediyor. Asıl anlaşmazlık, sıralama ve kuralların uygulanabilirliği üzerinde.

Bir görüşe göre, en ileri modellerin geliştirilme hızı; güvenlik araştırmalarına, değerlendirmelere, yönetişime ve kötüye kullanım vakalarına verilecek karşılıklara zaman tanıyacak şekilde ayarlanmalı. Anthropic CEO’su Dario Amodei, model yeteneklerindeki ilerleme hızının düşürülmesi çağrısı yaptı; ileri yapay zekâ laboratuvarları arasında bağımsız değerlendiricilerin kurum içine yerleştirilmesi, laboratuvarlar arası koordinasyon ve uluslararası iş birliği gibi önlemler sıraladı.

Buna karşı baskı ise gerçek: Şirketler ve hükümetler, rakiplerden daha yavaş hareket etmenin ekonomik veya jeopolitik avantaj kaybı anlamına gelebileceğinden endişe ediyor. Altman’ın vurgusu, rekabetin yeteneklerin uyumlandırma ve izleme kapasitesini aşmasına gerekçe olamayacağı yönünde. 13

Reuters’ın haberine göre bazı araştırmacılar, model yeteneklerinin beklenenden hızlı geliştiğini; buna karşılık insanların bu sistemlerin işleyişine dair görünürlüğünün ve olası kontrolünün azaldığını düşünüyor. Bu kaygı, temel politika sorusunu acil kılıyor: Laboratuvarlar, güvenlik önlemleri yetişirken giderek daha özerk modelleri kullanıma sunmayı sürdürmeli mi; yoksa önce bu önlemlerin yeterli olduğunu göstermeli mi?

Yapay zekâ yönetişimi için anlamı ne?

Altman’ın iki uyarısı, en ileri yapay zekâya ilişkin yönetişimin hem teknik kontrolü hem de gücün dağılımını ele alması gerektiğine işaret ediyor. Daha iyi model değerlendirmeleri, uyumlandırma araştırmaları, izleme ve bağımsız gözetim ilk soruna yanıt vermeyi amaçlıyor. Tutarlı kurallar, şeffaflık ve tek taraflı kontrolü sınırlayan mekanizmalar ise ikinci sorunla ilgili.

Felaket senaryoları ve kesin takvimler yerleşik gerçekler gibi görülmemeli. Ancak başarısızlığın olası etkisinin büyüklüğü, daha güçlü değerlendirme, dış denetim ve güvenlik şartları çağrılarını niş bir tartışma olmaktan çıkarıp yapay zekâ sektörünün merkezî meselelerinden biri hâline getirdi. 13