Yapay zekâyı gerçekten yavaşlatmak ne gerektirir? Singapur’un rolü

Anlamlı bir yapay zekâ yavaşlaması, ekonominin tamamında yapay zekâyı durdurmak yerine en gelişmiş sistemlerin geliştirilme hızını güvenlik denetimlerinin yetişebileceği seviyeye çekmeyi hedefler. Önde gelen yapay zekâ yöneticilerinden gelen son çağrılar bağımsız değerlendirme ve koordinasyon konularını gündeme taşıdı. Ancak bu önerileri güvenilir güvencelere dönüştürmek, gönüllü taahhütlerden fazlasını gerektiriyor: değerlendirmeler bağımsız olmalı, yayımlama kararlarının gerçek sonuçları bulunmalı ve kurallar riskle orantılı biçimde uygulanmalı.

Singapur’un bu alanda kullanabileceği araçlar var: ajan tabanlı yapay zekâ yönetişim çerçevesi, AI Verify test araçları ve üçüncü taraf yapay zekâ test kuruluşlarını tanımaya yönelik bir program. Bundan sonraki güçlük, bu araçları kurumların gerçekten kullandığı sistemler hakkında açık ve kanıta dayalı kararlara bağlamak. 4

Yapay zekâyı yavaşlatma çağrıları neyi gösteriyor, neyi göstermiyor?

Son dönemdeki öneriler, en gelişmiş yapay zekâ sistemlerinin (frontier AI) geliştirilme hızına odaklanıyor. Bu sistemlerde yetenekler hızla ilerlerken geliştiricilerin güvenlik önlemleri ve dış denetim aynı hızda yetişemeyebilir. Basında yer alan öneriler arasında bağımsız değerlendiricilere en ileri sistemler üzerinde sürekli erişim sağlanması, güvenlik standartlarının eşgüdüm içinde belirlenmesi ve daha geniş uluslararası işbirliği bulunuyor.

Bu öneriler, konunun daha fazla destek gördüğüne işaret ediyor; ancak yapay zekâ şirketleri arasında üzerinde uzlaşılmış, bağlayıcı bir politika anlamına gelmiyor. Uluslararası Yapay Zekâ Güvenliği Raporu, risk yönetimi çalışmalarının hâlâ gelişmekte olduğunu ve şirketlerin girişimlerinin çoğunun gönüllülük esasına dayandığını belirtiyor. Aradaki fark önemli: Bir şirketin modeli test edeceğini söylemesi, ciddi riskler sürerken yayımlamayı ertelemesini zorunlu kılan yaptırımlı bir kural değildir.

Yavaşlamayı risk temelli bir yayımlama koşuluna dönüştürmek

Uygulanabilir bir yaklaşım, daha güçlü yeteneklere veya daha geniş yetkilere sahip sistemler için daha sıkı koşullar getirirken gündelik yapay zekâ kullanımını toptan durdurmamalı. Düşük etkili bir metin hazırlama aracı ile önemli sonuçlar doğurabilecek işlemleri yapma yetkisi verilen bir ajan aynı gerekliliklere tabi olmamalı. Singapur’un ajan tabanlı yapay zekâ çerçevesi, riskleri önceden değerlendirip sınırlandırmayı ve önemli ya da hassas işlemler için insan onay noktaları belirlemeyi zaten öneriyor. 46

En gelişmiş modeller ve etkisi yüksek kullanımlar için bu ilkeden hareketle şu adımları içeren bir yayımlama süreci tasarlanabilir:

• Yayımlama öncesinde bağımsız değerlendirme: Yetkin dış değerlendiricilere ilgili sistemlere ve kanıtlara güvenli erişim sağlanmalı; tehlikeli yetenekler ve öngörülebilir kötüye kullanım ihtimalleri incelenmeli. En gelişmiş sistemlerin geliştirilme hızını yönetmeye yönelik son çağrılarda değerlendiricilere sürekli erişim önerildi; bu, her yerde yürürlükte olan bir zorunluluk değil.
• Açık eşikler ve sonuçları: Hangi bulguların ek güvenlik önlemlerini, erişimin kısıtlanmasını veya yayımlamanın ertelenmesini gerektirdiği açıkça belirlenmeli. Değerlendirmede başarısızlık, belgelenmiş bir yanıt doğurmalı; risk gerektiriyorsa yalnızca kurum içi bir incelemeyle yetinilmemeli, yayımlama ertelenmeli. Bunlar önerilen yönetişim adımlarıdır; Singapur’un mevcut çerçevesinde yer alan zorunluluklar olarak sunulmamalıdır. 4
• Kullanıma uygun kontroller: Önemli sonuçlar doğurabilecek yetkiler verilen ajanlarda sınırlı erişim, kritik işlem noktalarında insan onayı, izleme ve açık sorumluluk mekanizmaları değerlendirilmeli. Singapur’un çerçevesi riskleri sınırlandırmayı ve anlamlı insan gözetimini destekliyor; uygulanacak kontroller sistemin özelliklerine ve kullanım amacına göre belirlenmeli. 48
• Önemli değişikliklerde yeniden değerlendirme: Model, kullandığı araçlar veya devreye alındığı ortam ciddi biçimde değiştiğinde sistem yeniden test edilmeli. Böylece önceki bir değerlendirme, değişen sistem için süresiz güvence sayılmamış olur. Bu, güvenceyi sistemin güncel hâliyle uyumlu tutmaya yönelik bir öneridir.

Düşük riskli uygulamalar için daha açık ve hafif bir kullanım yolu bulunmalı. Risk temelli kurallar, iş dünyasında benimsenmenin önünü açık tutarken başarılı bir test sonucunu sistemin her koşulda güvenli olduğunun kanıtı saymaktan kaçınabilir. Avrupa Birliği’nin Yapay Zekâ Yasası, yapay zekâ kullanım alanlarının risklerine göre düzenleme yapılmasına örnek oluşturuyor.

Kurallar kamusal, testler bağımsız olmalı

Uluslararası eşgüdüm, değerlendirmelerin daha karşılaştırılabilir olmasına ve şirketlerin denetimin en gevşek olduğu yeri arama baskısının azalmasına yardımcı olabilir. Hükümetler ortak test yöntemleri, olay bilgisi paylaşımı ve en yüksek riskli sistemler için asgari beklentiler üzerinde çalışabilir; bağımsız değerlendiriciler de bu ölçütlere göre kanıt sunabilir. Yavaşlama çağrılarında da şirketler arasında ve ülkeler sınırları aşan koordinasyon öneriliyor.

Sorumlulukların kimde olduğu önemli. Uygulanabilir eşikleri kamu otoriteleri belirlemeli ve bu eşiklerin aşılmasının sonuçlarını tayin etmeli. Şirketler teknik uzmanlık sunabilir; ancak kendi sistemlerinin koşulları karşılayıp karşılamadığına tek başlarına karar vermemeli. Bağımsız test kuruluşlarının yöntemleri şeffaf olmalı, çıkar çatışmaları açıklanmalı. Bunlar önerilen bir denetim düzeninin tasarım ilkeleridir; sektörden gelen çağrılarla kurulmuş bir sistemin özellikleri değildir.

Singapur hangi temelin üzerine inşa edebilir?

Singapur’un Ajan Tabanlı Yapay Zekâ için Model Yönetişim Çerçevesi, ajan kullanan kuruluşlara risk değerlendirmesi, insan sorumluluğu ve kontrol mekanizmaları gibi konularda yol gösteriyor. Bu çerçeve, sorumlu kullanım rehberi niteliğinde; tek başına yaptırımlı bir yayımlama koşulu değil. 468

AI Verify test araçları sunarken AI Tester Accreditation Programme, ilgili teknik yetkinliklere ve işleyiş hazırlığına sahip üçüncü taraf test kuruluşlarını tanıyor. Bu girişimler, işletme ve finans dâhil farklı alanlarda daha tutarlı değerlendirmeleri destekleyebilir. Singapur ayrıca ortak güvence profillerini ve model sağlayıcılarından, sistem entegratörlerinden, sistemi kullanan kuruluşlardan ve test uzmanlarından ne beklendiğini açıklığa kavuşturan sözleşme hükümlerini teşvik edebilir. Bunlar olası sonraki adımlardır; atıf yapılan çerçevelerde belirlenmiş politikalar değildir.

Yararlı bir hedef, tek bir ulusal sertifikanın her sistemin her kullanımda güvenli olduğunu garanti ettiği iddiası yerine test yöntemlerinin ve kanıtlarının ülkeler arasında tanınması olabilir. Yönetişim çerçevesi ve test araçları kanıtların daha düzenli sunulmasına yardımcı olabilir; ancak kamu otoriteleri ve kuruluşlar bu kanıtların gerçek kullanım ortamındaki riskleri karşılayıp karşılamadığını ayrıca değerlendirmelidir.

Yapay zekâ güvenliğini, yazılım güvenilirliğini ve siber güvenliği birlikte değerlendirmek

Bir modelin ürettiği yanıtları test etmek, bir yapay zekâ ajanını değerlendirmek için tek başına yeterli değildir. Ajanın içinde çalıştığı yazılım sistemi ve erişebildiği araçlar ile izinlerin güvenliği de incelenmeli. Bunlar birbiriyle bağlantılı ama ayrı sorular: Yapay zekâ hangi zararlı davranışları üretebilir? Bir araya getirilmiş uygulama arıza veya değişiklik durumunda nasıl çalışır? Bir saldırgan sistemi ele geçirip yönlendirebilir mi?

Bu birleşik değerlendirme, güvence çalışmalarını genişletmeye yönelik bir öneridir; mevcut her aracın bu üç alanı da kapsadığı anlamına gelmez. AI Verify Toolkit, geleneksel makine öğrenmesi sistemleri için adalet, açıklanabilirlik ve dayanıklılık gibi konularda teknik testler tanımlıyor. Bu kapsam, ajan tabanlı kullanımlarda uçtan uca hangi ek testlerin gerektiğinin açıkça belirtilmesini önemli kılıyor; model düzeyindeki bir sonucun tüm sistem için güvence sağladığı varsayılmamalı.

Anlamlı bir yavaşlamanın ölçütü

Yavaşlama, bağımsız kanıtlar bir sonraki adımı gerçekten değiştirebildiğinde anlam kazanır: Güvenceleri yetersiz bulunan yüksek riskli bir sistemin yayımlanması ertelenebilmeli, erişimi sınırlandırılabilmeli veya sistem düzeltilmesi için geri çevrilebilmeli; buna karşılık sıradan ve düşük riskli kullanımlar için ölçülü bir devreye alma yolu korunmalı. Singapur’un çerçeveleri ve test programları böyle bir güvence düzeni kurmak için temel sunuyor. Ancak yayımlama eşiklerinin, yaptırımların ve değerlendirmelerin kapsamının açıkça belirlenmesi gerekiyor.