Singapur, kamu sektöründe yapay zekâyı nasıl ölçeklendiriyor?

Singapur, kamu sektöründe yapay zekâyı yaygınlaştırırken kontrolü tek tek modellerin güvenlik özelliklerine bırakmak istemiyor. Ülkenin yaklaşımı; yapay zekâ ajanlarının hangi verilere ve araçlara erişebileceğini, hangi eylemleri gerçekleştirebileceğini ve faaliyetlerinin nasıl izleneceğini sistem düzeyinde belirlemek.

Hükümet Teknoloji Ajansı GovTech’in geliştirdiği AI Assistant Desk ile planlanan yapay zekâ ajanı kayıt sistemi, bu yaklaşımın merkezinde yer alıyor. Amaç, yaklaşık 150 bin kamu çalışanının yapay zekâdan yararlanmasını sağlarken kullanımın görünür, denetlenebilir ve sorumlu tutulabilir olmasını güvenceye almak.

Girişim henüz geliştirme ve pilot aşamasında; şu anda seçilmiş kamu çalışanları tarafından test ediliyor ve daha geniş bir kullanımın 2026’nın ilerleyen döneminde başlaması planlanıyor. Bu nedenle projenin önemi yalnızca yeni bir sohbet botu sunmasında değil, kamu kurumları genelinde ortak bir yapay zekâ yönetişimi katmanı kurma hedefinde yatıyor.

AI Assistant Desk, hesap verebilirlik üzerine kuruluyor

Planlanan kayıt sistemi, her yapay zekâ ajanının sahibini, hangi amaçla kullanılacağını, hangi işlemlere izin verildiğini ve kullanım sırasında nasıl davrandığını kaydetmeyi hedefliyor. Böylece kurumlar, otomatik çalışan bir sistemi sorumlu bir kişi veya birimle ilişkilendirebilecek ve faaliyetlerini zaman içinde inceleyebilecek.

Bu ayrım önemli. Bir yapay zekâ ajanı yalnızca metin üretmeyebilir; sahip olduğu yetkilere ve bağlı olduğu sistemlere göre karar verebilir, araç çağırabilir veya görevleri insan müdahalesi olmadan gerçekleştirebilir. Bu nedenle kayıt sistemi basit bir yazılım envanterinden ziyade, dijital çalışanlar için sahiplik ve denetim mekanizması işlevi görecek.

GovTech, AI Assistant Desk’i kamu çalışanları için güvenli bir dijital asistan ortamı olarak tanımlıyor. Beklenen kullanım alanları arasında rapor hazırlama, takvim yönetimi, yazılım geliştirme, araştırma ve diğer rutin işler bulunuyor.

Teknik sınırlar, ajanların hareket alanını belirliyor

Önerilen model, güvenliği yalnızca kullanılan yapay zekâ modelinin iç kurallarına bırakmıyor. Bunun yerine modelin çevresine, kurumların uygulayabileceği teknik ve yönetsel kısıtlar yerleştiriyor. Bildirilen kontroller arasında şunlar bulunuyor:

• farklı kurumlar veya kullanım senaryoları için yapılandırılabilen kurallar;
• onaylanmış ya da yetkilendirilmiş yapay zekâ araçları;
• dosya silme veya dışarıya e-posta gönderme gibi eylemlere getirilen kısıtlamalar;
• kontrolsüz dağıtım ve istenmeyen e-posta riskini azaltmak için alıcı sayısına getirilen sınırlar;
• istem ve çıktılarda saldırgan dil gibi uygunsuz içerikleri tespit etmeye yönelik otomatik kontroller.

Bu yaklaşım, siber güvenlikteki asgari yetki ilkesine dayanıyor: Bir ajan, kendisine verilen görev için ihtiyaç duyduğu erişim ve eylem alanından daha fazlasına sahip olmamalı. Özellikle birden fazla yapay zekâ modelinin kullanıldığı veya ajanların hassas kamu sistemlerine bağlandığı durumlarda bu sınırlar kritik önem taşıyor.

Güvenlik katmanı, modeller değişse de korunacak

GovTech’in AI Guardian platformu, yapay zekâ uygulamaları için modelden ayrı bir güvenlik ve yönetişim katmanı sağlıyor. Platformdaki iki bileşen farklı aşamalara odaklanıyor: Litmus, uygulama kullanıma alınmadan önce karşıt senaryolarla yapılan testler üzerinden güvenlik ve emniyet risklerini değerlendiriyor; Sentinel ise uygulama çalışırken gerçek zamanlı içerik denetimi ve çıktı filtreleme gerçekleştiriyor.

Güvenlik kontrollerini temel modelden ayırmak, kurumların tek bir model sağlayıcısına bağımlılığını azaltabilir. GovTech ayrıca AI Assistant Desk’in güvenlik mimarisinin, üçüncü taraf yapay zekâ araçları eklense veya mevcut araçlar değiştirilse bile korumaları sürdürmek üzere tasarlandığını belirtiyor.

Buradaki temel fikir şu: Kullanılan model değişebilir, ancak veri koruma, izin verilen eylemler, izleme ve çıktı güvenliğiyle ilgili kamu standartları değişmeden kalmalı. GovTech’in sorumlu yapay zekâ çerçevesi; güvenlik, dayanıklılık, emniyet ve mahremiyetin yanı sıra açıklanabilirlik ve şeffaflığı da temel gereklilikler arasında sayıyor.

Kullanımın yanında yetkinlik geliştirme de var

Singapur’un kamu sektöründeki yapay zekâ programı yalnızca otonom ajanlardan ibaret değil. GovTech’in Pair adlı asistanı, devlet tarafından verilen cihazlarda yazma, araştırma, özetleme ve analiz görevlerini destekliyor. Ticari sohbet botlarının işleyemeyeceği hassas kamu verileriyle yürütülen çalışmalar için de onaylı kullanım sunuyor.

GovTech ayrıca yapay zekâ destekli yazılım mühendisliği ve düşük kodlu geliştirme yaklaşımları üzerinde çalışıyor. Bu araçlar, teknik ekiplerin ve kamu çalışanlarının prototip hazırlamasını veya iş akışlarını daha hızlı otomatikleştirmesini amaçlıyor. Önceki GovTech açıklamalarında yapay zekâ kod asistanları, yapay zekâ destekli mühendislik ve prototipleri daha güvenli ortamlara taşımaya yardımcı olacak araçlardan söz edilmişti.

Eğitim de bu altyapının bir parçası. GovTech, kamu çalışanları için veri ve yapay zekâ öğrenme kaynakları sağlıyor. Singapur’un daha geniş iş gücü planları kapsamında ise otomatik kodlama ve yapay zekâ ajanı sistemleri geliştiren teknoloji profesyonellerine yönelik programlar yürütülüyor.

Pratik hedef, kurumların kendi iç yetkinliğini geliştirmek: Kamu çalışanlarının yapay zekânın ne zaman uygun olduğunu bilmesi, teknik ekiplerin geliştirdikleri sistemleri değerlendirebilmesi ve güvenli hâle getirebilmesi, kurumların da birbirinden kopuk denemeler yerine ortak platformları kullanabilmesi.

Kamu projeleri, değerlendirme ihtiyacını gösteriyor

GovTech’in LangBuddy projesi, bir yapay zekâ uygulamasını gerçek kullanım amacı üzerinden değerlendirmenin önemini ortaya koyuyor. LangBuddy, öğrencilerin ana dillerini konuşarak pratik yapmasına yardımcı olmak üzere tasarlanan yapay zekâ destekli bir sesli sohbet botu.

Böyle bir ürünün değerlendirilmesi, sohbet botunun akıcı yanıtlar üretip üretmediğini kontrol etmekle sınırlı kalamaz. GovTech’in değerlendirme çalışmaları; güvenlik, halüsinasyon riski ve yanıtların belirlenen pedagojik kurallara uyup uymadığı gibi unsurları da ele alıyor.

Bu ilke kamu hizmetlerinin tamamına uygulanabilir: Kurumların, bir yapay zekâ sisteminin yalnızca ikna edici konuşup konuşmadığını değil, tasarlandığı görevi yerine getirip getirmediğini, sınırlarına uyup uymadığını ve gerçekçi etkileşimlerde kabul edilebilir davranıp davranmadığını test etmesi gerekiyor.

Siber güvenlik hem ön koşul hem de kullanım alanı

Aynı yönetişim anlayışı GovTech’in siber güvenlik çalışmalarında da görülüyor. Kurumun açıkladığı yetkinlikler arasında güvenli sistem tasarımı, kırmızı takım çalışmaları, sızma testleri, kitle kaynaklı güvenlik açığı bildirim programı ve tehditleri tespit edip müdahale eden mavi takım faaliyetleri yer alıyor.

GovTech ayrıca yapay zekâ destekli sızma testleri ile güvenlik operasyon merkezlerinde olayların otomatik olarak önceliklendirilmesini deniyor. Böylece yapay zekâ, güvenlik sürecinin iki tarafında da kullanılıyor: Zayıflıkları bulmaya yardımcı olurken savunma ekiplerinin olayları daha hızlı sıralamasını sağlayabiliyor.

Bazı haber ve açıklamalarda, güvenlik testlerinin ölçeklendirilmesi bağlamında 2 binden fazla kamu dijital sisteminden söz ediliyor. Ancak mevcut kaynaklar kırmızı takım çalışmalarını, sızma testlerini ve yapay zekâ destekli güvenlik operasyonlarını doğruluyor; sürekli yapay zekâ testlerinin bu sistemlerin tamamında hâlihazırda yürütüldüğünü göstermiyor.

Bu program Singapur’un genel stratejisi açısından ne ifade ediyor?

Bu girişimler birlikte değerlendirildiğinde üç bağlantılı hedef öne çıkıyor:

1. Kamu hizmetlerini geliştirmek: Asistanlar ve ajanlar rapor hazırlama, analiz, kodlama ve rutin iş akışlarını üstlenerek kamu çalışanlarına daha karmaşık ve vatandaşlarla doğrudan temas gerektiren işler için zaman kazandırabilir.
2. Kurum içi teknoloji kapasitesini güçlendirmek: Ortak platformlar, değerlendirme araçları, güvenlik katmanları ve eğitim programları; Singapur’un operasyonel bilgisini tek bir model sağlayıcısına veya ticari ürüne tamamen bağımlı olmadan korumasına yardımcı olabilir.
3. Kamu güvenini ve ulusal sistemleri korumak: Kayıtlar, yetkilendirme, denetlenebilirlik, güvenlik testleri ve siber savunma; yapay zekâ kamu işlerine ve verilerine daha fazla erişim kazandıkça gözetim mekanizmaları oluşturuyor.

Singapur’un yaklaşımındaki temel ders şu: Yapay zekâyı güvenli biçimde ölçeklendirmek, en az model seçimi kadar bir mimari ve işletim sorunu. Ülke, yapay zekâyı geniş bir kamu çalışanı kitlesinin kullanımına açmaya çalışırken sahiplik, yetkiler, testler ve faaliyet takibini kamu hizmetlerinden sorumlu kurumların görebileceği şekilde tasarlıyor.