Singapur yapay zekâ güvenliğinde neden havacılığı örnek alıyor?

Bir yolcu uçağa binerken yalnızca uçağın iyi tasarlandığına güvenmez. Bakımından hava trafiğinin yönetimine, havalimanı işleyişinden eğitimli personele kadar pek çok önlemin birlikte çalıştığını varsayar. Singapur Dijital Kalkınma ve Enformasyon Bakanı Josephine Teo’nun yapay zekâ için havacılığı örnek göstermesinin nedeni bu: Güven, tek bir şirketin verdiği güvenceyle değil, bir güvenlik sistemiyle oluşur. 79

Teo, 17 Eylül’deki LinkedIn paylaşımında yapay zekânın da zamanla sivil havacılığa benzer güvenlik düzenlemelerine ihtiyaç duyabileceğini söyledi. Bu, böyle bir düzenin bugün var olduğunu ilan etmek değil; teknoloji daha sık kullanılırken güvenlik önlemlerinin de gelişmesi gerektiğini vurgulamaktı. 23

Benzetme yapay zekâda ne anlama geliyor?

Havacılığın her kuralı yapay zekâya aynen taşınamaz. Ancak benzetme, geliştiriciler, sistemleri kullanıma alan kuruluşlar ve denetleyiciler için ortak sorular ortaya koyuyor: Bir sistem kullanılmadan önce nasıl test edilecek? Değiştikçe güvenli olup olmadığı nasıl izlenecek? Onu kullananlara nasıl yol gösterilecek? Teo, havacılığın çok katmanlı yaklaşımına dikkat çekerek hazır bir yapay zekâ güvenliği yol haritası bulunmadığı için Singapur’un hızla öğrenmesi gerektiğini belirtti. 5

Singapur şimdi ne yapıyor?

Teo’nun yaklaşımı, bütün kuralların tamamlanmasını beklemek yerine güvenlik önlemlerini kullanım yaygınlaşırken geliştirmek. Singapur’un mevcut girişimleri arasında, sorumlu testleri ve şeffaflığı teşvik eden AI Verify ile Singapur Yapay Zekâ Güvenliği Enstitüsü bulunuyor. Ülke ayrıca yapay zekâ sistemlerini değerlendiren bağımsız test uzmanlarına akreditasyon sağlayacak bir program üzerinde çalışıyor. Bunlar pratik güvence adımları; risklerin çözüldüğünün kanıtı değil. 1222

Ülke, Yapay Zekâ Güvenliği üzerine Uluslararası Bilimsel Değişim toplantısına ev sahipliği yaptı, Küresel Yapay Zekâ Güvenliği Araştırma Önceliklerine ilişkin Singapur Mutabakatı’nın geliştirilmesine katkıda bulundu ve ortak test çalışmalarına katıldı. Bu faaliyetler sınır ötesi araştırma ve değerlendirmeyi destekliyor; bağlayıcı bir uluslararası havacılık otoritesinin yapay zekâdaki karşılığı olarak görülmemeli. 181

Geliştirmeyi yavaşlatma çağrısından farkı ne?

Tartışmanın arka planında insan denetiminin kaybı, siber saldırılar ve biyoterörizm gibi risklere ilişkin uyarılar var. Anthropic CEO’su Dario Amodei, 12 Eylül’de ileri düzey yapay zekâ modellerinin yeteneklerindeki artışın, güvenlik çalışmaları ve bağımsız doğrulama yetişebilecek şekilde hızının ayarlanmasını istedi. Yapay zekâ ajanlarının gelecekte internet çapında büyük aksamalara yol açabileceğine ilişkin uyarısı ise gerçekleşmiş bir sonuç değil, bir öngörüydü. 131011

İki yaklaşım aynı değil: Teo, kullanım artarken güvenlik önlemlerini güçlendirmeye odaklanıyor; Amodei ise en ileri modellerin yetenekleri daha da gelişmeden güvenlik çalışmalarına zaman kazandırmak istiyor. İkisinin ortak sorusu şu: İnsanlardan bu sistemlere güvenmeleri istenirken güvenlik uygulamaları teknolojinin hızına yetişebilecek mi? 1311