Chen Yixin: Yapay zekânın kötüye kullanımı Çin’in siyasi ve ideolojik güvenliğini tehdit edebilir

Chen Yixin, yapay zekâyı öncelikle ulusal güvenlik ve rejim güvenliği meselesi olarak ele aldı. China Cyberspace dergisinde yayımlanan yazısında, hızla gelişen ve kötüye kullanılan yapay zekânın Çin’in siyasi istikrarını sarsmak, hassas verileri ele geçirmek, kritik altyapıyı tehlikeye atmak ve ülkeyi stratejik teknolojilerde dışa bağımlı bırakmak için kullanılabileceği uyarısında bulundu. 3712

Chen Yixin hangi risklere dikkat çekti?

Chen, yapay zekâyla bağlantılı altı güvenlik riskinden söz etti. En öne çıkan başlıklar şunlardı:

• Dezenformasyon ve bilişsel etki operasyonları: Bakan, düşman güçlerin deepfake ses ve videoları, yapay zekâyla oluşturulmuş metin ve görselleri, ayrıca otomatik sosyal medya hesaplarını kullanarak büyük ölçekli siyasi söylentiler üretebileceğini savundu. Bu araçların zararlı içerik yaymak, toplumsal gerilimleri körüklemek ve kamuoyu ile biliş üzerinde etki operasyonları yürütmek için kullanılabileceğini belirtti. Chen’e göre bu durum, Çin’in siyasi, kurumsal ve ideolojik güvenliğini doğrudan tehdit edebilir. 57

• Siber saldırılar ve altyapı: Yapay zekânın, sistemlerdeki açıkları bulmayı ve bu açıkları istismar eden zararlı yazılımlar geliştirmeyi kolaylaştırdığına dikkat çekti. Bu durumun siber saldırıların maliyetini ve teknik eşiğini düşürebileceği; kritik bilgi altyapısı ile toplumsal yönetim sistemleri açısından risk yaratabileceği ifade edildi. 31113

• İstihbarat toplama ve veri sızıntısı: Chen, yapay zekâ destekli web tarama, veri madenciliği ve profil çıkarma araçlarının yabancı istihbarat faaliyetlerini güçlendirebileceğini söyledi. Devlet sırları, ticari açıdan hassas veriler ve kişisel bilgilerin geniş ölçekte toplanması ya da sızdırılması ihtimaline vurgu yaptı. 37

Yapay zekâ güvenliği, Pekin için teknoloji egemenliğinden ayrı değil

Chen’in çerçevesinde mesele yalnızca modellerin yanlış veya zararlı kullanımını önlemek değil. Uluslararası yapay zekâ rekabeti; teknoloji ihracat kontrolleri, standartların belirlenmesi, tedarik zincirleri ve kapalı teknoloji ekosistemleri üzerinden yürüyen stratejik bir mücadele olarak görülüyor. 57

Bu nedenle Pekin açısından “AI güvenliği”, veri egemenliği, kritik altyapının korunması, teknolojik bağımlılığın azaltılması ve yabancı müdahale riskleriyle iç içe bir konu. Chen, gelişmiş ülkelerin ulusal güvenlik gerekçesiyle teknoloji kısıtlamaları uyguladığını, standartları şekillendirmeye veya tekelleştirmeye çalıştığını savundu. 57

Dario Amodei’nin yaklaşımı neden farklı?

Anthropic CEO’su Dario Amodei de yapay zekâda daha güçlü önlemler çağrısı yaptı; ancak odak noktası farklıydı. Amodei’ye göre temel tehlike, en gelişmiş modellerin güvenli biçimde hizalanamayacak, korunamayacak veya denetlenemeyecek kadar hızlı yetenek kazanması. 122

“We Must Pace the Frontier” başlıklı yazısında yapay zekâ çalışmalarının durdurulmasını istemedi. Bunun yerine, güvenlik önlemleri ve bağımsız testlerin model kabiliyetlerindeki artışı yakalayabilmesi için gelişim hızının yavaşlatılmasını önerdi. Planında şu unsurlar yer aldı: 122

• Öncü yapay zekâ şirketlerinde, çalışanlara benzer sürekli erişime sahip bağımsız değerlendiriciler;
• Demokratik ülkeler ve sektör şirketleri arasında ortak güvenlik taahhütleri;
• Uzun vadede, otoriter yönetimleri de kapsayacak daha geniş uluslararası iş birliği.

OpenAI CEO’su Sam Altman, çalışan düzeyinde erişime sahip bağımsız değerlendiriciler fikrini benimseyeceklerini söyledi. Elon Musk da Amodei’nin gelişim hızını dengeleme çağrısına kamuoyu önünde destek verdi. 101

Aynı risklere bakıyorlar, fakat farklı tehdit tanımları yapıyorlar

Pekin’in yaklaşımı devlet merkezli: siyasi istikrar, Komünist Parti otoritesi, ideolojik denetim, veri egemenliği, altyapı güvenliği ve yabancı teknolojik baskıdan korunma öncelikli.

Silikon Vadisi’nde öne çıkan öncü-model güvenliği yaklaşımı ise daha çok kabiliyet merkezli: yanlış hizalanmış veya yeterince korunmamış modellerin yıkıcı siber saldırıları, tehlikeli bilimsel kullanımları, zararlı otonom faaliyetleri ya da anlamlı insan denetiminin kaybını mümkün kılmasını önlemeye çalışıyor. 122

Yine de iki yaklaşım tamamen zıt değil. Her ikisi de siber istismar, casusluk, dezenformasyon ve askerî kullanım risklerini kabul ediyor. Asıl ayrım; güvenlik standartlarını kimin belirleyeceği, bu standartların stratejik teknoloji kısıtlamasına dönüşüp dönüşmeyeceği ve dış denetimin ulusal egemenlikle ne ölçüde bağdaşacağı noktasında ortaya çıkıyor.

ABD-Çin görüşmeleri açısından neden önemli?

ABD ve Çin’in eylül ortasında yapay zekâ güvenliğine özel bir görüşme yapması planlanıyordu. Reuters’a göre bu, Donald Trump’ın ikinci döneminde iki ülke arasında yalnızca AI güvenliğine ayrılmış ilk resmî ikili diyalog olacaktı. 4

Chen’in yazısı, Pekin’in gündeme yalnızca öncü modellerin hizalanması veya felaket riski başlıklarını değil; yabancı müdahale, veri güvenliği, kritik altyapı, standart belirlemede eşit söz hakkı ve teknoloji çevreleme politikalarına itiraz gibi konuları da taşımak isteyebileceğine işaret ediyor. 37

Bu yüzden tarafların sentetik medya dolandırıcılığı, yapay zekâ destekli siber saldırılar, olay bildirimleri veya askerî risk iletişimi gibi somut alanlarda uzlaşması; evrensel denetim kuralları ya da model kabiliyeti sınırları üzerinde anlaşmasından daha olası görünüyor. Washington’ın risk azaltma aracı saydığı bazı güvenlik tedbirleri, Pekin tarafından ABD’nin teknolojik üstünlüğünü koruma mekanizması olarak yorumlanabilir.