Google’ın yaklaşık 90 kişilik yapay zekâ sorumluluk ekibi DeepMind’dan çıkarılıyor

Google, yapay zekânın risklerini ve toplumsal etkilerini inceleyen yaklaşık 90 kişilik AI Responsibility ekibini Google DeepMind’dan çıkararak şirketin Global Affairs birimine taşıma hazırlığında. Planlanan değişikliğin eylül ayının başında gerçekleşmesi bekleniyor. Global Affairs, Google’ın kamu politikası, hukuk ve hükümetlerle ilişkiler gibi şirket çapındaki işlevlerini kapsayan kurumsal yapı olarak öne çıkıyor. 53

Ekip ne yapıyordu?

AI Responsibility ekibi, en gelişmiş yapay zekâ sistemlerinin yalnızca teknik performansını değil, toplum üzerindeki olası etkilerini de araştırıyordu. İncelenen başlıklar arasında kimyasal, biyolojik, radyolojik ve nükleer materyallerin kötüye kullanımına ilişkin riskler ile sohbet robotlarıyla uzun süreli etkileşimin bazı kullanıcılar üzerindeki olası psikolojik etkileri bulunuyor. 5

Yeni düzenlemeyle ekip, sınır teknolojileri ve Gemini gibi modelleri geliştiren araştırma laboratuvarının doğrudan parçası olmaktan çıkacak.

Google neden böyle bir değişikliğe gidiyor?

Aktarılan gerekçe, yapay zekâ riskleri ve toplumsal etkiler üzerine çalışmaları politika, hukuk ve kamu kurumlarıyla ilişkiler gibi işlevlere daha yakından bağlamak. Bu adım, Google DeepMind’ın Google’ın ürün odaklı yapısına daha sıkı biçimde entegre edildiği ve şirketin Gemini modellerinin geliştirilmesini hızlandırmaya çalıştığı bir dönemde geliyor. 53

Yeniden yapılanmanın liderlik boyutu da var. Demis Hassabis, Google DeepMind’ın günlük CEO sorumluluklarını bırakarak birimin başkanlığına ve Alphabet’in baş bilim insanlığına geçti. DeepMind’ın günlük operasyonlarında ise daha fazla yetki Koray Kavukcuoğlu’na verildi. 1334

Reuters’ın aktardığına göre Google, bazı yapay zekâ ekiplerini kurumsal Google yapısına kaydırırken yöneticiler Gemini geliştirme sürecini hızlandırmaya çalışıyor. Bu süreç, bazı üst düzey çalışanların şirketten ayrılmasıyla da aynı döneme denk geliyor. 34

Çalışanlar neden bağımsızlık konusunda kaygılı?

Çalışanların temel endişesi, güvenlik ve sorumluluk çalışmalarının model geliştiren laboratuvardan uzaklaştırılmasının ekibin etkisini azaltabilmesi. Araştırmacılar, Global Affairs çatısı altında:

• yeni modellerin geliştirme kararlarına daha uzak kalmaktan,
• rahatsız edici veya ticari açıdan istenmeyen bulguları gündeme taşımanın zorlaşmasından,
• araştırma sonuçlarını yayımlama ve riskleri üst yönetime iletme konusunda daha fazla kurumsal baskıyla karşılaşmaktan

korkuyor. 5

Bunlar, kurum içinden aktarılan çalışan endişeleri. Şu ana kadar bu kısıtlamaların fiilen uygulamaya konulduğunu gösteren bir kanıt bulunmuyor.

Ekip hangi kaynak ve yetkileri koruyacak?

Kamuya yansıyan bilgilere göre ekip, yapay zekâ riskleri ve toplumsal etkiler üzerine çalışma sorumluluğunu sürdürmeye devam edecek. Ancak ekibin yeni yapıda kaç kişiden oluşacağı, modellere erişiminin nasıl düzenleneceği, araştırmalarını yayımlama özgürlüğünün korunup korunmayacağı, bütçesinin ne olacağı ve riskleri tırmandırma yetkisinin nasıl işleyeceği konusunda kapsamlı ve bağlayıcı bir çerçeve açıklanmış değil. 5

Bu nedenle ekibin hangi pratik güvenceleri koruyacağını kesin biçimde söylemek için yeterli kanıt yok. Aynı şekilde, ekibin modellerin kullanıma sunulmasını engelleme yönündeki herhangi bir resmî yetkisinden tamamen mahrum bırakıldığı sonucuna varmak da mevcut bilgilerle mümkün değil. 5

DeepMind’da hangi güvenlik çalışmaları kalacak?

Model davranışı, mahremiyet, güvenlik ve teknik yapay zekâ güvenliği gibi operasyonel önlemler üzerinde çalışan diğer DeepMind ve Google ekipleri faaliyetlerini sürdürecek. Böylece iki çalışma alanı arasındaki ayrım daha belirgin hale gelecek:

• DeepMind ve ürün geliştirme ekipleri: Model davranışı, teknik güvenlik, mahremiyet ve güvenlik kontrolleri. 67
• Global Affairs kapsamındaki çalışmalar: Yapay zekânın daha geniş toplumsal etkileri, yönetişim, politika ve kamu kurumlarıyla ilişkiler. 53

Bu ayrım, güvenlik uzmanlığını şirket genelindeki politika ve uygulama kararlarıyla daha iyi koordine edebilir. Ancak güvenlik araştırmacılarının modelleri geliştiren ekiplerle yakın temasını ve bağımsız bir iç denetçi olarak algılanmasını da zayıflatabilir.

Daha geniş anlamı ne?

Bu hamle, Google’ın yapay zekâ güvenliği çalışmalarını tamamen terk ettiği anlamına gelmiyor. Daha çok, büyük yapay zekâ laboratuvarlarının karşı karşıya olduğu temel yönetişim ikilemini görünür kılıyor: Şirketler, güvenlik uzmanlarının en gelişmiş modellerin tasarımını etkileyebilecek kadar sürece yakın olmasını istiyor; aynı zamanda bu uzmanlığı hukuk, kamu politikası ve ürünlerin piyasaya sunulmasıyla ilgili kararların yanında daha merkezi bir yapıya yerleştiriyor. 53

Bu model, şirket genelinde daha tutarlı politikalar oluşturulmasına ve düzenleyici kurumlarla iletişime yardımcı olabilir. Fakat ekiplerin model geliştirme süreçlerine erişimi, araştırma sonuçlarını yayımlama hakları ve bulguları açık biçimde üst yönetime taşıma ya da sürüm incelemesi talep etme yetkileri korunmazsa, şirket içindeki eleştirmenlerin hem algılanan hem de fiilî bağımsızlığı zayıflayabilir. 53

Hassabis’in rol değişikliği, DeepMind’ın daha geniş kurumsal entegrasyonu, Gemini yarışındaki hız baskısı ve yetenek kayıpları birlikte değerlendirildiğinde, Google’ın önceliğinin yalnızca güvenli model geliştirmek değil, bunu daha hızlı ve ürün odaklı bir organizasyon içinde yapmak olduğu görülüyor. Asıl soru ise güvenlik ekibinin hangi birimde bulunduğundan çok, riskleri tespit ettiğinde ne kadar erişime, şeffaflığa ve kararları etkileyebilecek yetkiye sahip olacağı.