Geoffrey Hinton’ın yapay zekâ için kullandığı “Çernobil” benzetmesi, nükleer bir kaza tahmini değil. Nobel ödüllü bilgisayar bilimcisi, yapay zekânın büyük bir siber saldırıyı mümkün kılmasıyla elektrik altyapısının ağır zarar görebileceği ya da bir bankanın hack’lenmesi sonucu finans sisteminin yaklaşık bir hafta aksayabileceği senaryoları anlattı. Hinton’a göre böyle bir kriz yıkıcı olsa da atlatılabilir olabilir.
1
31
Hinton, benzer ölçekte bir olayın “bu yılın ilerleyen dönemlerinde ya da gelecek yıl” yaşanabileceğini söyledi. Röportajın yayımlandığı tarihe göre bu, 2026’nın sonları veya 2027 anlamına geliyor. Bu ifade Hinton’ın öngörüsü; olayın kesinlikle gerçekleşeceğini gösteren bir kanıt ya da doğrulanmış bir takvim değil.
5
7
15
“Çernobil” benzetmesi ne anlama geliyor?
Benzetme, felaketin fiziksel nedenine değil, yaratabileceği etkinin büyüklüğüne gönderme yapıyor. Hinton’ın örnekleri arasında elektrik sistemine yönelik büyük çaplı bir saldırı ve banka sistemlerinin hack’lenmesiyle finans düzeninin günlerce işlemez hâle gelmesi var.
1
5
31
Hinton’ın aktarılan sözlerine göre böyle bir olayın etkileri zamanla giderilebilir; ancak yaşanacak kriz, dünya liderlerinin yapay zekâ risklerini ciddiye almasını sağlayabilir.
5
31
Bazı haber özetlerinde Hinton’ın OpenAI ajanlarının Hugging Face sitesine yönelik girişimlerini, daha büyük bir olayın habercisi olabilecek Three Mile Island kazasına benzettiği de aktarılıyor.
13
15 Ancak bu ayrıntılar ikincil kaynaklardaki özetlere dayanıyor; mevcut kaynaklar arasında röportajın tam dökümü bulunmuyor.
Hinton neden yayımlanmadan önce denetim istiyor?
Hinton’ın önerisi, güçlü yapay zekâ modellerini kullanıma sunulduktan sonra ortaya çıkan zararlar veya davalar üzerinden değerlendirmek yerine, yayımlanmadan önce incelemek. İlaç denetimini örnek göstererek, şirketlerin modellerinin zarardan çok fayda sağlayacağına ilişkin güçlü istatistiksel kanıtları bağımsız bir kuruma sunması gerektiğini savunuyor.
34
Diğer haber özetlerinde Hinton’ın ileri düzey modeller için zorunlu testleri, bağımsız değerlendirmeleri ve ülkeler arasında ortak standartları desteklediği de belirtiliyor.
3
13 Ancak bu önerilerin kapsamı ve ayrıntıları mevcut özetlerde tutarlı biçimde açıklanmadığından, bunları kesinleşmiş bir düzenleme planı gibi sunmamak gerekiyor.
Uyarı, yapay zekânın kötü bir geleceği kaçınılmaz kıldığı anlamına gelmiyor
Hinton’ın açıklamalarında kaygı kadar ihtiyatlı bir iyimserlik de var. İnsanlığın yapay zekâyı hiç geliştirmemiş olmasının daha iyi olabileceğini söylemiş olsa da teknolojinin “harika bir geleceğe” yol açabileceğini ve kendisini bu konuda karamsar biri olarak görmediğini de belirtti.
14
39
Hinton, yapay zekâ risklerinin yönetilip yönetilemeyeceğinin önümüzdeki on yıl içinde anlaşılabileceğini düşünüyor. Bu, toplumun o süre içinde kesinlikle çökeceğini öngördüğü anlamına gelmiyor.
1
31 Uyarısının odağında, olası zararları önlemek için güçlü sistemlerin kullanıma sunulmadan önce değerlendirilmesi gerektiği fikri var.
34