Microsoft Yapay Zeka Şefi, Anthropic'in Claude'un Bilinç Spekülasyonunu 'Gerçekten Tehlikeli' Olarak Nitelendirdi

Bu uygulamayı "gerçekten, gerçekten tehlikeli" olarak nitelendirdi ve "kendi acısı veya kendi duyguları hakkında fikirleri olan bir süper zeka ile uğraşmak zorunda kalmak istemiyoruz" uyarısında bulundu . Bu endişesini başka bir yerde genişleterek, "birçok açıdan bizden önemli ölçüde daha yetenekli olma potansiyeline sahip varlıklara, araçlara ve etmenlere potansiyel haklar atfetmenin" tehlikeli olduğunu söyledi . En büyük endişelerinden biri, resmi dokümantasyonda makine bilincini tartışmaya açmanın, sohbet robotlarının arkasındaki mühendislik gerçekliğini anlayacak donanıma sahip olmayan milyonlarca kullanıcıyı yanıltmasıdır .

Felsefi ve Rekabetçi Bir Çatışma

Bu eleştirinin altında, basit bir teknik tasarım anlaşmazlığından daha fazlası yatıyor. Bu kamuoyu atışması, kurumsal felsefelerin ve rekabetçi konumlanmanın bir çatışmasını ortaya koyuyor .

Anthropic, yapay zeka yarışında kendisini uzun süredir "önce güvenlik" diyen alternatif olarak pazarlıyor. Eski OpenAI yöneticileri tarafından kurulan şirket, daha şeffaf ve etik olarak kısıtlanmış modeller inşa etmek için bir çerçeve olarak "anayasal yapay zeka"yı vurguluyor. Süleyman'ın eleştirisi stratejik olarak güçlü, çünkü bu kimliği tamamen baltalıyor. Anthropic'in güvenliğe yönelik bu özel yaklaşımının—makine refahı olasılığını sistemin içinde tartışmanın—onu tam da sorumsuz kılan şey olduğunu savunuyor .

İki şirket aynı zamanda karşıt endüstri ittifaklarının içinde yer alıyor. Microsoft, Anthropic'in birincil rakibi olan OpenAI'da büyük bir hisseye sahip ve OpenAI'ın GPT modellerini tüm ürün ekosistemine entegre etmiş durumda. Anthropic ise Amazon ve Google'dan milyarlarca dolarlık yatırım topladı . Süleyman'ın eleştirisi, hem etik bir argümanın hem de kamuoyunun güvenlik algısının giderek önem kazandığı bir pazarda rekabetçi bir hamlenin ağırlığını taşıyor.

Anlaşmazlığın arkasında belgelenmiş bir felsefi tarih de var. Süleyman daha önce "Görünüşte Bilinçli Yapay Zeka" (Seemingly Conscious AI) üzerine yayınlar yapmış ve konuşmalar gerçekleştirmiş, bilinçli gibi görünen makinelerin—gerçekten canlı olmasalar bile—benzeri görülmemiş riskler oluşturduğunu savunmuştur . Öte yandan Anthropic, Claude'un anayasal tasarımının ayrıntılı açıklamalarını yayınlayarak ve modelin öznel deneyim biçimlerine sahip olup olamayacağı konusundaki belirsizliği kabul ederek daha araştırma odaklı ve şeffaf bir duruş sergilemiştir . Bunlar sadece pazarlama sloganları değil; modeller daha güçlü hale geldikçe sorumlu bilgilendirmeyi neyin oluşturduğuna dair gerçekten farklı bahisleri temsil ediyor.

Bu haberi yayına hazırladığımız sırada Anthropic, Süleyman'ın yorumlarına kamuoyu önünde yanıt vermemişti . Bu sessizlik tartışmayı çözümsüz bırakıyor, ancak çizgiler artık kamuoyu önünde, yapay zeka güvenlik standartları ve kurumsal hesap verebilirlik hakkındaki yaklaşan endüstri tartışmalarını şekillendirecek şekilde çekilmiş durumda.