Altman ve Amodei’nin yapay zekâ-kanser ayrışması: Daha büyük vizyon mu, önce kanıt mı?

“Yapay zekâ kanseri iyileştirecek” sözü, yapay zekâya dair iyimser anlatının en sık kullanılan kısa formüllerinden biri hâline geldi. Ancak OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei arasındaki ayrım, tıptaki ilerlemenin değerli olup olmadığıyla ilgili değil. Esas soru şu: Bu vaat kamuoyu için neden tek başına ikna edici değil?

Altman’a göre sorun, vaadin fazla dar kalması. Amodei’ye göre ise sorun, henüz kanıtlanmamış olması.

Ortak nokta: Kanser vaadi tek başına yeterli değil

İki yönetici de “kanseri iyileştirmek” ifadesinin yapay zekâya dair toplumsal tartışmayı tek başına bitiremeyeceği görüşünde.

Altman, teknoloji sektörünün yapay zekânın olumlu tarafını anlatmakta çok kötü iş çıkardığını söylüyor. Ona göre kanseri iyileştirmek elbette harika olurdu; fakat hedef yalnızca bu kadar olmamalı. Yapay zekâ, gücü küçük bir kurum grubunda toplamak yerine insanların yaratıcılığını, girişim kurma kapasitesini ve kendi kararlarını alma imkânını artırmalı. 23

Amodei’nin itirazı daha sert bir doğrulama ölçütü getiriyor. “Yapay zekâ kanseri iyileştirecek” ifadesini, birçok kişinin yanıltıcı bulduğu bir klişe olarak nitelendiriyor. Ona göre gösterişli ve pozitif bir iletişim kampanyası, daha derindeki güven krizini çözemez. Sektörün, insanların açıkça görebileceği somut faydalar üretmesi gerekir; kanseri gerçekten iyileştirmek de bu ölçütün en çarpıcı örneğidir. 49

Altman’ın yaklaşımı: Faydayı daha geniş ve kişisel kılmak

Altman’ın itirazı esas olarak kapsamla ilgili. Bir tıbbi atılım toplum için son derece değerli olabilir; ancak yapay zekânın insanların gündelik hayatında neyi değiştireceği sorusunu tek başına yanıtlamaz.

Onun savunduğu anlatının merkezinde, güçlü araçların kullanıcılara yayılması var: İnsanların üretmesini, şirket kurmasını, bilimsel veya teknik çalışmalar yürütmesini sağlayan sistemler. Bu çerçevede mesele yalnızca kamuya gelecekte sunulacak büyük bir keşif değil; insanların bu sistemleri doğrudan kullanarak daha fazla özerklik kazanıp kazanmayacağı. 29

Bu nedenle Altman’ın şüpheciliğe yanıtı sadece “tedaviyi bekleyin” değil. Yapay zekânın daha geniş faydasının anlaşılır hâle gelmesi ve teknolojinin insanın hareket alanını daraltmak yerine genişlettiğinin gösterilmesi gerektiğini savunuyor. 23

Amodei’nin yaklaşımı: Büyük vaat, kanıtın yerini tutmaz

Amodei’ye göre ne daha şık bir pazarlama dili ne de daha kapsamlı bir gelecek vaadi güvensizliği tek başına giderir. İnsanların arkasında güvenilir, gerçekleşmiş sonuçlar görmediği büyük iddialar ikna gücünü kaybeder.

İki yaklaşım arasındaki gerilim burada ortaya çıkıyor: Altman, kanser söylemini yeterince geniş bulmuyor; Amodei ise yeterince temellendirilmiş bulmuyor. Yaratıcı araçlar, girişimcilik, bilimsel ilerleme ve eğitim gibi daha uzun bir fayda listesi Altman’ın tezini güçlendirebilir. Ancak bu faydaların görünür, adil biçimde paylaşılmış ve doğrulanabilir olması gerekir. Aksi hâlde, kamuoyundan yeni bir kapsamlı projeksiyona güvenmesi istenmiş olur; bu da Amodei’nin güven krizi endişesini büyütebilir. 249

Kanser neden özellikle riskli bir vaat?

Yapay zekâ; hedef keşfi, molekül tasarımı, tanı ve klinik iş akışları dâhil olmak üzere onkolojinin birçok alanında araştırılıyor. Fakat hesaplamalı aşamadaki başarı ya da erken keşif sürecindeki hız, bir tedavinin hastaların sonuçlarını iyileştirdiğinin kanıtı değildir.

Onkolojide yapay zekâ kullanımını inceleyen çalışmalar; veri entegrasyonu, modellerin yorumlanabilirliği, adalet, kliniğe aktarım ve düzenleyici denetim gibi önemli sorunlara işaret ediyor. Ayrıca birçok modelin geriye dönük veri kümelerinde güçlü sonuç vermesine karşın, ileriye dönük klinik doğrulamadan yoksun olduğu belirtiliyor. 17

İlaç geliştirme süreci yavaş ve belirsizliğini koruyor: Aday bir molekülün belirlenmesinden pazarlama onayına kadar geçen tipik süre yaklaşık 10 ila 15 yıl. 1718 Yapay zekâ destekli ilaç keşfine ilişkin güncel değerlendirmeler de yapay zekânın erken aşamaları hızlandırabileceğini, ancak bu hızlanmanın geç aşama klinik başarıya düzenli biçimde dönüşmediğini vurguluyor. Tekrarlanabilirlik, veri şeffaflığı, düzenleme ve gerçek yaşamda doğrulama hâlâ başlıca sınırlamalar arasında. 22

Elbette kliniğe aktarım yönünde umut verici işaretler var. Yapay zekâ destekli yöntemlerle geliştirilen bazı bileşikler klinik değerlendirmeye ilerledi. Ancak bu çalışmalar tek başına kesin etkinliği, hele ki geniş kapsamlı bir kanser tedavisini kanıtlamıyor. 19 Eldeki veriler, yapay zekânın araştırma ve klinik uygulamalarda yararlı bir araç olabileceğine dair temkinli iyimserliği destekliyor; “kanseri iyileştirme” için güvenilir bir takvimi değil.

Güven meselesi, maliyetin kime yüklendiğiyle de ilgili

Bu tıbbi vaat daha geniş bir toplumsal zeminde değerlendiriliyor. İnsanlar yalnızca uzaktaki bilimsel kazanımlara bakmıyor; istihdam, yanlış bilgi, mahremiyet, güvenlik, eğitim ve ileri yapay zekâ sistemlerini çalıştıracak altyapının yükü gibi daha yakın soruları da hesaba katıyor.

Anketler, vaat edilen faydalarla görünür maliyetler arasındaki mesafenin bir bölümünü gösteriyor. Reuters/Ipsos araştırmasında ABD’de katılımcıların yalnızca yaklaşık üçte biri, yapay zekâyı destekleyen veri merkezlerinin hızlı inşasını onayladı; yüzde 77’si ise bu yatırımların elektrik faturalarını artırmasından endişe duyduğunu belirtti. 34 Küresel bir raporda da katılımcıların yüzde 54’ü yapay zekâya güvenme konusunda temkinliydi; öne çıkan endişeler arasında siber güvenlik, mahremiyet, yanlış bilgi, iş kaybı, beceri aşınması ve daha geniş toplumsal etkiler yer aldı. 38

Bu bulgular, insanların her yapay zekâ kullanımını reddettiği anlamına gelmiyor. Ancak enerji tüketimi, su ihtiyacı, hane faturaları, işler veya teknoloji üzerindeki denetim konusunda bugünden soru soran topluluklar için, uzaktaki bir tıbbi dönüşüm vaadinin yeterli bir yanıt olmadığını gösteriyor.

Yapay zekâ için daha inandırıcı kamuoyu anlatısı ne olurdu?

Altman ve Amodei farklı eksikliklere işaret ediyor; fakat bu görüşler daha yüksek bir standartta birleşebilir.

Daha inandırıcı bir yapay zekâ anlatısı şunları gerektirir:

• Gelecek ihtimallerini değil, somut faydaları göstermek: İddialar; bağımsız araştırmacıların, düzenleyicilerin, kullanıcıların ve etkilenen toplulukların değerlendirebileceği sonuçlara bağlanmalı.
• Keşifle klinik faydayı ayırmak: Hipotez üretimini veya molekül tasarımını hızlandırmak anlamlıdır; ancak bu, güvenli, onaylı ve etkili tedaviyle aynı şey değildir.
• Takvimleri ve belirsizliği açıkça ifade etmek: Tıbbi araştırmalar, etkileyici demolarla ya da daha büyük işlem gücü bütçeleriyle ikame edilemeyecek doğrulama süreçleri gerektirir.
• Kullanıcılara gerçek hareket alanı tanımak: Altman’ın yaratıcılık ve girişimcilik vurgusu, erişim ve faydalar geniş kesimlere yayıldığında daha güçlü bir anlam kazanır. 29
• Zararları ve altyapı maliyetlerini hesaba katmak: Güven; güvenlik, çalışma hayatı, mahremiyet ve enerji gibi yerel etkilerin bedelini kimin ödediğine dair açıklık gerektirir. 3438

Sonuç olarak en güçlü mesaj ne “Bize güvenin, yapay zekâ kanseri iyileştirecek” ne de “Yapay zekâ herkesi daha yaratıcı yapacak” olur. Daha inandırıcı olan; bağımsız biçimde kontrol edilebilen faydalar, dürüstçe açıklanan sınırlar, sorumlu uygulama ve yapay zekânın maliyetini üstlenen insanlarla topluluklara adil yaklaşımın birlikte sunulmasıdır.