İşte kaputun altında gerçekte neler oluyor ve neden endişelenmelisiniz?
Dreaming V3, "açıkça kaydedilmiş anılar" listesini tamamen terk ediyor. Bunun yerine, sohbetler sona erdikten sonra devreye giren bir arka plan sentez motoru, kullanıcının tüm sohbet geçmişini tarıyor. Tercihleri, çalışma düzenlerini, kişisel kısıtlamaları ve diğer detayları "bunu hatırla" gibi bir komuta gerek kalmadan çıkarımsıyor .
Bu sistemin temel mimari değişiklikleri şunlar:
Kullanıcılar, Ayarlar menüsünden bir hafıza özetini görüntüleyebiliyor. Ancak bu özetin altında yatan ham veri katmanı doğrudan erişime açık değil . Bu durum, sistem hata yapmaya başladığında son derece kritik bir denetim boşluğu yaratıyor.
ZDNet muhabiri David Gewirtz, güncellenmiş hafızayı kapsamlı bir şekilde test etti ve zamanla biriken ciddi ve sistematik doğruluk sorunları buldu .
Gewirtz, Dreaming V3'ü teknik bir zafer olarak nitelendirirken, bir yandan da 'sorumsuz bir özellik' olduğunu ifade etti . Buradaki temel sorun, yapay zekanın sadece hata yapması değil; hatanın, daha sonra soracağınız her şey için görünmez ve kalıcı bir altyapıya dönüşmesi.
OpenAI'ın Hafıza SSS (Sıkça Sorulan Sorular) bölümünde sessiz sedasız yapılmış yıkıcı bir itiraf var: "Hafıza özeti en önemli detayları yakalamalıdır, ancak ChatGPT'nin sohbetlerinize dayanarak sizinle ilgili hatırladığı her şeyi içermeyecektir. ChatGPT'nin bir şeyi hatırlayıp hatırlamadığını bilmek istiyorsanız, sohbet sırasında ona sorun" .
Bu hafıza özeti sayfası, sentezlenmiş profilin insan tarafından okunabilir bir özetidir; modelin gerçekte neyi depoladığına ve kullandığına dair eksiksiz bir pencere değildir . Bu, kullanıcıların yapay zekanın kendileri hakkında "ne bildiğini" sadece ayarlar arayüzüne bakarak tam olarak denetleyemeyeceği anlamına geliyor
. Bunun için, yapay zekadan kendisi hakkındaki gizli varsayımlarını açıklamasını istemeniz gerekir ki bu da ne güvenilir ne de düzenli kullanım için pratik bir yöntem.
Hafızayı yönetme veya tamamen temizleme seçenekleri mevcut, ancak her birinin önemli kısıtlamaları var:
Bağlam çürümesi (context rot), büyük dil modellerinin bağlam pencereleri (bir nevi 'çalışma hafızaları') doldukça nasıl bozulduğunu anlatır; eski bilgiler yeni gelen içerikle yer değiştirir ve modelin çıktıları kullanıcının gerçek durumundan uzaklaşır . Dreaming V3, tam da bu sorunla mücadele etmek için tasarlanmıştı. OpenAI, bu sistemin "hafıza yüz milyonlarca kullanıcıya ve yıllara yayılan zaman dilimlerine uygulandığında gözlemlediğimiz güncellik, doğruluk ve ölçeklenebilirlik zorluklarının üstesinden gelmeyi" amaçladığını belirtiyor
.
Ancak OpenAI'ın inşa ettiği şey, çok daha sinsi bir varyantı ortaya çıkardı. Bağlam, artık sınırlı bir pencere dolduğunda en dıştan çürümeye başlamak yerine, merkezden dışa doğru çürüyor: Kalıcı kullanıcı profiline bir hata bir kez girdiğinde, bu hata bundan sonraki her cevabı sessizce bozuyor. Bu, geleneksel anlamda kaybolan bilgiden kaynaklanan bir bağlam çürümesi değil; bu, sistemin kesin doğru olarak kabul ettiği yanlış bilgiden kaynaklanan bir çürüme. Ve kullanıcılar bunu ne görebildiğine ne de kolayca silebildiğine göre, yapay zekalarının neden giderek kötüleştiğini asla anlayamayabilirler .
Comments
0 comments