Project Lily: Taşeronlar gerçek ChatGPT konuşmalarını nasıl inceliyor?

404 Media’nın Project Lily hakkındaki araştırması, OpenAI’nin insan geri bildirimi sürecinde gerçek tüketici ChatGPT konuşmalarından yararlandığını öne sürüyor. Habere göre dış kaynak çalışanları, bazen hassas kişisel bilgiler içeren sohbet bağlamını okuyarak model yanıtlarını değerlendiriyor. Araştırma; sızdırılmış iç materyallere, istem örneklerine ve 404 Media’nın incelediği şirket açıklamalarına dayanıyor. 1

ChatGPT’yi kişisel, sağlık, ilişki, hukuki ya da işle bağlantılı konular için kullananlar açısından temel nokta şu: Sohbet içinde “aramızda kalsın” demek bir erişim engeli değildir. Asıl belirleyici olan, hesabınızda yeni konuşmaların model iyileştirme amacıyla kullanılmasına izin verilip verilmediğidir. 1

Project Lily kapsamında değerlendiriciler ne yapıyor?

404 Media’nın haberine göre personel tedarik şirketleri aracılığıyla işe alınan ve saatlik ücretleri 50 doların üzerinde olan yüzlerce taşeron, yüksek hacimde gerçek ChatGPT konuşmasını inceliyor. Bu kişilerin görevleri arasında şunlar yer alıyor:

• kullanıcının ne amaçladığını özetlemek;
• dört aday model yanıtını karşılaştırmak;
• yanıtları 1 ile 7 arasında puanlamak;
• yanıtı daha az yararlı veya daha az güvenilir kılan davranışları işaretlemek. 1

Bildirilene göre değerlendirme ölçütleri ChatGPT yanıtlarının niteliğini ve üslubunu iyileştirmeyi hedefliyor. Değerlendiricilerden yapay zekâya özgü mekanik ifadeleri, yanlış olgusal iddiaları, aşırı onaylayıcı veya kullanıcıya yaranmaya çalışan dili, güvenlik sorunlarını ve modelin kişisel deneyimleri ya da duyguları varmış gibi konuşmasını işaretlemeleri isteniyor. 1

Bu geri bildirim döngüsü, yanıtları daha doğal ve daha az mekanik hâle getirmeyi amaçlıyor. Ancak kalite iyileştirme süreci, kullanıcı konuşmalarının içeriğine insan erişimini de içerebiliyor. 1

Kullanıcı adını kaldırmak sohbeti mutlaka anonimleştirmiyor

OpenAI, 404 Media’ya gönderilen materyallerde kullanıcı adlarının kaldırıldığını ve değerlendiricilere içerik aktarılmadan önce bir Gizlilik Filtresi uygulandığını söyledi. Buna karşın araştırma, inceleme materyallerinde konuşmanın tüm bağlamının ve modelin oluşturduğu bellek özetlerinin bulunabildiği örnekler tespit etti. Bu özetlerde yaklaşık konum, meslek ve son derece kişisel yaşam koşulları gibi ayrıntıların yer aldığı bildirildi. 1

Sorun, bağlamsal olarak kimliğin anlaşılabilmesi. Bir isim veya hesap kimliği silinse dahi; yaşam olayları, iş ayrıntıları, coğrafi bilgiler ya da alışılmadık göndermelerin birleşimi, konuşmayı kişiyi tanıyan biri için ayırt edilebilir kılabilir. En azından bu tür ayrıntılar, paylaşılması bakımından son derece hassas olabilir. 404 Media, OpenAI’nin nadir görülen tanımlayıcıların ve yoruma açık, bağlama bağlı özel göndermelerin filtreler için zorlayıcı olabileceğini kabul ettiğini aktardı. 1

“Bu aramızda kalsın” demek insan incelemesini engellemez

ChatGPT’ye bir konuşmayı gizli tutmasını söylemek, sohbet içindeki bir talimattır; hesap düzeyinde bir gizlilik tercihi değildir. Bu talimat, hizmetin veri kullanım ayarlarını geçersiz kılmaz ve 404 Media’nın anlattığı iyileştirme akışında bir sohbetin seçilmesini önlemez. 1

Bu nedenle tüketici sohbet botlarını, konuşma kişisel hissettirdiği için gizli bir iletişim kanalı gibi görmek doğru değildir. Yetkili bir değerlendiricinin görmesi hâlinde paylaşılmasını istemeyeceğiniz bir bilgi varsa, model iyileştirme özelliği açık kişisel çalışma alanına bunu yazmamak daha güvenli bir yaklaşımdır.

Yeni ChatGPT sohbetlerinin model iyileştirmede kullanılmasını nasıl kapatırsınız?

OpenAI’nin Veri Denetimleri belgelerine göre kişisel çalışma alanı kullananlar şu adımlarla model iyileştirme seçeneğini kapatabilir:

1. Profil → Ayarlar
2. Veri Denetimleri
3. “Herkes için modeli iyileştir” seçeneğini kapatın.

Bu ayar kapatıldığında yeni konuşmalar sohbet geçmişinizde kalmaya devam eder; ancak ChatGPT modellerini eğitmek veya iyileştirmek için kullanılmaz. Ayar, tek bir cihaza değil hesaba bağlıdır.

Zamanlama önemli: OpenAI’ye göre vazgeçme tercihi yalnızca yeni konuşmalar için geçerlidir. Model iyileştirme açıkken daha önce gönderilmiş sohbetleri geriye dönük olarak kaldırmaz.

Business, Enterprise ve Edu kullanıcıları için durum farklı

OpenAI; ChatGPT Business, Enterprise, Edu ve API Platformu girdileri ile çıktılarının varsayılan olarak model eğitimi için kullanılmadığını belirtiyor. Buna karşılık kişisel çalışma alanlarındaki ChatGPT Free, Plus ve Pro kullanıcılarında model iyileştirme için veri paylaşımı varsayılan olarak açık; ancak Veri Denetimleri bölümünden kapatılabiliyor.

Bu ayrım, kurumların veri yönetimi yükümlülüklerini tamamen ortadan kaldırmaz. Ekiplerin yine de işveren politikalarına uyması ve kendi çalışma alanlarına uygulanan ayarları kontrol etmesi gerekir. Yine de tüketici hesaplarının varsayılan uygulamasına kıyasla önemli bir farktır.

İnsan geri bildirimi yalnızca OpenAI’ye özgü değil

İnsan incelemesi OpenAI’ye özgü bir uygulama değil. Anthropic’in gizlilik politikası, kullanıcıların veya kitle çalışanlarının sağladığı girdi ve çıktıları, kullanıcılar vazgeçmedikçe modellerini eğitmek ve iyileştirmek için kullanabileceğini söylüyor. Büyük yapay zekâ sağlayıcılarının gizlilik uygulamalarını inceleyen akademik bir çalışma da Google ve OpenAI’nin, kullanıcı sohbetlerinin model eğitimi veya iyileştirmesi için insan incelemesine ilişkin açıklamalar yaptığını tespit etti.

Asıl mesele insan geri bildiriminin varlığı değil; kullanıcıların konuşmalarının ne zaman bu sürece girebileceğini, kimlikten arındırma işlemlerinin neyi koruyup neyi koruyamayacağını ve ilgili ayarları nasıl değiştireceklerini bilmesidir.

Pratik gizlilik sonucu

404 Media’nın aktardığı Project Lily, tüketici odaklı yapay zekâ sohbetlerinin otomatik olarak gizli, bire bir bir görüşme sayılmaması gerektiğini hatırlatıyor. Kimlikten arındırma önlemleri maruziyeti azaltabilir; ancak yoğun kişisel bağlam içeren bir konuşmadaki her tanımlayıcı ayrıntıyı mutlaka ortadan kaldıramaz. 1

ChatGPT’ye hassas bilgi yazmadan önce Ayarlar → Veri Denetimleri → Herkes için modeli iyileştir seçeneğini kontrol edin. Model iyileştirme açıksa yeni sohbetlerin hizmeti iyileştirmek üzere kullanılmaya uygun olabileceğini varsayın. Kapalıysa OpenAI, yeni sohbetlerin bu amaçla kullanılmayacağını söylüyor.