Project Lily: İnsanların ChatGPT Sohbetlerini İncelemesi Neden Gizlilik Tartışması Yarattı?

404 Media’nın, OpenAI içindeki Project Lily adlı girişime ilişkin araştırması; insan geri bildirimi programının gerçek ChatGPT konuşmaları üzerinden yürütüldüğünü öne sürüyor. Gizlilik tartışmasının odağında yalnızca sohbetlerin modeli geliştirmek için kullanılabilmesi yok: Habere göre dış yükleniciler, kullanıcı adları kaldırılmış olsa bile son derece kişisel bağlam içerebilen konuşma içeriklerini okuyabiliyordu. 2

Project Lily’nin işleyişi nasıldı?

404 Media’nın incelediği sızdırılmış materyallere göre OpenAI, işe alım firmaları aracılığıyla yüzlerce yüklenici topladı. Bu kişiler gerçek kullanıcı istemlerini ve ChatGPT yanıtlarını inceliyordu; çalışmanın saatlik ücretinin 50 doların üzerinde olduğu bildirildi. İncelemeciler kullanıcının niyetini özetliyor, dört olası yanıtı karşılaştırıyor ve bunları 1’den 7’ye kadar puanlıyordu. 2

Bildirilene göre amaç, ChatGPT’nin yanıt kalitesini yükseltmek; dili daha az mekanik hale getirmek, modelin kendisini gereğinden fazla insan gibi sunmasını azaltmak ve aşırı onaylayıcı ya da pohpohlayıcı tutumunu sınırlamaktı. İnsan geri bildirimi, yapay zekâ geliştirmede bilinen bir yöntem; ancak bu sürecin gerçek tüketici konuşmalarıyla yürütüldüğü iddiası, gizlilik meselesini daha doğrudan hale getiriyor. 2

İncelemeciler neleri görebiliyordu?

404 Media, incelemecilere tam konuşma dizilerinin ve bazı durumlarda kullanıcı bellek özetinin gösterilebildiğini yazdı. Kullanıcı adları görünmüyordu; buna karşın mevcut bağlam yaklaşık konumu, mesleği, geçmiş ilgi alanlarını ve kişisel yaşam koşullarını açığa çıkarabiliyordu. 2

Bu ayrım önemli: Bir ismi kaldırmak, bir konuşmayı pratikte zararsız veya anonim kılmaya tek başına yetmiyor. İş, aile durumu, sağlık kaygıları veya ayırt edici bir yaşam olayı gibi ayrıntıların birleşimi, hesap sahibini doğrudan adlandırmasa bile hassas olabilir.

OpenAI’nin Privacy Filter aracı ne işe yarıyor?

OpenAI, Privacy Filter’ı metindeki kişisel olarak tanımlanabilir bilgileri tespit edip gizlemek üzere tasarlanmış bir model olarak tanımlıyor. 4647

Project Lily haberinde OpenAI, materyal yüklenicilere ulaşmadan önce kullanıcı adlarını çıkardığını ve otomatik bir filtre uyguladığını söyledi. Ancak 404 Media, bu önlemlere rağmen incelenen konuşmalarda hassas ayrıntıların kalabildiğini bildirdi. 2

Bu durum, otomatik maskelemenin sınırını gösteriyor. Bir sistem ad, e-posta adresi veya telefon numarası gibi açık tanımlayıcıları yakalayabilir; fakat dolaylı ve bağlama bağlı olarak tanımlayıcı hale gelebilen ayrıntıları güvenilir biçimde sınıflandırmak çok daha zor olabilir.

İncelemecilerden hangi sorunları işaretlemeleri isteniyordu?

Haberde anlatılan kılavuzlar, temel doğruluğun ötesine geçen değerlendirmeler içeriyor. Yüklenicilerden şu tür sorunları tespit etmeleri isteniyordu:

• Kalıplaşmış veya doğal durmayan “yapay zekâ dili”
• İnsan duygularına ya da yaşanmış deneyimlere sahipmiş gibi görünen ifadeler
• Aşırı onaylama, pohpohlama veya diğer aşırı uyumlu davranışlar
• Olgusal hatalar
• Kişisel bilgi ifşası
• Güvenlik sorunları 2

Aşırı uyumluluk meselesi özellikle önemli. Kullanıcıyı sürekli onaylamaya istekli bir model, destekleyici görünebilir; ancak yanlış, riskli veya zararlı varsayımlara gerektiğinde itiraz etmeyebilir. Habere göre Project Lily, bu davranışın ayarlanmasına da katkı sunmayı hedefliyordu. 2

“Bu aramızda kalsın” yazmak neden gizlilik ayarı değildir?

İstem içinde gizlilik talep etmek, hesabınızdaki veri denetimlerini değiştirmez. Bu, sohbetin içinde yer alan bir metindir; OpenAI’nin veri kullanım ayarlarını geçersiz kılan teknik bir talimat değildir.

Kişisel ChatGPT çalışma alanlarında OpenAI’nin belgelediği denetim “Herkes için modeli geliştir” seçeneğidir. Bu seçenek açıksa sohbetler modelleri geliştirmek için kullanılabilir; kapatıldığında ise OpenAI, yeni konuşmalar üzerinde eğitim yapmayacağını belirtiyor. 2130

Yeni ChatGPT sohbetlerinin model geliştirmede kullanımını nasıl kapatabilirsiniz?

Oturum açmış kullanıcılar için OpenAI’nin izlenecek yol olarak belirttiği adımlar şunlar:

1. ChatGPT’de profil menünüzü açın.
2. Ayarlar’ı seçin.
3. Veri Denetimleri bölümüne girin.
4. “Herkes için modeli geliştir” seçeneğini kapatın. 1921

Bu ayar tek bir cihaza değil, hesabınıza uygulanır. Seçeneği kapattıktan sonra mevcut sohbet geçmişiniz görünmeye devam edebilir; ancak OpenAI, yeni konuşmaların modellerini eğitmek için kullanılmayacağını söylüyor. 1930

OpenAI ayrıca gizlilik portalında “İçeriğim üzerinde eğitim yapma” seçeneğini sunuyor. Şirket, ChatGPT ve Codex görevleri için bu seçeneğin veya ürün içindeki Veri Denetimleri ayarının tek başına yeterli olduğunu belirtiyor. 21

Hangi ChatGPT planlarında varsayılan koruma var?

OpenAI’ye göre kişisel çalışma alanlarındaki Free, Plus ve Pro planlarında model eğitimi için veri paylaşımı varsayılan olarak açık; ancak kullanıcılar bunu kapatabiliyor. ChatGPT Business, Enterprise, Edu ve API Platformu için ise sağlanan girdi ve çıktıların varsayılan olarak model eğitimi amacıyla kullanılmadığı belirtiliyor. 23

Bu, kurumsal hesaplardaki her konuşmanın her amaç bakımından otomatik olarak risksiz olduğu anlamına gelmez. Kurumların gizli bilgileri herhangi bir yapay zekâ aracına girmeden önce çalışma alanı ayarlarını, saklama uygulamalarını, paylaşım denetimlerini ve kurum içi politikalarını ayrıca gözden geçirmesi gerekir.

Pratik sonuç

404 Media’nın aktardığı biçimiyle Project Lily, tüketici odaklı yapay zekâ sohbetlerinin kendiliğinden gizli bir iletişim kanalı gibi değil, veri kullanım ayarları olan bir hizmet gibi değerlendirilmesi gerektiğini hatırlatıyor. İsteminiz çok hassas kişisel, hukuki, tıbbi, finansal veya ticari sır niteliğinde bilgiler içeriyorsa, en güvenli ilk adım yeni bir konuşmaya başlamadan önce “Herkes için modeli geliştir” seçeneğini kapatmaktır. 221

Bu tercih, OpenAI’nin yeni konuşmaları model geliştirme için kullanmasını engeller. İstemin içine yazılmış bir gizlilik talebi değildir; ayrıca OpenAI belgeleri, daha önce gönderilmiş içeriği geri çekmeye yarayan bir yöntem olarak bunu tanımlamıyor. 2130