OpenAI’nin Private Safety Processing sistemi ne vaat ediyor?

OpenAI, uygun API müşterileri için Private Safety Processing adlı yeni bir güvenlik mimarisini önizlemeye açıyor. Sistem, Zero Data Retention (ZDR) kullanan kuruluşlarda müşteri içeriğini OpenAI personeline açmadan, birden fazla bağlantılı etkileşimde ortaya çıkan kötüye kullanım kalıplarını tespit etmeyi amaçlıyor.

Bu yaklaşımın çıkış noktası şu: Gelişmiş yapay zekâ modelleri artık daha uzun ve dağınık iş akışlarında kullanılabiliyor. Zararlı bir amaç; farklı hesaplara, oturumlara veya isteklere bölündüğünde tek tek incelenen hiçbir etkileşim açık bir tehdit göstermeyebilir. Private Safety Processing, ZDR korumalarını sürdürürken bu daha geniş bağlamı yakalamayı hedefliyor.

Private Safety Processing nasıl çalışıyor?

Mevcut ZDR güvenlik sistemleri istekleri ve yanıtları ayrı ayrı değerlendiriyor. OpenAI’nin önizlemesi ise otomatik sistemlerle birden fazla etkileşim arasındaki ilişkileri inceleyecek şekilde tasarlanmış. Amaç; güvenlik önlemlerini aşmaya yönelik koordineli girişimler veya kötü amaçlı yazılım geliştirme adımlarının farklı isteklere bölünmesi gibi olası kötüye kullanım örüntülerini belirlemek.

Buradaki kritik ayrım analiz ile saklama arasındaki fark. Private Safety Processing, güvenlik amacıyla birbiriyle ilişkili etkinlikleri analiz etmek üzere tasarlanıyor; ancak OpenAI, sistemin temel istemleri ve model yanıtlarını kendi personeline açmadığını belirtiyor.

OpenAI, ZDR dağıtımları için iki olası veri kontrolü düzeninden söz ediyor:

• Müşteri içeriği, müşterinin kontrol ettiği altyapıda kalabiliyor.
• OpenAI’nin barındırdığı depolama seçeneğinde içerik, OpenAI personelinin kontrol etmediği müşteri anahtarlarıyla şifrelenebiliyor.

Her iki modelde de otomatik sistemler potansiyel kötüye kullanımı tespit edip sınırlı bir güvenlik sinyali döndürebiliyor; temel istemler veya yanıtlar OpenAI’ye açılmıyor.

OpenAI bir tehdit tespit ettiğinde ne alıyor?

Önizlemenin açıklamasına göre OpenAI’ye, etkinliğin türünü belirten dar kapsamlı bir uyarı iletiliyor. OpenAI’nin sistem şemasında bu çıktı, konuşmanın kendisi yerine bir uyarı kategorisi ve önem derecesi olarak gösteriliyor.

Bu sinyal güvenlik veya yaptırım kararlarını destekleyebilir; ancak OpenAI’ye tüm oturum geçmişinin gönderilmesi anlamına gelmiyor. İşleyiş kabaca şöyle:

1. Otomatik sistemler, bağlantılı etkileşimlerde potansiyel olarak zararlı bir örüntü arıyor.
2. Örüntü belirli bir risk eşiğini aşarsa sınırlı bir güvenlik sınıflandırması üretiliyor.
3. OpenAI’ye istemler, çıktılar veya konuşma dökümü yerine bu sınıflandırma iletiliyor.
4. Müşteri, temel etkinliği kendi ortamında inceleme imkânını koruyor.

Bu özellik hâlâ önizleme aşamasında. Bu nedenle uygulamanın ayrıntıları, risk eşikleri ve hatalı tespitlerde izlenecek prosedürler kurumsal müşteriler açısından belirleyici olacak. OpenAI, daha geniş bir kullanıma sunum ve teknik bir white paper yayımlamayı Eylül 2026’da planladığını söyledi.

OpenAI çalışanları işaretlenen konuşmayı neden normalde göremiyor?

Bir güvenlik işareti, OpenAI çalışanlarına otomatik olarak konuşma erişimi vermiyor. OpenAI, tanımlanan ZDR düzenlerinde müşteri içeriğini saklamadığını; OpenAI tarafından barındırılan depolama modelinde ise müşteri kontrolündeki şifre çözme anahtarlarına sahip olmadığını belirtiyor.

Müşteriler; bir yaptırım kararına itiraz etmek, meşru kullanımı açıklamak veya doğrulanmış bir kötüye kullanım soruşturmasına yardımcı olmak isterse ilgili materyali gönüllü olarak paylaşabiliyor. Böyle bir paylaşım yapılmadığı sürece OpenAI’nin elindeki bilgi, makine tarafından üretilen sınırlı güvenlik sinyaliyle sınırlı kalıyor.

Bu model, müşterinin kontrolündeki kanıt ile sağlayıcıya iletilen risk sinyali arasında bir ayrım oluşturuyor. Böylece sağlayıcının işlemesi gereken hassas veri miktarı azalırken, yalnızca istekleri tek tek inceleyen filtrelerin kaçırabileceği bağlantılı risk örüntülerini tespit etmek mümkün olabilir.

Önizlemeyi hangi müşteriler test ediyor?

OpenAI; Glean, Databricks, Abridge ve Microsoft’u önizlemeyi şekillendiren veya test eden müşteriler arasında gösterdi. Diğer haberlerde de Microsoft ve Databricks erken test müşterileri arasında anılıyor.

Özellik, genel tüketici ayarı olarak sunulmuyor. Daha çok, istemleri ve çıktıları üzerindeki sıkı kontrolü korurken gelişmiş modellere erişmek isteyen ve ZDR kullanımı için uygun API dağıtımlarına sahip kuruluşları hedefliyor.

OpenAI ve Anthropic’in güvenlik tercihleri nasıl ayrışıyor?

OpenAI’nin yaklaşımı, müşteri içeriğine sağlayıcı erişimini en aza indirirken kötüye kullanımı tespit etmeye öncelik veriyor. Anthropic’in Covered Models politikası ise farklı bir tercih yapıyor: Bu kapsamdaki modellere gönderilen istemler ve modellerin ürettiği yanıtlar, güvenlik çalışmaları ve kontrollü inceleme amacıyla 30 gün saklanıyor.

Anthropic’in belgelerine göre 30 günlük zorunluluk, Mythos sınıfı modeller de dâhil olmak üzere Covered Models kapsamındaki ürünler için geçerli ve bu modeller ZDR kapsamında sunulmuyor. Şirket ayrıca, müşterinin açık izni olmadan saklanan verilerin model eğitimi için kullanılmadığını belirtiyor.

Operasyonel fark şöyle özetlenebilir:

• OpenAI Private Safety Processing: Bağlantılı etkileşimler otomatik olarak analiz ediliyor; OpenAI’ye, önizleme açıklamasına göre temel içerik yerine sınırlı bir güvenlik sinyali iletiliyor.
• Anthropic’in Covered Models politikası: İstemler ve yanıtlar, güvenlik çalışmaları ve kontrollü inceleme için 30 gün saklanıyor.

Her iki modelde de müşteri yönetişiminin önemi ortadan kalkmıyor. Kuruluşların hassas iş yüklerinde kullanmadan önce uygunluk şartlarını, dağıtım mimarisini, erişim kontrollerini, saklama hükümlerini, bölgesel gereklilikleri, itiraz sürecini ve sözleşmesel taahhütleri doğrulaması gerekiyor.

Düzenlemeye tabi sektörler için fark neden önemli?

Finans, sağlık ve hukuk kuruluşları; sözleşmesel gizlilik yükümlülüklerine, mahremiyet kontrollerine, mesleki sırlara veya sektöre özgü düzenlemelere tabi bilgiler işleyebiliyor. Bir yapay zekâ sağlayıcısının istemleri saklama ve inceleme kapasitesi bu nedenle veri minimizasyonu değerlendirmelerini, kurum içi onay süreçlerini, denetim tasarımını ve tedarikçi risk analizini etkileyebilir.

Bu, 30 günlük saklama politikasının otomatik olarak yasak olduğu veya ZDR’nin tek başına mevzuata uyum sağladığı anlamına gelmiyor. İki tasarımın güvenlik ve hukuk ekipleri için farklı sorular doğurduğu anlamına geliyor. Anthropic’in Covered Models koşulları, sağlayıcının saklama ve inceleme faaliyetlerinin hesaba katılmasını gerektirirken OpenAI, ZDR ve Private Safety Processing’i sağlayıcının içeriğin kendisine erişimini sınırlama fikri üzerine konumlandırıyor.

Kurumsal alıcıların sorması gereken temel sorular şunlar:

• Kullanılan model ve dağıtım ZDR için uygun mu?
• İçerik nerede işleniyor ve saklanıyorsa şifreleme anahtarlarını kim kontrol ediyor?
• Güvenlik uyarısında tam olarak hangi alanlar yer alıyor?
• Müşteri, tüm konuşmayı paylaşmadan bir işareti denetleyebilir veya itiraz edebilir mi?
• Sağlayıcı ciddi bir kötüye kullanımdan şüphelendiğinde ne oluyor?
• Sağlayıcının saklama ve inceleme koşulları, kuruluşun sözleşmesel ve düzenleyici yükümlülükleriyle uyumlu mu?

Yapay zekâ ürünlerinde yeni rekabet alanı: gizlilik

Private Safety Processing, gizliliği yapay zekâ güvenlik ürününün bir parçası hâline getiriyor. Mesele artık yalnızca bir modelin güvensiz isteği engelleyip engellemediği değil; sağlayıcının her müşteri konuşmasına erişmeden, uzun ve bağlantılı iş akışlarında koordineli kötüye kullanımı tespit edip edemeyeceği.

OpenAI’nin önizlemesi bu soruya şu yanıtı veriyor: Temel içeriği müşterinin kontrolünde veya müşterinin yönettiği anahtarlarla korunan bir ortamda tutmak, bağlantılı etkileşimler arasındaki örüntüleri otomatik sistemlerle incelemek ve sağlayıcıya dar kapsamlı bir risk sınıflandırması göndermek.

Anthropic’in Covered Models politikası ise başka bir yol izliyor: Güvenlik ekiplerinin inceleme yapabilmesi için ilgili istemleri ve yanıtları sınırlı bir süre saklamak; bunu kontrollü inceleme ve model eğitimi için kullanımın açık müşteri iznine bağlı olduğu yönündeki açıklamayla birlikte uygulamak.

Hangi yaklaşımın daha uygun olduğu; kuruluşun risk toleransına, işlediği verilerin hassasiyetine ve bir yapay zekâ sağlayıcısının soruşturma için ne kadar görünürlüğe ihtiyaç duyduğuna bağlı olacak. OpenAI’nin planladığı teknik white paper ve daha geniş sunum, bu gizlilik iddialarının gerçek kurumsal dağıtımlarda nasıl uygulandığını değerlendirmek için daha fazla ayrıntı sağlayabilir.