AnswersPublished18 sources
OpenAI çalışanları ChatGPT’den önce güvenlik risklerine dikkat çekmiş
Reuters, OpenAI çalışanlarının ChatGPT 2022’nin sonlarında yayımlanmadan önce güvenlik kaygılarını yöneticilere ve yönetim kuruluna ilettiğini bildirdi. Bazı eski çalışanlar, OpenAI’nin yönetici toplantı odasında bir kayıt cihazı bulduğunu açıklamasının kendilerini şaşırtmadığını söyledi.
YayımlayanGPT-6 Luna ile düzenlendiGörseller GPT Image 2 ile oluşturuldu
Research answer
Key takeaways
- Reuters, OpenAI çalışanlarının ChatGPT 2022’nin sonlarında yayımlanmadan önce güvenlik kaygılarını yöneticilere ve yönetim kuruluna ilettiğini bildirdi.
- Bazı eski çalışanlar, OpenAI’nin yönetici toplantı odasında bir kayıt cihazı bulduğunu açıklamasının kendilerini şaşırtmadığını söyledi.
- OpenAI, sistemlerini sınamak ve güçlendirmek için dış araştırmacılarla yeni bir iç güvenlik çalışması yürüteceğini duyurdu.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
ChatGPT’nin 2022’nin sonlarında yayımlanmasından önce bazı OpenAI çalışanları şirketin güvenlik uygulamalarına ilişkin kaygılarını dile getirdi. Reuters’ın konuyu bilen beş kişiye dayandırdığı haberine göre çalışanlar endişelerini üst düzey yöneticilerle ve yönetim kuruluyla paylaştı. 3
Ekim ayında bir yönetici toplantı odasında kayıt cihazı bulunduğunun açıklanmasının ardından bazı eski çalışanlar, yaşananlara şaşırmadıklarını söyledi. 3 Reuters’ın aktardığı tablo, hızlı ürün geliştirme ile şirketin hassas sistemlerini koruma ihtiyacı arasındaki gerilimi yeniden gündeme getiriyor.
Çalışanların dile getirdiği kaygılar
Reuters’ın haberine göre bazı çalışanlar, yöneticilerle yaptıkları görüşmelerden, şirketin teknolojisini korumaktan çok rakipleri yakalamaya öncelik verildiği sonucunu çıkardı. 3
39
Reuters’ın haberini özetleyen başka bir yayın ise çalışanların şirket koduna geniş erişim ve şirket içi araçların düzenli güvenlik incelemelerinden geçirilmemesi konusunda kaygı duyduğunu aktardı. 14 Ancak eldeki haber parçaları, kod depolarındaki erişim izinlerinin tüm ayrıntılarını ya da belirli sistemlerin ne sıklıkta denetlendiğini ortaya koymuyor. Bu nedenle söz konusu noktalar, OpenAI’nin güvenlik önlemlerinin eksiksiz bir dökümü olarak değerlendirilmemeli.
Buradaki temel mesele, ekiplerin birlikte ve hızlı çalışabilmesi ile hassas sistemlere erişimi denetleme ihtiyacını dengelemek. Kaynaklar çalışanların kaygılarını ve yönetimin önceliklerine dair aktarımları anlatıyor; ancak herhangi bir güvenlik uygulamasının kayıt cihazı olayına yol açtığını tek başına kanıtlamıyor.
Yönetici odasındaki kayıt cihazı olayı
ABD Adalet Bakanlığı, ekim ayında OpenAI mühendisi Abdulrahman Alfozan’ın sözlü iletişimi kaydetmek için bir cihaz kullanmakla ya da bunu yapmaya teşebbüs etmekle suçlandığını ve gözaltına alındığını duyurdu. Alfozan 35 yaşında ve Suudi Arabistan vatandaşı. 1 Reuters, davanın bir yönetici toplantı odasına gizlice yerleştirildiği öne sürülen ses kayıt cihazıyla ilgili olduğunu bildirdi.
2 Suçlama, mahkemece verilmiş bir hüküm değil; iddia niteliğinde.
Reuters’a göre cihazın bulunması, bazı eski çalışanlara daha önce dile getirdikleri güvenlik uyarılarını hatırlattı. 3 Eldeki kaynaklar, cihazın odaya nasıl yerleştirildiğine ilişkin tüm koşulları veya Alfozan’ın 3 Kasım itibarıyla gözaltındaki durumunu açıklığa kavuşturmuyor.
OpenAI’nin güvenlik adımları
Reuters’ın İspanyolca haberinde, OpenAI’nin güvenlik yaklaşımını değiştirmeye başladığı ve ürün geliştirmeden sorumlu üst düzey yönetici Thibault Sottiaux’nun şirket sistemlerini korumaya yönelik bir iç çalışmanın başına geçtiği aktarıldı. 46 Haberi özetleyen ikincil bir kaynak, Sottiaux’nun ağustos ayında üretim mühendislerinin yaklaşık dörtte birini güvenlik altyapısı üzerinde çalışmak üzere görevlendirdiğini bildirdi. Bu oran tek bir kaynağa dayandırılıyor; şirketin doğruladığı genel bir açıklama olarak sunulmamalı.
53
OpenAI, 2 Kasım’da yeni bir iç güvenlik çalışması planladığını duyurdu. Şirket, dış araştırmacılar ve güvenlik ortağı Cathedral ile birlikte modellerini kullanarak sistemlerini sınamayı ve güçlendirmeyi amaçladığını belirtti. 52 Bu duyuru planlanan çalışmayı anlatıyor; çalışmanın hangi açıkları bulacağını veya riskleri ne ölçüde azaltacağını şimdiden göstermiyor.
Haberin ortaya koydukları ve ortaya koymadıkları
Reuters’ın haberindeki temel bulgu, ChatGPT’nin çıkışından önce OpenAI içinde güvenlik kaygılarının dile getirildiği ve bu kaygıların üst düzey yöneticilerle yönetim kuruluna iletildiği. 3 Haberde ayrıca hızlı büyüme ve rakiplerle yarışma baskısının daha sıkı güvenlik kontrolleriyle çatışabileceğine işaret ediliyor.
39
Bununla birlikte, burada yer alan kaynaklar OpenAI’nin güvenlik uygulamalarına ilişkin daha geniş kapsamlı her iddiayı doğrulamıyor. Yeni önlemlerin çalışanların dile getirdiği kaygıları giderdiğini de göstermiyor. Mevcut bilgiler; geçmişten gelen uyarılara, ciddi bir iddiaya konu olan olaya ve şirketin başlattığını duyurduğu yeni bir güvenlik çalışmasına işaret ediyor. Ancak bunlar, olayın tek bir nedenden kaynaklandığını ya da risklerin ortadan kalktığını kanıtlamıyor.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI çalışanları ChatGPT’den önce güvenlik risklerine dikkat çekmiş"?
Reuters, OpenAI çalışanlarının ChatGPT 2022’nin sonlarında yayımlanmadan önce güvenlik kaygılarını yöneticilere ve yönetim kuruluna ilettiğini bildirdi.
What are the key points to validate first?
Reuters, OpenAI çalışanlarının ChatGPT 2022’nin sonlarında yayımlanmadan önce güvenlik kaygılarını yöneticilere ve yönetim kuruluna ilettiğini bildirdi. Bazı eski çalışanlar, OpenAI’nin yönetici toplantı odasında bir kayıt cihazı bulduğunu açıklamasının kendilerini şaşırtmadığını söyledi.
What should I do next in practice?
OpenAI, sistemlerini sınamak ve güçlendirmek için dış araştırmacılarla yeni bir iç güvenlik çalışması yürüteceğini duyurdu.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...