AnswersPublished18 sources
Ostrzeżenia o bezpieczeństwie w OpenAI pojawiły się przed premierą ChatGPT
Reuters, powołując się na pięć osób zaznajomionych ze sprawą, podał, że pracownicy OpenAI zgłaszali obawy dotyczące bezpieczeństwa kierownictwu i radzie nadzorczej przed premierą ChatGPT pod koniec 2022 roku. Część byłych pracowników nie była zaskoczona, gdy OpenAI poinformowało o znalezieniu urządzenia nagrywająceg...
Opublikowane przezEdytowane za pomocą GPT-6 LunaObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Reuters, powołując się na pięć osób zaznajomionych ze sprawą, podał, że pracownicy OpenAI zgłaszali obawy dotyczące bezpieczeństwa kierownictwu i radzie nadzorczej przed premierą ChatGPT pod koniec 2022 roku.
- Część byłych pracowników nie była zaskoczona, gdy OpenAI poinformowało o znalezieniu urządzenia nagrywającego w sali konferencyjnej dla kadry kierowniczej.
- OpenAI zapowiada nowy wewnętrzny sprint bezpieczeństwa z udziałem zewnętrznych badaczy i partnera — firmy Cathedral.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Według ustaleń Reutersa obawy o bezpieczeństwo w OpenAI pojawiły się jeszcze przed premierą ChatGPT pod koniec 2022 roku. Pracownicy mieli zgłaszać je kierownictwu i radzie nadzorczej. Część byłych osób z firmy nie zdziwiło późniejsze odkrycie urządzenia nagrywającego w sali konferencyjnej dla kadry kierowniczej. 3
O co martwili się pracownicy
Reuters opisał zastrzeżenia, które — według jego źródeł — pojawiały się wewnątrz firmy na długo przed znalezieniem urządzenia. Niektórzy pracownicy mieli po rozmowach z kierownictwem odnieść wrażenie, że ważniejsze od ochrony technologii jest utrzymanie tempa i nadążanie za konkurencją. 3
39
Osobne podsumowanie relacji Reutersa wskazuje na obawy związane z szerokim dostępem do firmowego kodu oraz brakiem regularnych przeglądów bezpieczeństwa narzędzi wewnętrznych. 14 Dostępne fragmenty nie pokazują jednak pełnego zakresu uprawnień do repozytoriów ani częstotliwości kontroli poszczególnych systemów. Nie dają więc kompletnego obrazu zabezpieczeń OpenAI.
Szerszy problem dotyczy równowagi między szybkim, zespołowym rozwojem a kontrolą dostępu do wrażliwych systemów. Relacje opisują obawy pracowników i przypisywane kierownictwu priorytety, ale same w sobie nie dowodzą, że konkretna praktyka doprowadziła do odkrycia urządzenia nagrywającego.
Sprawa urządzenia nagrywającego
W październiku amerykańskie władze poinformowały o aresztowaniu 35-letniego inżyniera OpenAI Abdulrahmana Alfozana i postawieniu mu zarzutu użycia lub próby użycia urządzenia do przechwytywania rozmów. 1 Reuters podał, że sprawa dotyczy ukrytego rejestratora dźwięku, który miał zostać umieszczony w sali konferencyjnej dla kadry kierowniczej.
2 Zarzut jest oskarżeniem — nie stwierdzeniem winy.
Jak podał Reuters, odkrycie urządzenia skłoniło część byłych pracowników do przypomnienia sobie wcześniejszych ostrzeżeń dotyczących bezpieczeństwa. 3 Dostępne źródła nie przedstawiają pełnych okoliczności domniemanego umieszczenia rejestratora ani nie pozwalają ustalić, jaki był status Alfozana 3 listopada.
OpenAI zapowiada działania
Hiszpańskojęzyczna relacja Reutersa podała, że OpenAI zaczęło zmieniać podejście do bezpieczeństwa. Thibault Sottiaux, wysoki rangą menedżer nadzorujący rozwój produktów, miał niedawno stanąć na czele wewnętrznej inicjatywy mającej chronić systemy firmy. 46 Według wtórnego omówienia relacji Reutersa w sierpniu Sottiaux przekierował do prac nad infrastrukturą bezpieczeństwa około jedną czwartą inżynierów produkcyjnych. Ta konkretna liczba pochodzi od jednego źródła, a nie z oficjalnego potwierdzenia firmy.
53
2 listopada OpenAI ogłosiło kolejny wewnętrzny sprint bezpieczeństwa. Firma zapowiedziała współpracę z zewnętrznymi badaczami i partnerem Cathedral, by wykorzystać modele OpenAI do testowania i wzmacniania jej systemów. 52 To zapowiedź planowanych prac — sama w sobie nie przesądza, jakie luki zostaną znalezione ani o ile uda się ograniczyć ryzyko.
Co wynika z doniesień, a czego nie rozstrzygają
Główna informacja z relacji Reutersa jest taka, że pracownicy zgłaszali zastrzeżenia dotyczące bezpieczeństwa jeszcze przed premierą ChatGPT, a ich uwagi trafiały do kierownictwa i rady nadzorczej. 3 Doniesienia wskazują też na możliwe napięcie między szybkim rozwojem a ściślejszymi zabezpieczeniami.
39
Dostępne źródła nie potwierdzają wszystkich zarzutów pojawiających się w szerszych omówieniach praktyk OpenAI. Nie dowodzą też, że nowe działania rozwieją obawy pracowników. Najostrożniejszy wniosek to: ostrzeżenia miały pojawiać się od lat, doszło do poważnego domniemanego incydentu, a firma zapowiada kolejną inicjatywę bezpieczeństwa. Nie ma jednak podstaw, by wskazać jeden czynnik jako przyczynę sprawy albo uznać, że ryzyko zostało już wyeliminowane.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Ostrzeżenia o bezpieczeństwie w OpenAI pojawiły się przed premierą ChatGPT"?
Reuters, powołując się na pięć osób zaznajomionych ze sprawą, podał, że pracownicy OpenAI zgłaszali obawy dotyczące bezpieczeństwa kierownictwu i radzie nadzorczej przed premierą ChatGPT pod koniec 2022 roku.
What are the key points to validate first?
Reuters, powołując się na pięć osób zaznajomionych ze sprawą, podał, że pracownicy OpenAI zgłaszali obawy dotyczące bezpieczeństwa kierownictwu i radzie nadzorczej przed premierą ChatGPT pod koniec 2022 roku. Część byłych pracowników nie była zaskoczona, gdy OpenAI poinformowało o znalezieniu urządzenia nagrywającego w sali konferencyjnej dla kadry kierowniczej.
What should I do next in practice?
OpenAI zapowiada nowy wewnętrzny sprint bezpieczeństwa z udziałem zewnętrznych badaczy i partnera — firmy Cathedral.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...