ОтветыОпубликовано18 источники
В OpenAI предупреждали о рисках безопасности ещё до запуска ChatGPT
По данным Reuters, ещё до запуска ChatGPT в конце 2022 года сотрудники OpenAI рассказывали о проблемах безопасности руководству и совету директоров. Некоторые бывшие сотрудники, как сообщает агентство, не удивились, когда OpenAI объявила об обнаружении записывающего устройства в переговорной для руководителей.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- По данным Reuters, ещё до запуска ChatGPT в конце 2022 года сотрудники OpenAI рассказывали о проблемах безопасности руководству и совету директоров.
- Некоторые бывшие сотрудники, как сообщает агентство, не удивились, когда OpenAI объявила об обнаружении записывающего устройства в переговорной для руководителей.
- OpenAI объявила о новом внутреннем проекте по безопасности с участием внешних исследователей и компании Cathedral.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Сотрудники OpenAI поднимали вопросы о мерах безопасности компании ещё до запуска ChatGPT в конце 2022 года и сообщали о своих опасениях руководству и совету директоров. Об этом Reuters рассказали пять человек, знакомых с ситуацией. Некоторые бывшие сотрудники заявили, что не удивились, когда OpenAI позднее сообщила об обнаружении записывающего устройства в переговорной для руководителей. 3
О каких рисках говорили сотрудники
По данным Reuters, опасения возникли задолго до обнаружения устройства. После разговоров с руководителями некоторые сотрудники, как сообщается, решили, что для компании важнее не отставать от конкурентов, чем защищать свои технологии. 3
39
В отдельном пересказе публикации Reuters говорится, что сотрудников беспокоили широкий доступ к коду компании и отсутствие регулярных проверок внутренних инструментов безопасности. 14 Однако доступные материалы не раскрывают полностью, как были настроены права доступа к репозиториям и с какой периодичностью проверялись конкретные системы. Поэтому эти сведения не дают исчерпывающего представления о мерах защиты OpenAI.
В основе проблемы — непростой баланс между быстрым обменом информацией и ограничением доступа к чувствительным системам. Источники описывают опасения сотрудников и предполагаемые приоритеты руководства, но сами по себе не доказывают, что какая-либо конкретная практика привела к обнаружению записывающего устройства.
Дело о записывающем устройстве
В октябре власти США сообщили об аресте инженера OpenAI Абдулрахмана Альфозана, 35 лет. Ему предъявили обвинение в использовании или попытке использовать устройство для перехвата устных разговоров. 1 Reuters сообщило, что речь идёт о скрытом аудиорекордере, который, предположительно, установили в переговорной для руководителей компании.
2 Обвинение пока остаётся утверждением стороны обвинения, а не доказанной в суде виной.
После обнаружения устройства некоторые бывшие сотрудники OpenAI вспомнили о прежних предупреждениях по поводу безопасности, пишет Reuters. 3 Доступные источники не позволяют подробно восстановить обстоятельства предполагаемой установки устройства или подтвердить статус Альфозана на 3 ноября.
Как OpenAI меняет подход
По данным испаноязычной версии материала Reuters, OpenAI начала менять подход к вопросам безопасности. Два источника, знакомые с ситуацией, сообщили агентству, что Тибо Соттио, старший руководитель, отвечающий за разработку продуктов, недавно возглавил внутреннюю инициативу по защите систем компании. 46
В другом пересказе публикации говорится, что в августе Соттио перенаправил на работу над инфраструктурой безопасности около четверти инженеров, занятых в производственных системах. Эта цифра приводится со ссылкой на один источник и не является подтверждёнными компанией данными. 53
2 ноября OpenAI объявила о новом внутреннем спринте по безопасности. Компания сообщила, что привлечёт внешних исследователей и партнёра по кибербезопасности Cathedral, чтобы с помощью своих моделей проверять и укреплять системы. 52 Это анонс запланированной работы: сам по себе он не показывает, какие уязвимости удастся найти и насколько проект снизит риски.
Что известно — и чего эти сведения не доказывают
Главный вывод материала Reuters: опасения по поводу безопасности поднимались внутри OpenAI ещё до запуска ChatGPT и доходили до руководителей и совета директоров. 3 Публикация также указывает на возможное противоречие между стремлением быстро развиваться и необходимостью усилить контроль.
39
Доступные источники не подтверждают все утверждения, встречающиеся в более широких публикациях о мерах безопасности OpenAI. Они также не показывают, что новые шаги уже сняли вопросы, о которых говорили сотрудники. Пока речь идёт о давних предупреждениях, серьёзном инциденте, связанном с предполагаемым нарушением, и объявленной компанией инициативе по усилению защиты — но не о доказанной единственной причине произошедшего или устранении всех рисков.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «В OpenAI предупреждали о рисках безопасности ещё до запуска ChatGPT»?
По данным Reuters, ещё до запуска ChatGPT в конце 2022 года сотрудники OpenAI рассказывали о проблемах безопасности руководству и совету директоров.
Какие ключевые моменты необходимо проверить в первую очередь?
По данным Reuters, ещё до запуска ChatGPT в конце 2022 года сотрудники OpenAI рассказывали о проблемах безопасности руководству и совету директоров. Некоторые бывшие сотрудники, как сообщает агентство, не удивились, когда OpenAI объявила об обнаружении записывающего устройства в переговорной для руководителей.
Что мне делать дальше на практике?
OpenAI объявила о новом внутреннем проекте по безопасности с участием внешних исследователей и компании Cathedral.
Источники
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...