RespostasPublicado18 fontes
Funcionários da OpenAI já apontavam riscos de segurança antes do ChatGPT
Funcionários da OpenAI teriam levado preocupações sobre segurança a executivos e integrantes do conselho antes do lançamento do ChatGPT, no fim de 2022. Ex funcionários disseram à Reuters que não se surpreenderam com a descoberta de um dispositivo de gravação em uma sala de reuniões da direção.
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Funcionários da OpenAI teriam levado preocupações sobre segurança a executivos e integrantes do conselho antes do lançamento do ChatGPT, no fim de 2022.
- Ex funcionários disseram à Reuters que não se surpreenderam com a descoberta de um dispositivo de gravação em uma sala de reuniões da direção.
- A OpenAI anunciou uma nova iniciativa interna de segurança, com participação de pesquisadores externos e da empresa Cathedral.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Antes mesmo de lançar o ChatGPT, no fim de 2022, funcionários da OpenAI já levantavam preocupações sobre as práticas de segurança da empresa. As questões foram levadas a líderes seniores e ao conselho de administração, segundo cinco pessoas familiarizadas com o assunto ouvidas pela Reuters. 3
A reportagem ajuda a entender por que alguns ex-funcionários disseram não ter ficado surpresos quando a OpenAI informou, em outubro, que havia encontrado um dispositivo de gravação em uma sala de reuniões da direção. 3
O que os funcionários teriam apontado
Segundo a Reuters, alguns funcionários saíram de conversas com lideranças com a impressão de que acompanhar o ritmo dos concorrentes recebia mais atenção do que proteger a tecnologia da empresa. 3
39
Um resumo secundário da reportagem também menciona preocupações com o acesso amplo ao código da companhia e com a falta de revisões regulares de segurança em ferramentas internas. 14 Os trechos disponíveis, porém, não detalham por completo as permissões dos repositórios nem a frequência de análise de cada sistema. Portanto, não permitem traçar um quadro completo das proteções adotadas pela OpenAI.
O dilema é equilibrar colaboração e velocidade de desenvolvimento com controles sobre sistemas sensíveis. As fontes registram preocupações de funcionários e prioridades atribuídas à gestão, mas não demonstram que uma prática específica tenha causado o caso do dispositivo de gravação.
O caso do dispositivo de gravação
Em outubro, autoridades dos Estados Unidos anunciaram que o engenheiro da OpenAI Abdulrahman Alfozan, de 35 anos, havia sido preso e acusado de usar ou tentar usar um dispositivo para interceptar comunicações orais. 1 A Reuters informou que o caso envolve um gravador de áudio oculto que teria sido instalado em uma sala de reuniões da direção da empresa.
2 A acusação é uma alegação, não uma conclusão de culpa.
A descoberta levou alguns ex-funcionários a recordar os alertas de segurança que haviam feito anteriormente, segundo a Reuters. 3 As fontes disponíveis não esclarecem todas as circunstâncias da suposta instalação nem a situação de custódia de Alfozan em 3 de novembro.
Mudanças e nova iniciativa de segurança
A reportagem da Reuters em espanhol afirma que a OpenAI começou a mudar sua abordagem de segurança. Thibault Sottiaux, executivo sênior responsável pelo desenvolvimento de produtos, teria assumido recentemente uma iniciativa interna para proteger os sistemas da empresa. 46
Um relato secundário da cobertura diz que Sottiaux transferiu, em agosto, cerca de um quarto dos engenheiros de produção para trabalhar em infraestrutura de segurança. Esse número é atribuído a uma fonte e não deve ser entendido como uma confirmação oficial da empresa. 53
Em 2 de novembro, a OpenAI anunciou uma nova iniciativa interna de segurança. A empresa disse que trabalharia com pesquisadores externos e com a parceira Cathedral para usar seus modelos na avaliação e no reforço de seus sistemas. 52 O anúncio descreve um plano; por si só, não mostra quais vulnerabilidades serão encontradas nem quanto o trabalho reduzirá os riscos.
O que a reportagem mostra — e o que ainda não comprova
O ponto central da apuração da Reuters é que preocupações com segurança foram levantadas internamente antes do lançamento do ChatGPT e chegaram a líderes seniores e ao conselho. 3 A reportagem também descreve uma possível tensão entre acelerar o desenvolvimento e adotar controles de segurança mais rigorosos.
39
As fontes disponíveis não confirmam todas as alegações sobre as práticas da OpenAI nem demonstram que as medidas anunciadas resolvam as preocupações relatadas por funcionários. O quadro mais claro, por enquanto, é o de alertas que já existiam, um incidente grave ainda tratado como alegação e uma resposta da empresa que inclui uma nova iniciativa de segurança — sem prova de que um único fator explique o caso ou de que os riscos tenham sido eliminados.
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Funcionários da OpenAI já apontavam riscos de segurança antes do ChatGPT"?
Funcionários da OpenAI teriam levado preocupações sobre segurança a executivos e integrantes do conselho antes do lançamento do ChatGPT, no fim de 2022.
Quais são os pontos-chave para validar primeiro?
Funcionários da OpenAI teriam levado preocupações sobre segurança a executivos e integrantes do conselho antes do lançamento do ChatGPT, no fim de 2022. Ex funcionários disseram à Reuters que não se surpreenderam com a descoberta de um dispositivo de gravação em uma sala de reuniões da direção.
O que devo fazer a seguir na prática?
A OpenAI anunciou uma nova iniciativa interna de segurança, com participação de pesquisadores externos e da empresa Cathedral.
Fontes
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...