ОтветыОпубликовано11 источники
Почему Дэвид Робинсон ушёл из OpenAI
Робинсон говорит, что разработка ИИ идёт быстрее, чем работа над безопасностью и согласованием моделей с человеческими целями. Он считает, что частые обновления и новые инструменты усложняют проверки, а напряжённый темп мешает сотрудникам тщательно разбирать риски.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Робинсон говорит, что разработка ИИ идёт быстрее, чем работа над безопасностью и согласованием моделей с человеческими целями.
- Он считает, что частые обновления и новые инструменты усложняют проверки, а напряжённый темп мешает сотрудникам тщательно разбирать риски.
- OpenAI заявляет, что ограничивает возможности моделей и может приостанавливать обучение или откладывать выпуск, если этого требует безопасность.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: Why did David Robinson—a Rhodes scholar, Yale Law graduate, former Biden White House adviser, and OpenAI employee since May 2023 who led saf. Article summary: David Robinson resigned because he came to believe that OpenAI’s pace of development and deployment was outrunning its ability to understand and control the risks. His criticism is about the industry’s operating culture,. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Дэвид Робинсон ушёл из OpenAI, потому что, по его словам, перестал считать темп развития компании и всей индустрии ИИ достаточно осторожным. Его претензия — не к одной конкретной модели или запуску: он говорит о культуре, в которой стремление двигаться быстрее может опережать работу по оценке рисков. OpenAI отвечает, что готова ограничивать возможности моделей и задерживать разработку, когда этого требуют безопасность и надёжность. 1
«Успеем проверить потом» — опасная ставка
Робинсон руководил подготовкой отчётов о безопасности, которые OpenAI публиковала при крупных запусках. В эссе, вышедшем 3 октября 2026 года, он написал, что компании, создающие мощные ИИ-системы, действуют недостаточно осторожно. По его мнению, проблема не сводится к отдельным правилам или законам: важно, какие решения поощряет корпоративная культура. 1
В интервью, опубликованном 7 октября, Робинсон рассказал, как изменилось его представление о возможностях ИИ. Раньше он не думал, что машины смогут стать принципиально умнее людей. Позже он стал воспринимать всерьёз перспективу систем, способных «думать кругами вокруг нас», и пришёл к выводу, что работа по безопасности и согласованию ИИ с человеческими целями пока не готова к такому сценарию.
Из этого следует его главный призыв: прежде чем наращивать возможности моделей, нужно укрепить экспертизу по безопасности, исследования и защитные меры — а не рассчитывать, что всё необходимое удастся наверстать позже. 1
Частые обновления усложняют проверки
Робинсон опасается, что привычные проверки могут не поспевать за быстрыми изменениями моделей и подключением новых инструментов. Если система обновляется часто, каждое изменение может принести возможности и риски, которых не охватывали прежние оценки. В интервью он описывал эту проблему как появление «новых возможностей и рисков каждый вторник».
Он также сомневается, насколько надёжны результаты тестов, если модель способна распознавать, что её проверяют. Это опасения Робинсона по поводу процесса оценки, а не доказательство того, что каждая модель OpenAI или каждый её выпуск обязательно обходят проверки. 1
Ещё одна часть его критики — изнурительный рабочий ритм. По его мнению, даже публичные предупреждения об опасностях ИИ не гарантируют, что внутри компаний сотрудники получат время и возможность замедлиться, разобраться в сбоях и потребовать дополнительной подготовки. Когда повседневные стимулы подталкивают к быстрому продвижению, настаивать на осторожности становится труднее. 1
Почему одной паузы недостаточно
Приостановка обучения или перенос выпуска могут показывать, что компания готова действовать осторожно. Но, по логике Робинсона, отдельное решение ещё не доказывает, что весь процесс разработки безопасен или что меры защиты будут успевать за будущими возможностями ИИ. Его вопрос шире: встроена ли осторожность в работу индустрии постоянно, а не только в момент принятия решения о конкретном запуске. 1
Что отвечает OpenAI
OpenAI заявляет, что старается не допускать, чтобы модели становились более способными, чем компания может безопасно контролировать и защищать. По её словам, при необходимости она может приостановить обучение или не выпускать модель.
Так и выглядит главное разногласие: достаточно ли существующих мер и решений, чтобы справляться с темпом развития передовых систем ИИ? Опубликованные материалы передают оценку Робинсона и позицию OpenAI, но сами по себе не устанавливают, достаточны ли меры безопасности компании. 1
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Почему Дэвид Робинсон ушёл из OpenAI»?
Робинсон говорит, что разработка ИИ идёт быстрее, чем работа над безопасностью и согласованием моделей с человеческими целями.
Какие ключевые моменты необходимо проверить в первую очередь?
Робинсон говорит, что разработка ИИ идёт быстрее, чем работа над безопасностью и согласованием моделей с человеческими целями. Он считает, что частые обновления и новые инструменты усложняют проверки, а напряжённый темп мешает сотрудникам тщательно разбирать риски.
Что мне делать дальше на практике?
OpenAI заявляет, что ограничивает возможности моделей и может приостанавливать обучение или откладывать выпуск, если этого требует безопасность.