ОтветыОпубликовано19 источники
Глава Anthropic ответил критикам: гонка за передовым ИИ, по его словам, совместима с безопасностью
Амодеи утверждает, что Anthropic может конкурировать на переднем крае разработки ИИ и одновременно принимать меры безопасности. Натан Калвин критиковал крупные обязательства компании по вычислительным ресурсам, растущую роль Claude в разработке ИИ и пересмотр политики безопасности.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Амодеи утверждает, что Anthropic может конкурировать на переднем крае разработки ИИ и одновременно принимать меры безопасности.
- Натан Калвин критиковал крупные обязательства компании по вычислительным ресурсам, растущую роль Claude в разработке ИИ и пересмотр политики безопасности.
- Амодеи привёл примеры ограничений и задержек, но спор о достаточности этих мер и о возможном вмешательстве государства не разрешился.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Глава Anthropic Дарио Амодеи ответил на критику Натана Калвина из организации Encode AI. Калвин утверждал, что компания стремится создавать всё более мощный ИИ, ослабляя при этом собственные обязательства по безопасности. Амодеи отверг такую трактовку: по его словам, участие в гонке за передовыми моделями не обязательно противоречит безопасной разработке. В подтверждение он перечислил меры, которые, как он утверждает, имели для Anthropic коммерческую цену. 4
5
Однако ответ не снял главного вопроса: достаточно ли нынешних ограничений и правил безопасности, пока возможности моделей растут.
На что указывал Калвин
Калвин сопоставил публичные обещания Anthropic с решениями компании. Среди предметов критики — крупные соглашения на вычислительные мощности: по сообщениям, речь идёт о сумме свыше 500 миллиардов долларов. Он также указывал на растущую роль Claude в разработке ИИ. Согласно одному из обзоров переписки, к августу Claude участвовал в 26% задач по разработке ИИ — против нуля в марте. 1
9
Ещё один спорный пункт — пересмотр Responsible Scaling Policy (RSP), политики Anthropic по управлению рисками при масштабировании ИИ. В опубликованных обзорах говорится, что новая редакция убрала одностороннее обязательство компании приостанавливать или замедлять разработку при определённых условиях. Амодеи защищал это изменение, а не объявлял о возвращении прежнего правила. 1
3
Калвин критиковал и проект федерального закона о безопасности ИИ, который обсуждался в США. Согласно сообщениям, проект предусматривал высокий порог для вмешательства властей: непосредственную угрозу более чем 50 смертей или тяжёлых травм либо убытков свыше 1 миллиарда долларов. Это описываемый порог прогнозируемого риска, а не требование дождаться, пока вред действительно наступит. Документ был проектом, а не действующим законом. 10
25
Аргумент Амодеи: оставаться на переднем крае
Амодеи представил свою позицию как «гонку наверх»: Anthropic, по его мнению, не должна отказываться от разработки передовых систем, чтобы относиться к безопасности серьёзно. Он назвал решения, которые, как он утверждает, ограничивали доступ к возможностям компании или создавали для неё другие коммерческие издержки. 4
9
В числе примеров — поддержка закона Калифорнии SB 53 о безопасности передовых ИИ-систем, строгие ограничения против использования ИИ для биологических угроз и задержка широкого доступа к моделям класса Mythos, пока компания усиливала защиту от киберугроз. По сообщениям, сначала моделями пользовалась ограниченная группа партнёров, работающих в сфере киберзащиты; более широкий доступ появился позднее. 5
11
Эти примеры показывают, как Амодеи защищал практические решения Anthropic: он представлял меры безопасности не только как публичные обещания, но и как компромиссы с коммерческими последствиями. При этом доступные публикации не раскрывают достаточно подробно, как именно он обосновывал тезис, что участие Anthropic в гонке за передовыми моделями повышает стандарты безопасности во всей отрасли. 4
5
Цена ограничений — не только для компании
Амодеи признал, что задержка или ограничение доступа к передовым возможностям может иметь и более широкую цену: например, замедлить потенциальный прогресс в биологии. Иными словами, такие решения, по его словам, могут ограничивать не только доходы компании, но и возможную пользу технологии. 11
Обзоры его ответа также сообщают, что он признал ошибки в коммуникации, но продолжил защищать общий подход Anthropic и пересмотр политики безопасности. Признание отдельных просчётов не означало отказа от выбранного курса. 4
24
Что осталось предметом спора
Амодеи противопоставил обвинению в том, что безопасность отодвинута на второй план, собственный перечень мер — от ограничений на доступ к моделям до защиты от биологических рисков. Но этот перечень не отвечает сам по себе на претензии Калвина к ослаблению обязательств по приостановке разработки и к высоким порогам для государственного вмешательства. 1
3
5
10
Доступные публикации пересказывают обмен аргументами, но не позволяют проверить каждый пункт обоих списков или восстановить всю логику Амодеи. Поэтому главное в этой истории — не окончательный вердикт о безопасности Anthropic, а расхождение в подходах: Амодеи считает возможным сочетать лидерство в разработке ИИ с отдельными мерами предосторожности, тогда как Калвин сомневается, что этих мер и обязательств достаточно.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Глава Anthropic ответил критикам: гонка за передовым ИИ, по его словам, совместима с безопасностью»?
Амодеи утверждает, что Anthropic может конкурировать на переднем крае разработки ИИ и одновременно принимать меры безопасности.
Какие ключевые моменты необходимо проверить в первую очередь?
Амодеи утверждает, что Anthropic может конкурировать на переднем крае разработки ИИ и одновременно принимать меры безопасности. Натан Калвин критиковал крупные обязательства компании по вычислительным ресурсам, растущую роль Claude в разработке ИИ и пересмотр политики безопасности.
Что мне делать дальше на практике?
Амодеи привёл примеры ограничений и задержек, но спор о достаточности этих мер и о возможном вмешательстве государства не разрешился.
Источники
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'