AnswersPublished19 sources
Амодей захистив стратегію Anthropic, але питання щодо безпеки залишилися
Амодей стверджує, що участь у перегонах за найпотужнішим ШІ не обов’язково означає відмову від безпеки. Калвін звернув увагу на великі зобов’язання Anthropic щодо обчислювальних ресурсів, дедалі більшу роль Claude у розробці ШІ та зміни до політики безпеки компанії.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Амодей стверджує, що участь у перегонах за найпотужнішим ШІ не обов’язково означає відмову від безпеки.
- Калвін звернув увагу на великі зобов’язання Anthropic щодо обчислювальних ресурсів, дедалі більшу роль Claude у розробці ШІ та зміни до політики безпеки компанії.
- Амодей навів приклади рішень, які, за його словами, обмежували доступ до моделей або посилювали запобіжники, але суперечки про достатність цих заходів не вичерпалися.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Гендиректор Anthropic Дario Амодей відповів на критику Нейтана Калвіна, керівника зі стратегії Encode AI. Калвін поставив під сумнів, чи відповідають дії компанії її заявам про безпеку, поки вона розвиває дедалі потужніші системи. Амодей захистив участь Anthropic у перегонах за передовими моделями й навів приклади запобіжних заходів, які, за його словами, мали для компанії комерційну ціну. Однак сама суперечка — чи достатньо цих заходів на тлі швидкого розвитку ШІ — лишилася відкритою. 4
5
Що саме критикував Калвін
Калвін виклав дев’ять претензій до дій Anthropic, які, на його думку, не узгоджуються із заявленими зобов’язаннями щодо безпеки. Серед питань, що висвітлювалися в повідомленнях про обмін думками, — значні зобов’язання компанії щодо обчислювальних потужностей і зростання ролі Claude у розробці ШІ. За одним із підсумків, до серпня Claude був залучений до 26% завдань із розробки ШІ — проти нуля у березні. 1
9
Окрема суперечка стосувалася Responsible Scaling Policy — політики компанії, що визначає підхід до безпеки під час масштабування моделей. За повідомленнями, її переглянута версія прибрала одностороннє зобов’язання призупиняти чи сповільнювати розробку за певних умов. Амодей захистив цю зміну, а не оголосив про повернення попередньої обіцянки. 1
3
Калвін також розкритикував проєкт федеральної пропозиції щодо безпеки ШІ. У повідомленнях описано високий поріг для втручання уряду: прогнозований неминучий ризик понад 50 смертей або тяжких травм чи збитків більш ніж на 1 мільярд доларів. Ідеться саме про рівень прогнозованої шкоди, який міг би стати підставою для втручання, а не про вимогу чекати, доки вона станеться. Це був проєкт, а не чинний закон. 10
25
Аргумент Амодея: залишатися на передовій
Амодей відкинув думку, що Anthropic мусить вийти з перегонів за найпотужнішими моделями, аби серйозно ставитися до безпеки. Він назвав свій підхід «перегонами вгору» й наполягав: участь у розробці передових систем сумісна з місією компанії у сфері безпеки. На підтвердження він навів рішення, які, за його словами, коштували Anthropic комерційних можливостей. 4
9
Серед прикладів — підтримка каліфорнійського закону SB 53 про безпеку ШІ, суворі обмеження проти використання моделей для біологічних загроз і відтермінування ширшого доступу до моделей класу Mythos, поки компанія посилювала кіберзахист. За повідомленнями, спочатку Mythos був доступний обмеженому колу партнерів, які працюють над кіберзахистом, а ширший доступ з’явився пізніше. 5
11
Так Амодей представив безпекові заходи як реальні компроміси, а не лише публічні обіцянки. Водночас доступні повідомлення не пояснюють докладно, як саме, на його думку, перебування на передовій має підвищувати стандарти безпеки в усій галузі. 4
5
Визнання витрат і помилок
Амодей визнав, що обмеження або відтермінування доступу до передових можливостей може мати наслідки не лише для доходів компанії. За його словами, це здатне сповільнити й потенційні суспільні переваги — зокрема прогрес у біології. 11
У повідомленнях також зазначається, що він визнав помилки в комунікації, водночас продовживши захищати загальний підхід Anthropic і переглянуту політику безпеки. Тобто Амодей погодився, що компанія не в усьому діяла бездоганно, але не відмовився від її стратегії. 4
24
Що з’ясувалося, а що — ні
Відповідь Амодея стала запереченням головної тези Калвіна: що прагнення Anthropic змагатися за лідерство відсуває безпеку на другий план. Амодей натомість вказав на рішення, які, за його словами, обмежували доступ до моделей або посилювали запобіжники попри комерційні мінуси. Але цей перелік не розв’язав суперечок щодо послаблення обіцянок про паузу в розробці та запропонованих меж державного втручання. 1
3
5
10
Наявні матеріали переказують обмін аргументами, але не відтворюють обидва повні списки настільки докладно, щоб перевірити кожен пункт. Найчіткіше видно саму суть розбіжності: Амодей захищає конкуренцію на передовій разом із низкою безпекових заходів, тоді як Калвін ставить під сумнів, чи достатньо цих заходів і політичних зобов’язань.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Амодей захистив стратегію Anthropic, але питання щодо безпеки залишилися"?
Амодей стверджує, що участь у перегонах за найпотужнішим ШІ не обов’язково означає відмову від безпеки.
What are the key points to validate first?
Амодей стверджує, що участь у перегонах за найпотужнішим ШІ не обов’язково означає відмову від безпеки. Калвін звернув увагу на великі зобов’язання Anthropic щодо обчислювальних ресурсів, дедалі більшу роль Claude у розробці ШІ та зміни до політики безпеки компанії.
What should I do next in practice?
Амодей навів приклади рішень, які, за його словами, обмежували доступ до моделей або посилювали запобіжники, але суперечки про достатність цих заходів не вичерпалися.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
cellcog.aiAmodei Answers Nathan Calvin: Anthropic's Two Lists
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'