ОтветыОпубликовано23 источники
Accenture и Anthropic вложат не менее $2 млрд в постоянную проверку безопасности ИИ
Accenture и Anthropic рассчитывают вложить как минимум по $1 млрд за пять лет — не менее $2 млрд суммарно — в развитие оценки безопасности передовых ИИ моделей. Команда Faculty будет тестировать модели Anthropic, проводить red teaming, оценивать их согласованность с заданными целями и проверять защитные механизмы.
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Accenture и Anthropic рассчитывают вложить как минимум по $1 млрд за пять лет — не менее $2 млрд суммарно — в развитие оценки безопасности передовых ИИ моделей.
- Команда Faculty будет тестировать модели Anthropic, проводить red teaming, оценивать их согласованность с заданными целями и проверять защитные механизмы.
- Партнёрство неэксклюзивное: Anthropic планирует работать с несколькими внешними оценщиками, в том числе изучает сотрудничество с некоммерческой организацией METR.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture и Anthropic объявили о пятилетнем партнёрстве в сфере безопасности ИИ. Компании рассчитывают вложить в него не менее чем по $1 млрд каждая — то есть как минимум $2 млрд суммарно. Деньги направят на развитие встроенной оценки (embedded evaluation) передовых моделей ИИ: внешние специалисты будут работать вместе с командами Anthropic, а не подключаться лишь к разовой проверке перед выпуском продукта. 3
13
Что будут делать встроенные оценщики
Программу возглавит Faculty — специализированное ИИ-подразделение Accenture. Его команда должна оценивать модели Anthropic и проводить red teaming — намеренно пытаться выявить опасное или нежелательное поведение системы. В задачи также входят проверки согласованности моделей с поставленными целями (alignment assessments) и тестирование защитных механизмов. 3
13
Идея в том, чтобы сделать независимую проверку непрерывной. По замыслу Anthropic, внешние эксперты получат постоянный доступ, близкий к доступу сотрудников компании: так они смогут проверять, соблюдает ли лаборатория заявленные правила обучения, развёртывания, эксплуатации и защиты моделей. Речь идёт не только о тестировании уже готовой нейросети перед релизом. 14
41
Проверка должна охватывать и сами модели, и процессы вокруг их разработки и внедрения. При этом компании признают: практика встроенной оценки пока нова, и многие её рабочие детали ещё предстоит определить. 13
Насколько независимой будет проверка
В более широком предложении Anthropic говорится, что внешние оценщики должны иметь доступ, в целом сопоставимый с доступом внутренних команд, оценивающих риски. В частности, предполагаются рабочее пространство и возможность общаться с сотрудниками. Оценщики также должны иметь право публиковать ключевые выводы о рисках, инцидентах, практиках компании и собственном уровне доступа без редакционного контроля со стороны Anthropic. 14
41
Однако эта независимость не будет абсолютной. Anthropic оставляет за собой узкое право редактировать сведения, чувствительные для безопасности, защищённые адвокатской тайной, коммерчески чувствительные или конфиденциальные данные третьих сторон. Главный открытый вопрос — как эти принципы превратятся в конкретные правила доступа, отчётности и публикаций. 14
41
Как это связано с планом Дарио Амодеи
Anthropic называет соглашение с Accenture первым практическим шагом к обязательству, сформулированному гендиректором Дарио Амодеи в эссе We Must Pace the Frontier («Нужно сдерживать темп движения к переднему краю»). В нём он предложил встроить независимых оценщиков в саму Anthropic. 13
План состоит из трёх частей:
- Встроенные сторонние оценщики. Разработчики передового ИИ должны давать независимым экспертам постоянный доступ, близкий к уровню сотрудников, чтобы те могли проверять практики безопасности, оценивать не только модели, но и конвейеры обучения, а также сообщать об инцидентах. Anthropic заявила, что берёт это обязательство на себя.
14
45
- Координация между ведущими лабораториями в демократических странах. Концепция Амодеи предусматривает общие и проверяемые подходы, которые снизят стимулы жертвовать безопасностью в конкурентной гонке.
21
- Глобальная координация. Предложение предполагает взаимодействие за пределами демократических стран, хотя Anthropic признаёт, что проверять соблюдение договорённостей между государствами и компаниями будет сложно.
37
Anthropic также выступает за то, чтобы власти сделали независимую оценку и прозрачность стандартным требованием для разработчиков передовых моделей, а не оставляли это исключительно на усмотрение компаний. 24
27
Accenture не станет единственным внешним оценщиком
Соглашение не делает Faculty единственным внешним проверяющим для Anthropic. Компания заявила, что намерена привлекать нескольких оценщиков и изучает отдельные варианты сотрудничества с METR и другими некоммерческими организациями. Accenture, со своей стороны, сможет выполнять похожую работу и для других разработчиков ИИ. 13
Пока Anthropic будет напрямую оплачивать работу Accenture, ссылаясь на срочную необходимость наращивать возможности для такой оценки. В перспективе компания считает более подходящим механизмом финансирование через общий фонд или государственные программы — это могло бы усилить независимость оценщиков. 9
13
Продолжение прежнего коммерческого партнёрства
Новая инициатива следует за расширением деловых отношений компаний в декабре 2025 года. Тогда они создали Accenture Anthropic Business Group и объявили о планах обучить работе с Claude около 30 000 специалистов Accenture. 1
2
Нынешнее соглашение преследует другую цель: создать постоянную систему оценки безопасности передовых ИИ-моделей. После объявления акции Accenture, по сообщениям, выросли примерно на 6% на ранних внебиржевых торгах. 5
Почему это важно
Главная новость — не только сумма в $2 млрд. Accenture и Anthropic пытаются закрепить новый формат надзора: внешние оценщики работают внутри лаборатории ИИ и получают доступ, более близкий к возможностям внутренней команды по рискам, чем к обычному периодическому аудиту.
Насколько этот подход обеспечит реальную независимую подотчётность, будет зависеть от окончательных условий: фактического доступа оценщиков, их возможности публиковать негативные выводы и того, примут ли сопоставимые требования другие ведущие ИИ-лаборатории и государства. 13
14
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Accenture и Anthropic вложат не менее $2 млрд в постоянную проверку безопасности ИИ»?
Accenture и Anthropic рассчитывают вложить как минимум по $1 млрд за пять лет — не менее $2 млрд суммарно — в развитие оценки безопасности передовых ИИ моделей.
Какие ключевые моменты необходимо проверить в первую очередь?
Accenture и Anthropic рассчитывают вложить как минимум по $1 млрд за пять лет — не менее $2 млрд суммарно — в развитие оценки безопасности передовых ИИ моделей. Команда Faculty будет тестировать модели Anthropic, проводить red teaming, оценивать их согласованность с заданными целями и проверять защитные механизмы.
Что мне делать дальше на практике?
Партнёрство неэксклюзивное: Anthropic планирует работать с несколькими внешними оценщиками, в том числе изучает сотрудничество с некоммерческой организацией METR.