AnswersPublished23 sources
Accenture і Anthropic створюють команду вбудованих оцінювачів безпеки ШІ
Accenture і Anthropic очікують, що кожна вкладе щонайменше $1 млрд протягом п’яти років — разом не менше $2 млрд — у перевірку безпеки передових моделей Anthropic. Команду вбудованих оцінювачів очолить Faculty — спеціалізований ШІ підрозділ Accenture; вона тестуватиме моделі, шукатиме вразливості та оцінюватиме захи...
ОпублікувавВідредаговано за допомогою GPT-5.6 TerraЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Accenture і Anthropic очікують, що кожна вкладе щонайменше $1 млрд протягом п’яти років — разом не менше $2 млрд — у перевірку безпеки передових моделей Anthropic.
- Команду вбудованих оцінювачів очолить Faculty — спеціалізований ШІ підрозділ Accenture; вона тестуватиме моделі, шукатиме вразливості та оцінюватиме захисні механізми.
- Партнерство не є ексклюзивним: Anthropic планує залучати кількох оцінювачів, зокрема некомерційні організації на кшталт METR.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture та Anthropic оголосили про п’ятирічне партнерство з безпеки ШІ, в основі якого — вбудована оцінка. Йдеться про незалежних фахівців, які працюватимуть поряд із командами Anthropic та її партнерами з безпеки, оцінюючи передові моделі, практики розробки й запобіжники. Кожна компанія розраховує вкласти в цей напрям щонайменше $1 млрд за п’ять років, тобто сукупне зобов’язання становить щонайменше $2 млрд. 3
13
Що перевірятиме команда
Програму очолить Faculty, спеціалізований ШІ-бізнес Accenture. Її команда має оцінювати моделі Anthropic, проводити для них red teaming — навмисно шукати способи обійти обмеження або виявити небажану поведінку, — виконувати оцінювання узгодженості моделі з поставленими цілями та тестувати захисні механізми. 3
13
Ідея полягає в тому, щоб перевірка не зводилася до одноразового зовнішнього аудиту напередодні релізу. Anthropic описує вбудованих оцінювачів як зовнішніх перевіряльників із постійним доступом, наближеним до доступу працівників. Вони мають змогу перевіряти, чи дотримується лабораторія заявлених практик навчання, розгортання, операційної безпеки та використання запобіжників. 14
41
Отже, оцінюватимуть не лише готову модель, а й процеси навколо її створення та впровадження. Водночас компанії визнають: вбудована оцінка — новий підхід, і багато практичних деталей ще належить визначити. 13
Якою буде незалежність оцінювачів
У ширшій концепції Anthropic передбачено, що зовнішні перевіряльники матимуть доступ, загалом співставний із доступом внутрішніх команд оцінювання ризиків: робочий простір, можливість спілкуватися зі співробітниками та інші інструменти для аналізу. Вони також повинні мати право публікувати ключові висновки про ризики, інциденти, практики компанії та власний рівень доступу без редакційного контролю з боку Anthropic. 14
41
Втім, незалежність не буде безмежною. Anthropic залишає за собою вузьке право редагувати матеріали, якщо вони містять чутливу для безпеки, юридично привілейовану, комерційно чутливу або конфіденційну інформацію третіх сторін. Вирішальним буде те, як ці принципи втілять у конкретних правилах доступу, звітування та публічного розкриття висновків. 14
41
Місце угоди в плані Даріо Амодея
Anthropic називає домовленість з Accenture раннім кроком у реалізації зобов’язання, яке генеральний директор Anthropic Даріо Амодей виклав у есе We Must Pace the Frontier («Ми маємо стримувати темп розвитку передового ШІ»): вбудувати сторонніх оцінювачів у роботу компанії. 13
Його підхід складається з трьох частин:
- Вбудовані незалежні оцінювачі. Компанії, що створюють найпотужніші моделі ШІ, мали б забезпечити зовнішнім перевіряльникам постійний доступ, наближений до доступу працівників. Їхнє завдання — перевіряти безпекові практики, процеси навчання, моделі й повідомляти про інциденти. Anthropic уже зобов’язалася зробити це у власній структурі.
14
45
- Координація між провідними лабораторіями ШІ в демократичних країнах. У концепції Амодея йдеться про спільні та такі, що піддаються перевірці, підходи, аби конкурентна боротьба не спонукала компанії нехтувати безпекою.
21
- Глобальна координація. План також передбачає взаємодію ширше за межами демократичних держав, водночас визнаючи складність перевірки домовленостей між урядами та компаніями.
37
Anthropic вважає, що уряди мають сприяти тому, щоб незалежна оцінка й прозорість стали стандартною вимогою для розробників передових моделей, а не залишалися суто добровільною практикою окремих компаній. 24
27
Accenture не буде єдиним оцінювачем
Угода не робить Faculty єдиним зовнішнім оцінювачем Anthropic. Компанія заявила, що планує працювати з кількома командами та вивчає можливості співпраці з METR й іншими некомерційними організаціями за окремими механізмами фінансування. Accenture, зі свого боку, може виконувати подібну роботу й для інших розробників ШІ. 13
Наразі Anthropic безпосередньо фінансуватиме роботу Accenture, посилаючись на нагальну потребу нарощувати потенціал у сфері оцінювання. У довшій перспективі компанія допускає, що більшу незалежність оцінювачів могли б підтримати спільне або державне фінансування. 9
13
Зв’язок із попередньою комерційною угодою
Новий безпековий проєкт продовжує, але не дублює грудневе розширення комерційної співпраці 2025 року. Тоді компанії створили Accenture Anthropic Business Group і планували навчити близько 30 000 фахівців Accenture працювати з Claude. 1
2
Теперішня домовленість має іншу мету: побудувати постійну спроможність перевіряти безпеку передових моделей. Після оголошення акції Accenture, за повідомленнями, зросли приблизно на 6% на ранніх позабіржових торгах. 5
Що тут справді важливо
Ключова новина — не лише заявлені $2 млрд. Партнери намагаються формалізувати інший тип нагляду: зовнішні оцінювачі працюють усередині лабораторії, що розробляє передовий ШІ, і отримують доступ, ближчий до доступу внутрішньої команди ризиків, ніж до звичайного періодичного аудитора.
Чи перетвориться ця схема на реальну незалежну підзвітність, залежатиме від остаточних умов: фактичного доступу команди, її здатності оприлюднювати несприятливі висновки та того, чи запровадять подібні вимоги інші провідні лабораторії та уряди. 13
14
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Accenture і Anthropic створюють команду вбудованих оцінювачів безпеки ШІ"?
Accenture і Anthropic очікують, що кожна вкладе щонайменше $1 млрд протягом п’яти років — разом не менше $2 млрд — у перевірку безпеки передових моделей Anthropic.
What are the key points to validate first?
Accenture і Anthropic очікують, що кожна вкладе щонайменше $1 млрд протягом п’яти років — разом не менше $2 млрд — у перевірку безпеки передових моделей Anthropic. Команду вбудованих оцінювачів очолить Faculty — спеціалізований ШІ підрозділ Accenture; вона тестуватиме моделі, шукатиме вразливості та оцінюватиме захисні механізми.
What should I do next in practice?
Партнерство не є ексклюзивним: Anthropic планує залучати кількох оцінювачів, зокрема некомерційні організації на кшталт METR.