Суть критики: широкі фільтри ламають законну роботу

Головна скарга дослідників — надзвичайна чутливість класифікаторів контенту Fable 5. Валентина «Chompie» Пальміотті, відома дослідниця безпеки з IBM X-Force, розповіла TechCrunch, що модель відхиляє «будь-який запит, який хоча б побіжно стосується кіберсфери — навіть невинні завдання, як-от читання допису в блозі» . Це означає, що під блокування потрапляють не лише небезпечні запити, а й прохання допомогти розібратися з фундаментальними концепціями кібербезпеки.

Таке надмірне блокування має прямий негативний вплив на корисність моделі. Коли запит позначається як небезпечний, користувач отримує розмиту, спрощену відповідь від старішої версії ШІ, причому про цю підміну йому відкрито не повідомляють . Ситуацію ускладнило те, як саме було розкрито цю інформацію. Критики стверджують, що про таку поведінку стало відомо лише з надр 319-сторінкової системної картки, що призвело до звинувачень Anthropic у «таємному саботажі» можливостей моделі для певних користувачів .

Обмеження не обмежуються лише кібербезпекою. Запобіжники також націлені на запити, пов'язані з біологією, хімією та, що критично важливо, з дистиляцією моделей ШІ. Останній пункт викликав окрему хвилю критики: деякі розробники звинувачують Anthropic у використанні «безпеки» як приводу для антиконкурентної поведінки, що заважає іншим розробникам ШІ використовувати результати роботи Fable 5 для навчання власних моделей .

Як працює система захисту: «тихий» перемикач

Система безпеки в Fable 5 — це не простий механізм відмови. Це система маршрутизації, створена для того, щоб «мовчки» давати збій . Архітектура працює у три кроки:

1. Класифікатори перед моделлю: Окремі системи ШІ, які називаються класифікаторами, розташовуються перед основною моделлю Fable 5. Вони в режимі реального часу перевіряють запити користувачів, відстежуючи ключові слова та шаблони, пов'язані з чотирма зонами високого ризику: кібербезпека, біологія, хімія та дистиляція моделей .
2. «Тихий» відкат: Коли класифікатор спрацьовує, він не блокує відповідь. Натомість він непомітно і безшумно перенаправляє запит до старішої та менш потужної моделі Claude Opus 4.8, яка й генерує відповідь .
3. Жодних сповіщень користувачу: Критичним недоліком дизайну, на думку критиків, є те, що інтерфейс користувача не показує явно цю підміну моделі. Користувачі помічають це лише тоді, коли якість відповіді раптово падає, через що здається, ніби Fable 5 просто незрозуміло чому працює погано .

Anthropic стверджує, що ці класифікатори спрацьовують у середньому менш ніж у 5% усіх сесій . Компанія публічно визнала проблему надмірного блокування. Представник компанії повідомив Business Insider, що заходи безпеки «можуть позначати безпечний, нейтральний або нешкідливий контент», але виправдав це як необхідний компроміс для публічного випуску моделі з такими потужними базовими можливостями .

Як Anthropic виправдовує консервативне налаштування

Позиція Anthropic полягає в тому, що консервативні запобіжники — це свідомий і відповідальний вибір, а не помилка. Компанія стверджує, що базова модель класу Mythos настільки вправна в таких завданнях, як пошук і використання вразливостей у програмному забезпеченні, що її необмежений публічний випуск створив би неприйнятний ризик катастрофічного зловживання .

На їхню думку, запобіжники — це компроміс у дизайні, спосіб надати публіці доступ до найсучаснішої моделі для міркувань, кодингу та написання текстів, одночасно помістивши в «пісочницю» її найнебезпечніші потенційні можливості . Надмірне блокування вони подають як тимчасову ціну за можливість випустити потужну модель «швидко і безпечно», обіцяючи з часом вдосконалювати класифікатори .

Нова галузева модель: одна модель, два рівні доступу

Реліз Claude Fable 5 не можна повністю зрозуміти у відриві від контексту. Це лише половина дворівневої стратегії розгортання, яка стає новим галузевим стандартом для передових моделей ШІ .

Claude Fable 5 проти Claude Mythos 5

Того ж дня, коли вийшла Fable 5, Anthropic також анонсувала Claude Mythos 5. Обидві моделі мають абсолютно однакову базову архітектуру та вагові коефіцієнти — це один і той самий «мозок». Єдина відмінність — конфігурація безпеки. У Mythos 5 класифікатори у чутливих сферах вимкнені, що дає їй повний, необмежений доступ до всіх можливостей .

Однак Mythos 5 не для широкого загалу. Вона доступна лише невеликій групі перевірених партнерів, зокрема урядовим установам та операторам критичної інфраструктури, через ініціативу під назвою Project Glasswing . Ця програма, підтримана урядом США, спочатку була запущена з 12 партнерами-засновниками, серед яких технологічні гіганти AWS, Google та Microsoft. Її мета — дозволити «кіберзахисникам» використовувати ШІ для пошуку та виправлення вразливостей у програмному забезпеченні в масштабі . З випуском Mythos 5 доступ було розширено приблизно до 40 організацій .

Таблиця нижче ілюструє фундаментальну різницю:

Розгортання ШІ з рівнями можливостей

Поділ на Fable/Mythos від Anthropic є найяскравішим прикладом того, що можна назвати розгортанням ШІ з рівнями можливостей (capability-tiered AI deployment). У цій новій моделі єдиний передовий ШІ більше не є єдиним продуктом. Його повна потужність — це привілей, а не даність, а захисні обмеження є механізмом, який створює диференціацію продукту .

Ця схема не є унікальною для Anthropic. Інші провідні компанії з розробки ШІ, зокрема OpenAI, застосували подібні підходи, надаючи версії своїх найпередовіших моделей з обмеженим доступом партнерам із національної безпеки та дослідницьких установ . Запуск Fable/Mythos кристалізує майбутнє, в якому найпотужніші можливості ШІ регулюються не технологією, а статусом перевірки, де протоколи безпеки виконують функцію механізмів контролю доступу. Цей підхід уже розпалює ширшу дискусію про централізацію, справедливість та справжнє значення «публічної» безпеки ШІ.

Суть критики: широкі фільтри ламають законну роботу

Головна скарга дослідників — надзвичайна чутливість класифікаторів контенту Fable 5. Валентина «Chompie» Пальміотті, відома дослідниця безпеки з IBM X-Force, розповіла TechCrunch, що модель відхиляє «будь-який запит, який хоча б побіжно стосується кіберсфери — навіть невинні завдання, як-от читання допису в блозі» . Це означає, що під блокування потрапляють не лише небезпечні запити, а й прохання допомогти розібратися з фундаментальними концепціями кібербезпеки.

Таке надмірне блокування має прямий негативний вплив на корисність моделі. Коли запит позначається як небезпечний, користувач отримує розмиту, спрощену відповідь від старішої версії ШІ, причому про цю підміну йому відкрито не повідомляють . Ситуацію ускладнило те, як саме було розкрито цю інформацію. Критики стверджують, що про таку поведінку стало відомо лише з надр 319-сторінкової системної картки, що призвело до звинувачень Anthropic у «таємному саботажі» можливостей моделі для певних користувачів .

Обмеження не обмежуються лише кібербезпекою. Запобіжники також націлені на запити, пов'язані з біологією, хімією та, що критично важливо, з дистиляцією моделей ШІ. Останній пункт викликав окрему хвилю критики: деякі розробники звинувачують Anthropic у використанні «безпеки» як приводу для антиконкурентної поведінки, що заважає іншим розробникам ШІ використовувати результати роботи Fable 5 для навчання власних моделей .

Як працює система захисту: «тихий» перемикач

Система безпеки в Fable 5 — це не простий механізм відмови. Це система маршрутизації, створена для того, щоб «мовчки» давати збій . Архітектура працює у три кроки:

1. Класифікатори перед моделлю: Окремі системи ШІ, які називаються класифікаторами, розташовуються перед основною моделлю Fable 5. Вони в режимі реального часу перевіряють запити користувачів, відстежуючи ключові слова та шаблони, пов'язані з чотирма зонами високого ризику: кібербезпека, біологія, хімія та дистиляція моделей .
2. «Тихий» відкат: Коли класифікатор спрацьовує, він не блокує відповідь. Натомість він непомітно і безшумно перенаправляє запит до старішої та менш потужної моделі Claude Opus 4.8, яка й генерує відповідь .
3. Жодних сповіщень користувачу: Критичним недоліком дизайну, на думку критиків, є те, що інтерфейс користувача не показує явно цю підміну моделі. Користувачі помічають це лише тоді, коли якість відповіді раптово падає, через що здається, ніби Fable 5 просто незрозуміло чому працює погано .

Anthropic стверджує, що ці класифікатори спрацьовують у середньому менш ніж у 5% усіх сесій . Компанія публічно визнала проблему надмірного блокування. Представник компанії повідомив Business Insider, що заходи безпеки «можуть позначати безпечний, нейтральний або нешкідливий контент», але виправдав це як необхідний компроміс для публічного випуску моделі з такими потужними базовими можливостями .

Як Anthropic виправдовує консервативне налаштування

Позиція Anthropic полягає в тому, що консервативні запобіжники — це свідомий і відповідальний вибір, а не помилка. Компанія стверджує, що базова модель класу Mythos настільки вправна в таких завданнях, як пошук і використання вразливостей у програмному забезпеченні, що її необмежений публічний випуск створив би неприйнятний ризик катастрофічного зловживання .

На їхню думку, запобіжники — це компроміс у дизайні, спосіб надати публіці доступ до найсучаснішої моделі для міркувань, кодингу та написання текстів, одночасно помістивши в «пісочницю» її найнебезпечніші потенційні можливості . Надмірне блокування вони подають як тимчасову ціну за можливість випустити потужну модель «швидко і безпечно», обіцяючи з часом вдосконалювати класифікатори .

Нова галузева модель: одна модель, два рівні доступу

Реліз Claude Fable 5 не можна повністю зрозуміти у відриві від контексту. Це лише половина дворівневої стратегії розгортання, яка стає новим галузевим стандартом для передових моделей ШІ .

Claude Fable 5 проти Claude Mythos 5

Того ж дня, коли вийшла Fable 5, Anthropic також анонсувала Claude Mythos 5. Обидві моделі мають абсолютно однакову базову архітектуру та вагові коефіцієнти — це один і той самий «мозок». Єдина відмінність — конфігурація безпеки. У Mythos 5 класифікатори у чутливих сферах вимкнені, що дає їй повний, необмежений доступ до всіх можливостей .

Однак Mythos 5 не для широкого загалу. Вона доступна лише невеликій групі перевірених партнерів, зокрема урядовим установам та операторам критичної інфраструктури, через ініціативу під назвою Project Glasswing . Ця програма, підтримана урядом США, спочатку була запущена з 12 партнерами-засновниками, серед яких технологічні гіганти AWS, Google та Microsoft. Її мета — дозволити «кіберзахисникам» використовувати ШІ для пошуку та виправлення вразливостей у програмному забезпеченні в масштабі . З випуском Mythos 5 доступ було розширено приблизно до 40 організацій .

Таблиця нижче ілюструє фундаментальну різницю:

Розгортання ШІ з рівнями можливостей

Поділ на Fable/Mythos від Anthropic є найяскравішим прикладом того, що можна назвати розгортанням ШІ з рівнями можливостей (capability-tiered AI deployment). У цій новій моделі єдиний передовий ШІ більше не є єдиним продуктом. Його повна потужність — це привілей, а не даність, а захисні обмеження є механізмом, який створює диференціацію продукту .

Ця схема не є унікальною для Anthropic. Інші провідні компанії з розробки ШІ, зокрема OpenAI, застосували подібні підходи, надаючи версії своїх найпередовіших моделей з обмеженим доступом партнерам із національної безпеки та дослідницьких установ . Запуск Fable/Mythos кристалізує майбутнє, в якому найпотужніші можливості ШІ регулюються не технологією, а статусом перевірки, де протоколи безпеки виконують функцію механізмів контролю доступу. Цей підхід уже розпалює ширшу дискусію про централізацію, справедливість та справжнє значення «публічної» безпеки ШІ.