TRACES від Apodex перевіряє не лише відповіді ШІ, а й сам процес відкриття

Чим TRACES відрізняється від тестів із ключем відповідей

У традиційних завданнях заздалегідь визначені запитання, доступні дані та очікувана відповідь. TRACES натомість починається з практичної наукової мети, яку ще потрібно перетворити на конкретне дослідження. Система взаємодіє із середовищем, виконує дії, викликає наукові або обчислювальні інструменти й отримує зворотний зв’язок, подібний до результатів експерименту або роботи перевіряльника.

У результаті виникає довший цикл оцінювання:

1. Сформулювати або уточнити гіпотезу.
2. Обрати дію чи викликати відповідний інструмент.
3. Проаналізувати отримані докази або зворотний зв’язок.
4. Виявити помилки чи слабкі місця.
5. Виправити підхід і перевірити альтернативи.
6. Сформулювати висновок відповідно до сили та обмежень доказів.

Бенчмарк фіксує траєкторію дослідження, а не лише те, наскільки фінальний текст схожий на еталонну відповідь. Це особливо важливо, коли наукове питання не має усталеної відповіді, яка могла б слугувати звичайною «правдою для перевірки».

Шість можливостей, які перевіряє TRACES

Назва TRACES відповідає шести вимірам перевірки процесу, які також описують як HDS6:

• Tools — інструменти: чи вміє система обирати, використовувати та правильно тлумачити релевантні зовнішні або наукові інструменти;
• Repair — виправлення: чи може вона знаходити власні помилки й переглядати підхід після отримання зворотного зв’язку;
• Alternatives — альтернативи: чи розглядає конкуруючі гіпотези та зберігає, відкидає або уточнює їх з огляду на докази;
• Coherence — послідовність: чи підтримує зв’язну й несуперечливу лінію міркувань упродовж усього дослідження;
• Evidence — докази: чи спираються твердження на спостереження, результати роботи інструментів і експериментів;
• Scope — межі: чи обмежує система свої висновки тим, що насправді підтверджують доступні докази.

Разом ці критерії мають відрізнити надійне дослідження від упевненої, але необґрунтованої здогадки. Вони також дають змогу оцінювати якість процесу навіть тоді, коли остаточної відповіді ще немає.

Походження та масштаб бенчмарку

У межах Apodex Discovery зазначають, що для оцінювання відкритих наукових досліджень потрібні чотири складові: чітко сформульована проблема, середовище, пов’язане з реальністю, механізми перевірки та цикли, у яких система може виправляти власну роботу. TRACES є практичною реалізацією цього підходу.

Для пошуку задач Apodex, за власними даними, проаналізувала 561 індустрію у 16 секторах і сформувала перелік із 423 цінних проблем реального світу. До першого випуску виконуваного бенчмарку увійшли 20 проблем.

У доступних матеріалах згадуються, зокрема, такі напрями:

• дизайн капсидів аденоасоційованих вірусів (AAV);
• аналіз клінічних випробувань;
• перепрофілювання та переформулювання лікарських засобів;
• навчання великих мовних моделей і системи на їхній основі.

Ці приклади демонструють заявлений масштаб бенчмарку, однак надані матеріали не містять повного публічного переліку всіх задач або сфер, представлених у випуску.

Чому оцінювання процесу важливе для автономного ШІ

Штучний інтелект дедалі частіше використовують або пропонують використовувати для висування гіпотез, вибору напрямів дослідження, аналізу експериментальних результатів і допомоги у створенні ітеративних робочих процесів. У таких сценаріях самої переконливої мови недостатньо. Система має розуміти, що саме перевіряти, правильно трактувати результати, відновлюватися після помилок і не приписувати доказам більшої сили, ніж вони мають.

TRACES намагається закрити цю прогалину, розглядаючи наукове дослідження як інтерактивний процес. Система, яка доходить корисного результату через відстежувані докази та доречні виправлення, суттєво відрізняється від тієї, що видає подібний висновок без надійного шляху до нього.

Водночас такий підхід не скасовує людського нагляду. Дослідники та фахівці предметної галузі все одно мають визначати цілі й обмеження, оцінювати етичні та практичні ризики, перевіряти припущення й докази та вирішувати, чи виправдовує висновок реальні дії. Акцент TRACES на доступних для перевірки траєкторіях і чітких межах тверджень цінний саме тому, що дає експертам більше матеріалу для аналізу, ніж ізольована фінальна заява.

Як долучитися

У публічному оголошенні Apodex йдеться про відкритий набір як систем-розв’язувачів, так і наукових проблем.

Заявка від розробників має описувати повну систему, яка досліджує задачу, а не лише базову модель. До неї входять оболонка або шар оркестрації, інструменти, пам’ять і політика керування.

Пропозицію наукової проблеми потрібно сформулювати так, щоб її можна було перетворити на виконуване та перевірюване середовище. На практиці це означає чітко визначити, що система може спостерігати й робити, який зворотний зв’язок отримує та як проміжні або фінальні твердження перевірятимуться за явними критеріями успіху.

Головний висновок

TRACES змінює головне запитання бенчмарку з «Чи дала система очікувану відповідь?» на «Чи провела вона дисципліноване дослідження, засноване на доказах?». Це робить підхід ближчим до реальної наукової роботи, ніж статичні тести з ключем відповідей. Водночас є важливе обмеження: оцінка процесу покращує перевірку, але сама по собі не доводить, що відкриття, згенероване ШІ, є безпечним, корисним або готовим до практичного застосування. Людська наукова оцінка залишається необхідною.