Більше, ніж просто навчання з людським зворотним зв'язком. Згідно з опублікованою інформацією, навчання включає «конституцію» Claude, людський зворотний зв'язок, зворотний зв'язок від ШІ та класифікатори безпеки.13 Мета — не просто вивчити список «не можна», а зрозуміти принципи, чому певна поведінка є бажаною.
Відчуття «іншого виміру» виникає, найімовірніше, через одночасне застосування кількох факторів: ① потужніша базова модель, ② тренування для довготривалих агентів, ③ величезний контекст, ④ використання інструментів і самоперевірка, ⑤ покращена післятренувальна підготовка. Чи використовується архітектура MoE, скільки параметрів, який алгоритм підкріплювального навчання — ці ключові деталі не розголошуються, тому все інше — лише здогади.
Більше, ніж просто навчання з людським зворотним зв'язком. Згідно з опублікованою інформацією, навчання включає «конституцію» Claude, людський зворотний зв'язок, зворотний зв'язок від ШІ та класифікатори безпеки.13 Мета — не просто вивчити список «не можна», а зрозуміти принципи, чому певна поведінка є бажаною.
Відчуття «іншого виміру» виникає, найімовірніше, через одночасне застосування кількох факторів: ① потужніша базова модель, ② тренування для довготривалих агентів, ③ величезний контекст, ④ використання інструментів і самоперевірка, ⑤ покращена післятренувальна підготовка. Чи використовується архітектура MoE, скільки параметрів, який алгоритм підкріплювального навчання — ці ключові деталі не розголошуються, тому все інше — лише здогади.