Beteendet granskas direkt under träning. De senaste Claude-modellerna har genomgått realtidsutvärdering av modellanpassning (alignment assessment) under själva träningen. Man har även identifierat och korrigerat felaktiga strategier som uppstår när agenten utför långsiktiga uppgifter.
Efterträningen (post-training) är inte enbart baserad på mänsklig preferensinlärning. Inom den offentliggjorda ramen använder Claude en kombination av konstitution, mänsklig feedback, AI-feedback och säkerhetsklassificerare. Målet är inte bara att lära modellen vad den inte får göra, utan att lära den principerna om varför ett visst beteende är önskvärt.
Skillnaden som känns ”dimensionsmässig” beror sannolikt på en kombination av flera faktorer: ① en starkare basmodell, ② träning för långa agentuppgifter, ③ ett stort kontextfönster, ④ förbättrad verktygsanvändning och självvalidering, samt ⑤ en mer avancerad efterträning. Huruvida modellen använder MoE (Mixture of Experts), antalet parametrar, datans sammansättning eller förstärkningsinlärningsalgoritmen är dock inte offentliggjort, så resten är spekulationer.