Auto-valutazione durante l'addestramento. Nelle recenti versioni di Claude, Anthropic ha introdotto valutazioni dell'allineamento in tempo reale durante l'addestramento, rilevando e correggendo strategie errate che gli agenti potrebbero adottare per perseguire obiettivi a lungo termine.
Un post-addestramento più sofisticato. Il processo non si limita a un semplice apprendimento basato sulle preferenze umane. I documenti pubblici menzionano l'uso congiunto della "Costituzione" di Claude, del feedback umano, del feedback dell'IA e di classificatori di sicurezza. L'obiettivo non è solo imparare un elenco di "cosa non fare", ma comprendere i principi alla base dei comportamenti desiderati.
La sensazione di trovarsi di fronte a qualcosa di "diverso" probabilmente nasce dalla combinazione simultanea di diversi fattori: ① un modello di base più potente, ② un addestramento specifico per agenti a lungo termine, ③ un contesto amplissimo, ④ capacità di usare strumenti e auto-verificarsi, e ⑤ tecniche di post-addestramento migliorate. Dettagli come l'eventuale architettura MoE, il numero di parametri o l'algoritmo di reinforcement learning non sono stati resi noti, quindi per il resto si tratta solo di ipotesi.