Résultats clés

• La théorie de Muon est utile pour décider où l'appliquer : les poids matriciels sont la cible naturelle, car les descriptions théoriques de Muon utilisent des normes matricielles, des mises à jour polaires et une géométrie de norme spectrale/nucléaire .
• L'interprétation par norme spectrale implique que Muon effectue une forme de descente de gradient sous contrainte de norme spectrale, ce qui explique pourquoi sa mise à jour a une taille de norme d'opérateur contrôlée .
• L'interprétation par norme nucléaire / Lion-K fournit un cadre d'optimisation formel pour Muon et aide à le relier à des familles d'optimiseurs connues plutôt que de le traiter comme une heuristique isolée .
• La théorie de la stabilité suggère que les mises à jour polaires de type Muon peuvent être utiles dans les contextes où le contrôle de la pire mise à jour matricielle est important, y compris l'entraînement adversarial .
• Les analyses de convergence et de retour d'erreur peuvent être utilisées pour concevoir des variantes de Muon avec de meilleures garanties théoriques ou un meilleur comportement sous des mises à jour transformées, compressées ou approximatives .

Faits confirmés

• Muon est analysé comme un optimiseur dont la géométrie de mise à jour distinctive est liée aux paramètres matriciels et à la structure de norme spectrale/nucléaire .
• Des travaux théoriques récents caractérisent Muon comme une descente de gradient sous contrainte de norme spectrale .
• Une autre ligne de travail montre que Muon peut être vu comme une instance de Lion-K équipée de la norme nucléaire .
• L'analyse du retour d'erreur étudie Muon et les méthodes associées sous des choix de normes appropriés et étend l'analyse à des contextes de lissage généralisé par couche .
• La théorie de l'entraînement adversarial soutient que la mise à jour polaire de Muon induit un plafond de stabilité de norme spectrale, ce qui signifie que chaque mise à jour matricielle a une norme spectrale contrôlée .
• De nouveaux travaux ont déjà utilisé l'interprétation théorique pour généraliser Muon au-delà des matrices, par exemple Tensorion, présenté comme une généralisation tensorielle de Muon .

Ce qui reste une inférence

Les applications suivantes de la théorie sont raisonnables, mais ne sont pas toujours complètement prouvées pour tous les contextes d'entraînement à grande échelle :

• Choix des paramètres utilisant Muon : La théorie suggère d'utiliser Muon sur les poids matriciels tels que les couches linéaires, les projections MLP et les projections d'attention, tout en utilisant un autre optimiseur pour les biais, les embeddings, les paramètres de normalisation ou les paramètres scalaires/vectoriels.
• Conception du taux d'apprentissage : Puisque la mise à jour polaire de Muon contrôle la norme spectrale de chaque mise à jour matricielle, on peut raisonner sur le taux d'apprentissage comme contrôlant la taille maximale du pas de norme d'opérateur .
• Diagnostics : La théorie suggère de surveiller les normes spectrales des mises à jour, les spectres de valeurs singulières et la structure de rang pour comprendre si Muon produit des mises à jour matricielles équilibrées .
• Optimisation adaptée à l'architecture : Puisque Muon est sensible aux matrices, la théorie suggère d'étendre les idées de type Muon aux tenseurs, aux couches structurées, aux mises à jour tenant compte de l'information de Fisher ou aux modèles de lissage par couche .

Ce que les preuves suggèrent

1. Meilleure conception d'optimiseur

L'interprétation théorique aide les chercheurs à concevoir de nouveaux optimiseurs plutôt que de seulement régler Muon empiriquement. Si Muon est compris comme une descente de gradient sous contrainte de norme spectrale, alors l'étape naturelle suivante est de se demander quelle devrait être la mise à jour analogue pour les tenseurs, les matrices structurées ou les géométries tenant compte de la courbure .

Par exemple, Tensorion s'appuie explicitement sur la vision selon laquelle Muon effectue une descente de gradient sous contrainte de norme spectrale et généralise l'idée à l'optimisation tensorielle . FISMO s'appuie également sur l'affirmation que Muon implémente une descente de gradient sous contrainte de norme spectrale, puis intègre des informations structurées de Fisher dans un optimiseur à momentum orthogonalisé .

2. Meilleur choix des couches cibles

La théorie explique pourquoi Muon est particulièrement naturel pour les couches matricielles. Un poids matriciel n'est pas seulement une liste de coordonnées indépendantes ; il représente une application linéaire, donc une mise à jour basée sur une norme matricielle peut exploiter une structure que le raisonnement coordonnée par coordonnée n'exprime pas directement .

Implication pratique :

• Utiliser Muon pour les grands poids matriciels.
• Être prudent en l'appliquant directement aux vecteurs, aux biais, aux paramètres de normalisation et aux embeddings.
• Utiliser une recette hybride, par exemple Muon pour les poids matriciels et un autre optimiseur pour le reste.

Cela est cohérent avec les présentations de Muon qui le motivent par une géométrie de mise à jour adaptée aux matrices et discutent de l'extension de la méthode à de nouveaux types de couches .

3. Raisonnement sur le taux d'apprentissage et la stabilité

La vision par norme spectrale offre un moyen utile d'interpréter le taux d'apprentissage. Si la direction de mise à jour de Muon a une norme spectrale contrôlée, alors le taux d'apprentissage contrôle approximativement la taille maximale de la norme d'opérateur de la mise à jour matricielle .

Cela importe parce que la norme d'opérateur mesure la plus grande amplification qu'une matrice peut appliquer à une direction d'entrée. Par conséquent, contrôler la norme d'opérateur des mises à jour peut rendre l'entraînement plus stable que de permettre à une mise à jour d'être dominée par quelques très grandes directions singulières .

Cette interprétation est particulièrement explicite dans la théorie de l'entraînement adversarial, où la mise à jour polaire de Muon est présentée comme créant un plafond de stabilité de norme spectrale pour chaque mise à jour matricielle .

4. Explication de l'entraînement rapide

L'interprétation théorique de Muon peut expliquer un entraînement rapide par l'équilibrage des valeurs singulières. Si une matrice de gradient a une décomposition en valeurs singulières

G = U Σ Vᵀ,

alors la direction Muon idéale est approximativement

Polar(G) = U Vᵀ.

Cela supprime les valeurs singulières de la direction de gradient brute. Les grandes directions singulières sont atténuées par rapport à SGD, et les petites directions singulières sont amplifiées par rapport à SGD, donc l'interprétation pratique est que Muon peut progresser dans de nombreuses directions matricielles au lieu de laisser seulement les plus grands modes singuliers dominer .

Cela découle naturellement de l'interprétation de Muon par norme spectrale/nucléaire .

5. Conception de variantes de Muon avec garanties

Les travaux théoriques sont également utiles pour créer des variantes avec des garanties de convergence. L'analyse du retour d'erreur étudie Muon et les optimiseurs associés sous des choix de normes appropriés et dans des régimes de lissage généralisés par couche . Les analyses de convergence et de taille critique de lot tentent également d'expliquer le comportement de Muon dans divers contextes d'entraînement pratiques .

Implication pratique :

• Si la mise à jour de Muon supprime ou transforme une partie de l'information du gradient, le retour d'erreur peut aider à accumuler la partie perdue .
• Si la taille du lot affecte Muon différemment des autres optimiseurs, la théorie de la convergence et de la taille critique de lot peut guider les règles de passage à l'échelle .
• Si une orthogonalisation approximative est utilisée, la théorie peut indiquer le niveau d'erreur d'approximation acceptable .

6. Entraînement robuste et adversarial

Une application directe est l'entraînement adversarial. La théorie selon laquelle la mise à jour polaire de Muon impose un plafond de stabilité de norme spectrale suggère que Muon peut être utile lorsque la sensibilité à la pire direction est importante .

Cela ne prouve pas que Muon est toujours meilleur pour la robustesse adversarial, mais cela donne un mécanisme : des mises à jour à norme d'opérateur bornée peuvent limiter les changements instables dans les transformations linéaires du modèle .

7. Extension de Muon au-delà des matrices

L'interprétation de Muon comme une descente de gradient adaptée à la géométrie suggère également des généralisations au-delà des poids matriciels ordinaires. Tensorion est explicitement motivé comme une généralisation tensorielle de Muon .

C'est l'une des applications les plus claires de la théorie : une fois que Muon est compris géométriquement, les chercheurs peuvent se demander quelle est la norme correcte, la norme duale et la mise à jour polaire pour les paramètres tensoriels d'ordre supérieur .

Preuves contradictoires ou incertitude

• Le consensus le plus fort concerne l'interprétation par norme spectrale/nucléaire : plusieurs sources décrivent Muon comme une descente de gradient sous contrainte de norme spectrale ou comme une instance de Lion-K avec norme nucléaire .
• Il y a moins de certitude quant à savoir si cette théorie explique pleinement les performances d'entraînement des grands transformeurs. Les résultats existants fournissent des mécanismes et des garanties partielles, mais l'entraînement à grande échelle inclut des gradients stochastiques, des couches de normalisation, la précision mixte, la décroissance du poids, les embeddings et des recettes d'optimiseur mixtes.
• Les affirmations de stabilité sont prometteuses mais spécifiques à la tâche. La théorie de l'entraînement adversarial donne un mécanisme clair pour la stabilité de la norme spectrale, mais cela n'implique pas automatiquement de meilleures performances dans tous les contextes d'entraînement non adversarial .
• Les analyses de convergence sont utiles, mais elles peuvent reposer sur des hypothèses plus propres que l'entraînement réel des réseaux de neurones .

Questions ouvertes

• Quelles couches devraient utiliser Muon dans les très grands transformeurs : toutes les couches matricielles, seulement les couches cachées, ou seulement certaines projections d'attention/MLP ?
• Comment les taux d'apprentissage de Muon devraient-ils évoluer avec la largeur, la profondeur, la taille du lot et la forme de la matrice ?
• Quelle quantité d'erreur d'orthogonalisation approximative peut être tolérée avant que Muon ne perde son avantage de norme spectrale ?
• La théorie de Muon peut-elle être unifiée avec l'adaptativité de type AdamW, la décroissance du poids, la normalisation et le momentum dans une seule théorie d'entraînement à grande échelle ?
• Le mécanisme de stabilité de norme spectrale améliore-t-il systématiquement la robustesse, ou seulement dans des régimes d'entraînement adversarial spécifiques ?

Sources les plus fiables

• Les articles sur la norme spectrale et la norme nucléaire sont les plus importants pour comprendre l'interprétation théorique fondamentale de Muon .
• Tensorion est utile pour voir comment la théorie motive la conception de nouveaux optimiseurs au-delà des matrices .
• L'article sur l'entraînement adversarial est utile pour comprendre les applications de stabilité de la mise à jour polaire de Muon .
• L'analyse du retour d'erreur est utile pour comprendre comment préserver la convergence lors de l'utilisation de mises à jour transformées de type Muon .
• Les dérivations de Muon sont utiles pour le contexte pratique et pour comprendre pourquoi les chercheurs considèrent la méthode comme extensible à de nouveaux types de couches .

Prochaine étape recommandée

Si vous rédigez une revue de la littérature, organisez les « applications de la théorie » en cinq sous-sections :

1. Sélection des couches : pourquoi Muon est utilisé pour les couches matricielles.
2. Guidage des hyperparamètres : taux d'apprentissage comme contrôle de la taille du pas de norme spectrale.
3. Conception d'optimiseur : variantes de Muon telles que les extensions tensorielles ou Fisher.
4. Stabilité et robustesse : plafond de mise à jour de norme spectrale et entraînement adversarial.
5. Convergence et implémentation : retour d'erreur, taille critique de lot et mises à jour approximatives.

Résumé

L'interprétation théorique de Muon a des applications pratiques dans la conception d'optimiseurs, la sélection des couches, le raisonnement sur le taux d'apprentissage, l'analyse de stabilité, la robustesse, la théorie de la convergence et les extensions aux tenseurs ou aux paramètres structurés. L'interprétation la plus utile est que Muon effectue une descente de gradient adaptée aux matrices sous une géométrie de norme spectrale/nucléaire, ce qui explique pourquoi il est particulièrement adapté aux couches matricielles des réseaux de neurones . Sa théorie est déjà utilisée pour concevoir de nouveaux optimiseurs, analyser la stabilité et construire des garanties de convergence, mais une théorie complète pour l'entraînement des grands transformeurs reste ouverte .

Résultats clés

• La théorie de Muon est utile pour décider où l'appliquer : les poids matriciels sont la cible naturelle, car les descriptions théoriques de Muon utilisent des normes matricielles, des mises à jour polaires et une géométrie de norme spectrale/nucléaire .
• L'interprétation par norme spectrale implique que Muon effectue une forme de descente de gradient sous contrainte de norme spectrale, ce qui explique pourquoi sa mise à jour a une taille de norme d'opérateur contrôlée .
• L'interprétation par norme nucléaire / Lion-K fournit un cadre d'optimisation formel pour Muon et aide à le relier à des familles d'optimiseurs connues plutôt que de le traiter comme une heuristique isolée .
• La théorie de la stabilité suggère que les mises à jour polaires de type Muon peuvent être utiles dans les contextes où le contrôle de la pire mise à jour matricielle est important, y compris l'entraînement adversarial .
• Les analyses de convergence et de retour d'erreur peuvent être utilisées pour concevoir des variantes de Muon avec de meilleures garanties théoriques ou un meilleur comportement sous des mises à jour transformées, compressées ou approximatives .

Faits confirmés

• Muon est analysé comme un optimiseur dont la géométrie de mise à jour distinctive est liée aux paramètres matriciels et à la structure de norme spectrale/nucléaire .
• Des travaux théoriques récents caractérisent Muon comme une descente de gradient sous contrainte de norme spectrale .
• Une autre ligne de travail montre que Muon peut être vu comme une instance de Lion-K équipée de la norme nucléaire .
• L'analyse du retour d'erreur étudie Muon et les méthodes associées sous des choix de normes appropriés et étend l'analyse à des contextes de lissage généralisé par couche .
• La théorie de l'entraînement adversarial soutient que la mise à jour polaire de Muon induit un plafond de stabilité de norme spectrale, ce qui signifie que chaque mise à jour matricielle a une norme spectrale contrôlée .
• De nouveaux travaux ont déjà utilisé l'interprétation théorique pour généraliser Muon au-delà des matrices, par exemple Tensorion, présenté comme une généralisation tensorielle de Muon .

Ce qui reste une inférence

Les applications suivantes de la théorie sont raisonnables, mais ne sont pas toujours complètement prouvées pour tous les contextes d'entraînement à grande échelle :

• Choix des paramètres utilisant Muon : La théorie suggère d'utiliser Muon sur les poids matriciels tels que les couches linéaires, les projections MLP et les projections d'attention, tout en utilisant un autre optimiseur pour les biais, les embeddings, les paramètres de normalisation ou les paramètres scalaires/vectoriels.
• Conception du taux d'apprentissage : Puisque la mise à jour polaire de Muon contrôle la norme spectrale de chaque mise à jour matricielle, on peut raisonner sur le taux d'apprentissage comme contrôlant la taille maximale du pas de norme d'opérateur .
• Diagnostics : La théorie suggère de surveiller les normes spectrales des mises à jour, les spectres de valeurs singulières et la structure de rang pour comprendre si Muon produit des mises à jour matricielles équilibrées .
• Optimisation adaptée à l'architecture : Puisque Muon est sensible aux matrices, la théorie suggère d'étendre les idées de type Muon aux tenseurs, aux couches structurées, aux mises à jour tenant compte de l'information de Fisher ou aux modèles de lissage par couche .

Ce que les preuves suggèrent

1. Meilleure conception d'optimiseur

L'interprétation théorique aide les chercheurs à concevoir de nouveaux optimiseurs plutôt que de seulement régler Muon empiriquement. Si Muon est compris comme une descente de gradient sous contrainte de norme spectrale, alors l'étape naturelle suivante est de se demander quelle devrait être la mise à jour analogue pour les tenseurs, les matrices structurées ou les géométries tenant compte de la courbure .

Par exemple, Tensorion s'appuie explicitement sur la vision selon laquelle Muon effectue une descente de gradient sous contrainte de norme spectrale et généralise l'idée à l'optimisation tensorielle . FISMO s'appuie également sur l'affirmation que Muon implémente une descente de gradient sous contrainte de norme spectrale, puis intègre des informations structurées de Fisher dans un optimiseur à momentum orthogonalisé .

2. Meilleur choix des couches cibles

La théorie explique pourquoi Muon est particulièrement naturel pour les couches matricielles. Un poids matriciel n'est pas seulement une liste de coordonnées indépendantes ; il représente une application linéaire, donc une mise à jour basée sur une norme matricielle peut exploiter une structure que le raisonnement coordonnée par coordonnée n'exprime pas directement .

Implication pratique :

• Utiliser Muon pour les grands poids matriciels.
• Être prudent en l'appliquant directement aux vecteurs, aux biais, aux paramètres de normalisation et aux embeddings.
• Utiliser une recette hybride, par exemple Muon pour les poids matriciels et un autre optimiseur pour le reste.

Cela est cohérent avec les présentations de Muon qui le motivent par une géométrie de mise à jour adaptée aux matrices et discutent de l'extension de la méthode à de nouveaux types de couches .

3. Raisonnement sur le taux d'apprentissage et la stabilité

La vision par norme spectrale offre un moyen utile d'interpréter le taux d'apprentissage. Si la direction de mise à jour de Muon a une norme spectrale contrôlée, alors le taux d'apprentissage contrôle approximativement la taille maximale de la norme d'opérateur de la mise à jour matricielle .

Cela importe parce que la norme d'opérateur mesure la plus grande amplification qu'une matrice peut appliquer à une direction d'entrée. Par conséquent, contrôler la norme d'opérateur des mises à jour peut rendre l'entraînement plus stable que de permettre à une mise à jour d'être dominée par quelques très grandes directions singulières .

Cette interprétation est particulièrement explicite dans la théorie de l'entraînement adversarial, où la mise à jour polaire de Muon est présentée comme créant un plafond de stabilité de norme spectrale pour chaque mise à jour matricielle .

4. Explication de l'entraînement rapide

L'interprétation théorique de Muon peut expliquer un entraînement rapide par l'équilibrage des valeurs singulières. Si une matrice de gradient a une décomposition en valeurs singulières

G = U Σ Vᵀ,

alors la direction Muon idéale est approximativement

Polar(G) = U Vᵀ.

Cela supprime les valeurs singulières de la direction de gradient brute. Les grandes directions singulières sont atténuées par rapport à SGD, et les petites directions singulières sont amplifiées par rapport à SGD, donc l'interprétation pratique est que Muon peut progresser dans de nombreuses directions matricielles au lieu de laisser seulement les plus grands modes singuliers dominer .

Cela découle naturellement de l'interprétation de Muon par norme spectrale/nucléaire .

5. Conception de variantes de Muon avec garanties

Les travaux théoriques sont également utiles pour créer des variantes avec des garanties de convergence. L'analyse du retour d'erreur étudie Muon et les optimiseurs associés sous des choix de normes appropriés et dans des régimes de lissage généralisés par couche . Les analyses de convergence et de taille critique de lot tentent également d'expliquer le comportement de Muon dans divers contextes d'entraînement pratiques .

Implication pratique :

• Si la mise à jour de Muon supprime ou transforme une partie de l'information du gradient, le retour d'erreur peut aider à accumuler la partie perdue .
• Si la taille du lot affecte Muon différemment des autres optimiseurs, la théorie de la convergence et de la taille critique de lot peut guider les règles de passage à l'échelle .
• Si une orthogonalisation approximative est utilisée, la théorie peut indiquer le niveau d'erreur d'approximation acceptable .

6. Entraînement robuste et adversarial

Une application directe est l'entraînement adversarial. La théorie selon laquelle la mise à jour polaire de Muon impose un plafond de stabilité de norme spectrale suggère que Muon peut être utile lorsque la sensibilité à la pire direction est importante .

Cela ne prouve pas que Muon est toujours meilleur pour la robustesse adversarial, mais cela donne un mécanisme : des mises à jour à norme d'opérateur bornée peuvent limiter les changements instables dans les transformations linéaires du modèle .

7. Extension de Muon au-delà des matrices

L'interprétation de Muon comme une descente de gradient adaptée à la géométrie suggère également des généralisations au-delà des poids matriciels ordinaires. Tensorion est explicitement motivé comme une généralisation tensorielle de Muon .

C'est l'une des applications les plus claires de la théorie : une fois que Muon est compris géométriquement, les chercheurs peuvent se demander quelle est la norme correcte, la norme duale et la mise à jour polaire pour les paramètres tensoriels d'ordre supérieur .

Preuves contradictoires ou incertitude

• Le consensus le plus fort concerne l'interprétation par norme spectrale/nucléaire : plusieurs sources décrivent Muon comme une descente de gradient sous contrainte de norme spectrale ou comme une instance de Lion-K avec norme nucléaire .
• Il y a moins de certitude quant à savoir si cette théorie explique pleinement les performances d'entraînement des grands transformeurs. Les résultats existants fournissent des mécanismes et des garanties partielles, mais l'entraînement à grande échelle inclut des gradients stochastiques, des couches de normalisation, la précision mixte, la décroissance du poids, les embeddings et des recettes d'optimiseur mixtes.
• Les affirmations de stabilité sont prometteuses mais spécifiques à la tâche. La théorie de l'entraînement adversarial donne un mécanisme clair pour la stabilité de la norme spectrale, mais cela n'implique pas automatiquement de meilleures performances dans tous les contextes d'entraînement non adversarial .
• Les analyses de convergence sont utiles, mais elles peuvent reposer sur des hypothèses plus propres que l'entraînement réel des réseaux de neurones .

Questions ouvertes

• Quelles couches devraient utiliser Muon dans les très grands transformeurs : toutes les couches matricielles, seulement les couches cachées, ou seulement certaines projections d'attention/MLP ?
• Comment les taux d'apprentissage de Muon devraient-ils évoluer avec la largeur, la profondeur, la taille du lot et la forme de la matrice ?
• Quelle quantité d'erreur d'orthogonalisation approximative peut être tolérée avant que Muon ne perde son avantage de norme spectrale ?
• La théorie de Muon peut-elle être unifiée avec l'adaptativité de type AdamW, la décroissance du poids, la normalisation et le momentum dans une seule théorie d'entraînement à grande échelle ?
• Le mécanisme de stabilité de norme spectrale améliore-t-il systématiquement la robustesse, ou seulement dans des régimes d'entraînement adversarial spécifiques ?

Sources les plus fiables

• Les articles sur la norme spectrale et la norme nucléaire sont les plus importants pour comprendre l'interprétation théorique fondamentale de Muon .
• Tensorion est utile pour voir comment la théorie motive la conception de nouveaux optimiseurs au-delà des matrices .
• L'article sur l'entraînement adversarial est utile pour comprendre les applications de stabilité de la mise à jour polaire de Muon .
• L'analyse du retour d'erreur est utile pour comprendre comment préserver la convergence lors de l'utilisation de mises à jour transformées de type Muon .
• Les dérivations de Muon sont utiles pour le contexte pratique et pour comprendre pourquoi les chercheurs considèrent la méthode comme extensible à de nouveaux types de couches .

Prochaine étape recommandée

Si vous rédigez une revue de la littérature, organisez les « applications de la théorie » en cinq sous-sections :

1. Sélection des couches : pourquoi Muon est utilisé pour les couches matricielles.
2. Guidage des hyperparamètres : taux d'apprentissage comme contrôle de la taille du pas de norme spectrale.
3. Conception d'optimiseur : variantes de Muon telles que les extensions tensorielles ou Fisher.
4. Stabilité et robustesse : plafond de mise à jour de norme spectrale et entraînement adversarial.
5. Convergence et implémentation : retour d'erreur, taille critique de lot et mises à jour approximatives.

Résumé

L'interprétation théorique de Muon a des applications pratiques dans la conception d'optimiseurs, la sélection des couches, le raisonnement sur le taux d'apprentissage, l'analyse de stabilité, la robustesse, la théorie de la convergence et les extensions aux tenseurs ou aux paramètres structurés. L'interprétation la plus utile est que Muon effectue une descente de gradient adaptée aux matrices sous une géométrie de norme spectrale/nucléaire, ce qui explique pourquoi il est particulièrement adapté aux couches matricielles des réseaux de neurones . Sa théorie est déjà utilisée pour concevoir de nouveaux optimiseurs, analyser la stabilité et construire des garanties de convergence, mais une théorie complète pour l'entraînement des grands transformeurs reste ouverte .