Parallélisme expert pour le service du MoE
Le parallélisme expert divise les nombreux « experts » de feed-forward d'un modèle de mélange d'experts sur différents GPU, de sorte que chaque appareil ne contient qu'une partie des paramètres.
Aperçu
It is the key to serving trillion-parameter MoE models cheaply, since only a few experts run per token.
Plongée profonde
Une couche de mélange d'experts (MoE) remplace un grand réseau de rétroaction par de nombreux réseaux plus petits (experts) ainsi qu'un routeur qui sélectionne les k meilleurs experts (souvent 1 ou 2) par jeton. Le parallélisme expert (EP) place différents experts sur différents GPU. Lors de l'inférence, le routeur décide de quels experts chaque jeton a besoin, puis une étape de communication globale mélange les jetons vers les GPU contenant les experts choisis, exécute le FFN et mélange les résultats. Cela permet à un modèle d'avoir d'énormes paramètres totaux (clairsemés) tout en n'activant qu'une petite fraction par jeton (faibles FLOP). Des modèles comme Mixtral 8x7B, DeepSeek-V3 et GPT-OSS l'utilisent. Les parties difficiles sont l'équilibrage de charge entre les experts et les deux sauts tout-à-tout coûteux par couche.
Aperçu technique
Le mécanisme de base est constitué de deux collectifs tout-à-tout par couche MoE : répartition (envoyer des jetons à leurs experts) et combinaison (rassembler les résultats). Étant donné que le routage dépend des données, le nombre de jetons frappant chaque expert varie, provoquant un déséquilibre de charge et des « retardataires ». Les systèmes de desserte ajoutent des facteurs de capacité, des tampons experts et des suppressions ou remplissages de jetons pour maintenir les GEMM (multiplications matricielles) uniformes, et chevauchent souvent la communication tout-à-tout avec des calculs experts pour masquer la latence.
Impact stratégique
Coût et budget
Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
Décisions plus claires
La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
Contrôle qualité
De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
L’avenir du parallélisme expert au service du ministère de l’Éducation
Attendez-vous à une co-conception plus stricte du routage et du matériel : des noyaux fusionnés de répartition, de calcul et de combinaison, des GEMM regroupés qui regroupent de nombreux experts et un tout-à-tout compatible NVLink/InfiniBand. Des techniques telles que l'équilibrage auxiliaire sans perte et le routage limité aux nœuds de DeepSeek réduisent le trafic entre nœuds. Le service désagrégé consacrera des GPU « experts » distincts des GPU d'attention, et un nombre d'experts plus important (des centaines) avec un top-k plus fin poussera le MoE vers une parcimonie extrême tout en maintenant le coût par jeton stable.
Mise en œuvre dans le monde réel
Servir Mixtral 8x7B sur 2 à 4 GPU en plaçant 2 à 4 de ses 8 experts sur chaque appareil
DeepSeek-V3 utilise un routage limité aux nœuds pour limiter le nombre de nœuds couverts par les experts d'un jeton, coupant ainsi tous les nœuds entre les nœuds.
Utilisation du mode parallèle expert vLLM ou SGLang pour héberger un modèle clairsemé de plus de 200 B sur un seul nœud à 8 GPU
Combiner le parallélisme expert avec le parallélisme tensoriel sur les couches d'attention dans un déploiement hybride EP+TP
Risques et garde-fous
L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Feuille de route de mise en œuvre
Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
Benchmark dans des conditions de charge et de données réalistes.
Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Expert Parallelism for MoE Serving quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Guide suivant
Service de pré-remplissage et de décodage désagrégé
Questions fréquemment posées
What is Expert Parallelism for MoE Serving?
Le parallélisme expert divise les nombreux « experts » de feed-forward d'un modèle de mélange d'experts sur différents GPU, de sorte que chaque appareil ne contient qu'une partie des paramètres. C’est la clé pour servir à moindre coût des modèles MoE comportant des milliards de paramètres, puisque seuls quelques experts exécutent chaque jeton.
Que distribue le parallélisme expert sur les GPU ?
Le parallélisme expert place différents experts (les sous-réseaux FFN d'une couche MoE) sur différents GPU, de sorte que chaque appareil ne contient qu'un sous-ensemble d'experts.
Quel modèle de communication est au cœur du parallélisme des experts du MoE ?
Chaque couche du MoE a généralement besoin d'un tout-à-tout pour envoyer les jetons à ses experts et d'un autre tout-à-tout pour combiner les sorties.
Pourquoi le MoE maintient-il le calcul par jeton à un faible niveau malgré des paramètres totaux énormes ?
Un routeur n'active que les meilleurs experts (souvent 1 à 2) par jeton, de sorte que les FLOP restent petits même si le modèle compte de nombreux experts au total.
Quel problème se pose parce que le routage dépend des données ?
Étant donné que les choix du routeur dépendent de l'entrée, certains experts reçoivent beaucoup plus de jetons que d'autres, créant un déséquilibre de charge et des retardataires.
Quelle est une technique courante pour conserver des multiplications matricielles expertes de taille uniforme ?
Les piles de service définissent une capacité par expert (un nombre maximum de jetons) et remplissent ou déposent des jetons au-delà afin que le GEMM de chaque expert ait une forme prévisible.