À suivreGuide suivant
Service de pré-remplissage et de décodage désagrégé
Technique
GUIDE Technique
Parallélisme expert pour le service du MoE
Expert parallelism distributes a Mixture-of-Experts layer’s feed-forward experts across devices.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Aperçu
It can reduce the expert weights held per device, while routing and communication costs affect whether serving is efficient.
Plongée profonde
Une couche de mélange d'experts (MoE) remplace un grand réseau de rétroaction par de nombreux réseaux plus petits (experts) ainsi qu'un routeur qui sélectionne les k meilleurs experts (souvent 1 ou 2) par jeton. Le parallélisme expert (EP) place différents experts sur différents GPU. Lors de l'inférence, le routeur décide de quels experts chaque jeton a besoin, puis une étape de communication globale mélange les jetons vers les GPU contenant les experts choisis, exécute le FFN et mélange les résultats. Cela permet à un modèle d'avoir d'énormes paramètres totaux (clairsemés) tout en n'activant qu'une petite fraction par jeton (faibles FLOP). Des modèles comme Mixtral 8x7B, DeepSeek-V3 et GPT-OSS l'utilisent. Les parties difficiles sont l'équilibrage de charge entre les experts et les deux sauts tout-à-tout coûteux par couche.
Mise en œuvre dans le monde réel
Servir Mixtral 8x7B sur 2 à 4 GPU en plaçant 2 à 4 de ses 8 experts sur chaque appareil
DeepSeek-V3 utilise un routage limité aux nœuds pour limiter le nombre de nœuds couverts par les experts d'un jeton, coupant ainsi tous les nœuds entre les nœuds.
Utilisation du mode parallèle expert vLLM ou SGLang pour héberger un modèle clairsemé de plus de 200 B sur un seul nœud à 8 GPU
Combiner le parallélisme expert avec le parallélisme tensoriel sur les couches d'attention dans un déploiement hybride EP+TP
L’avenir du parallélisme expert au service du ministère de l’Éducation
Attendez-vous à une co-conception plus stricte du routage et du matériel : des noyaux fusionnés de répartition, de calcul et de combinaison, des GEMM regroupés qui regroupent de nombreux experts et un tout-à-tout compatible NVLink/InfiniBand. Des techniques telles que l'équilibrage auxiliaire sans perte et le routage limité aux nœuds de DeepSeek réduisent le trafic entre nœuds. Le service désagrégé consacrera des GPU « experts » distincts des GPU d'attention, et un nombre d'experts plus important (des centaines) avec un top-k plus fin poussera le MoE vers une parcimonie extrême tout en maintenant le coût par jeton stable.
Le mettre en pratique
Pourquoi c'est important
- Coût et budget. Les décisions en matière d'architecture déterminent les performances et les coûts d'exploitation pendant des années.
- Décisions plus claires. La formation technique aide les équipes à choisir la bonne pile, pas seulement la plus récente.
- Contrôle qualité. De meilleurs choix d’ingénierie réduisent les incidents de fiabilité en production.
Attention à
- L’optimisation d’un benchmark peut masquer des faiblesses plus larges du système.
- Les coûts d’infrastructure et de maintenance sont souvent sous-estimés.
- Les lacunes en matière de sécurité et d’observabilité peuvent se creuser à mesure que les systèmes deviennent plus complexes.
Prochaines étapes
- Définissez les objectifs de latence, de qualité et de coût avant la mise en œuvre.
- Benchmark dans des conditions de charge et de données réalistes.
- Surveillance des instruments pour détecter les erreurs, la dérive et l'impact sur l'utilisateur.
- Préparez les chemins de restauration et de réponse aux incidents avant la mise à l’échelle.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the Expert Parallelism for MoE Serving quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu’est-ce que le parallélisme expert pour le service MoE ?
Expert parallelism distributes a Mixture-of-Experts layer’s feed-forward experts across devices. It can reduce the expert weights held per device, while routing and communication costs affect whether serving is efficient.
Que distribue le parallélisme expert sur les GPU ?
Le parallélisme expert place différents experts (les sous-réseaux FFN d'une couche MoE) sur différents GPU, de sorte que chaque appareil ne contient qu'un sous-ensemble d'experts.
Quel modèle de communication est au cœur du parallélisme des experts du MoE ?
Chaque couche du MoE a généralement besoin d'un tout-à-tout pour envoyer les jetons à ses experts et d'un autre tout-à-tout pour combiner les sorties.
Pourquoi le MoE maintient-il le calcul par jeton à un faible niveau malgré des paramètres totaux énormes ?
Un routeur n'active que les meilleurs experts (souvent 1 à 2) par jeton, de sorte que les FLOP restent petits même si le modèle compte de nombreux experts au total.
Quel problème se pose parce que le routage dépend des données ?
Étant donné que les choix du routeur dépendent de l'entrée, certains experts reçoivent beaucoup plus de jetons que d'autres, créant un déséquilibre de charge et des retardataires.
Why are capacity limits and padding used in some MoE implementations?
Capacity-limited designs can pad or drop work, but dropless approaches also exist. This is an implementation choice rather than a universal serving requirement.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet