← Retour à tous les quizQuiz lié à un guide • Difficile Niveau • 6 Questions

Quiz de pré-remplissage et de décodage désagrégé

Testez votre compréhension du pourquoi et du comment le service LLM divise les phases de pré-remplissage et de décodage.

Chemins de guidage associés

Question 1 de 6Exactement : 0

Quelle est la raison matérielle principale pour laquelle le pré-remplissage et le décodage sont séparés sur différents pools de GPU ?