À suivreGuide suivant
Augmentation du temps de test
Technique
GUIDE IA du langage
Mise à l'échelle du calcul au moment du test
La mise à l'échelle du calcul au moment du test signifie donner à un modèle plus de temps de réflexion et de calcul lorsqu'il répond à une question, plutôt que de simplement l'agrandir pendant la formation.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Aperçu
Il s'agit d'une avancée majeure derrière les « modèles de raisonnement » qui peuvent résoudre des problèmes mathématiques et de codage difficiles en délibérant avant de répondre.
Plongée profonde
Pendant des années, les progrès de l’IA ont nécessité une formation à grande échelle : plus de données, plus de paramètres, plus de calculs de pré-entraînement. La mise à l'échelle du calcul au moment du test ajoute un deuxième axe, dépensant plus de calculs lors de l'inférence. Au lieu d'émettre une réponse instantanément, un modèle de raisonnement génère une longue chaîne de pensée interne, explorant les étapes, vérifiant le travail et revenant en arrière. Les techniques incluent une chaîne de pensée étendue, l'échantillonnage de nombreuses solutions candidates et la sélection de la meilleure (auto-cohérence ou meilleur des N), ainsi qu'une recherche arborescente guidée par un vérificateur ou un modèle de récompense. Les o1 et o3 de OpenAI, DeepSeek-R1 et la réflexion étendue de Claude ont popularisé ceci : la précision des mathématiques et de la programmation de compétition augmente considérablement à mesure que vous laissez le modèle « penser plus longtemps », échangeant la latence et le coût contre l'exactitude sur les problèmes pour lesquels une réponse instantanée échoue.
Mise en œuvre dans le monde réel
Les modèles o1 et o3 de OpenAI réfléchissent étape par étape aux problèmes mathématiques de niveau Olympiade, surpassant considérablement les modèles à réponse instantanée sur les critères de l'AIME et des compétitions.
DeepSeek-R1 a utilisé l'apprentissage par renforcement pour enseigner le raisonnement par longue chaîne de pensée, démontrant ouvertement d'importants gains de précision grâce au calcul d'inférence supplémentaire.
Le mode de réflexion étendu de Claude permet aux développeurs de définir un budget symbolique afin que le modèle réfléchisse plus longtemps sur des tâches de codage ou d'analyse complexes avant de répondre.
AlphaCode et les systèmes similaires échantillonnent des milliers de programmes candidats au moment du test, puis les filtrent et les classent pour résoudre des défis de programmation compétitifs.
L'avenir de la mise à l'échelle du calcul au moment du test
Le calcul au moment du test est désormais un levier de mise à l’échelle principal aux côtés de la formation. Attendez-vous à des budgets adaptatifs dans lesquels le modèle décide de la difficulté de réfléchir en fonction de la difficulté, à un raisonnement moins coûteux grâce à la distillation de longues chaînes en chaînes plus courtes et à des boucles « agents » qui entrelacent la réflexion avec les appels d'outils et les recherches sur le Web. À mesure que le matériel d'inférence s'améliore, le raisonnement délibéré deviendra la norme pour les tâches à enjeux élevés telles que la recherche scientifique, l'ingénierie logicielle et la planification complexe, tandis que les recherches rapides resteront rapides et bon marché.
Le mettre en pratique
Pourquoi c'est important
- Vitesse et échelle. Les flux de travail linguistiques peuvent évoluer plus rapidement sans sacrifier la cohérence.
- Accès et portée. Il étend l’accès à toutes les langues et styles de communication.
- Décisions plus claires. Les équipes peuvent consacrer plus de temps au jugement tandis que l’automatisation gère les répétitions.
Attention à
- Les faits hallucinés peuvent discrètement entrer dans des rapports, des flux de support ou des résultats de recherche.
- La sensibilité des invites peut créer des résultats incohérents pour des demandes similaires.
- Les données textuelles sensibles peuvent être exposées si les contrôles d’accès sont faibles.
Prochaines étapes
- Définissez le format de sortie, le ton et les normes de qualité avant le déploiement.
- Établissez des réponses auprès de sources fiables chaque fois que la précision est importante.
- Gardez un point de contrôle d’examen humain pour les résultats à enjeux élevés.
- Suivez les modèles de défaillance et recyclez régulièrement les invites ou les flux de travail.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Take the Test-Time Compute Scaling quiz
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu’est-ce que la mise à l’échelle du calcul au moment du test ?
La mise à l'échelle du calcul au moment du test signifie donner à un modèle plus de temps de réflexion et de calcul lorsqu'il répond à une question, plutôt que de simplement l'agrandir pendant la formation. Il s'agit d'une avancée majeure derrière les « modèles de raisonnement » qui peuvent résoudre des problèmes mathématiques et de codage difficiles en délibérant avant de répondre.
À quoi fait référence le « calcul au moment du test » ?
Le calcul au moment du test (temps d'inférence) est le travail effectué lors de la génération d'une réponse, distinct du calcul utilisé lors du pré-entraînement.
In test-time scaling studies, what can extra inference compute be used for?
The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.
Quel est le principal compromis de la mise à l’échelle du calcul au moment du test ?
Laisser un modèle réfléchir plus longtemps améliore l'exactitude des problèmes difficiles mais augmente le temps de réponse et le coût de calcul.
Qu’est-ce que l’échantillonnage « best-of-N » ?
Best-of-N génère plusieurs tentatives de solution en parallèle et utilise un correcteur ou un vérificateur pour conserver la plus forte, une forme de mise à l'échelle du temps de test.
Pourquoi le calcul au moment du test est-il considéré comme un nouvel « axe de mise à l'échelle » ?
Pendant des années, la mise à l’échelle impliquait des cycles de formation plus importants ; Le calcul au moment du test ajoute une deuxième façon d'augmenter les capacités, en calculant davantage par inférence.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet