Decodificación contrastiva
La decodificación contrastiva genera texto de mayor calidad al restar las tendencias de un modelo de lenguaje pequeño y débil de las de uno grande y fuerte.
Descripción general
It amplifies what the expert knows and the amateur misses, reducing repetition and bland output.
Buceo profundo
Cuando un modelo de lenguaje elige la siguiente palabra, genera una probabilidad sobre su vocabulario. La decodificación contrastiva (introducida por Li et al. en 2022) ejecuta dos modelos en el mismo contexto: un gran "experto" y un pequeño "aficionado". En lugar de confiar en las probabilidades brutas del experto, puntúa cada ficha candidata por la diferencia entre la probabilidad logarítmica del experto y la del aficionado. Fichas que el experto favorece pero el aficionado no recibe impulso; Las palabras genéricas que aman ambos modelos (como 'el' o frases repetidas) se suprimen, ya que el aficionado también las ama. Un filtro de plausibilidad primero descarta los tokens que el experto considera muy improbables, por lo que el contraste nunca promueve tonterías. El resultado es un texto de formato largo más fluido, coherente y menos repetitivo que el muestreo codicioso o de núcleo, sin necesidad de capacitación adicional.
Información técnica
La puntuación principal es log p_expert(token) menos un coeficiente multiplicado por log p_amateur(token). Debido a que el aficionado comparte los errores sistemáticos del experto (favoreciendo tokens de alta frecuencia, bucles, repetición degenerada), restar sus probabilidades logarítmicas cancela esos modos de falla compartidos y al mismo tiempo preserva el conocimiento experto genuino. Una restricción de plausibilidad adaptativa mantiene sólo los tokens por encima de una fracción (alfa) de la probabilidad máxima del experto, evitando que el contraste amplifique palabras raras e incoherentes.
Impacto Estratégico
Speed and scale
Los flujos de trabajo lingüísticos pueden avanzar más rápido sin sacrificar la coherencia.
Access and reach
Amplía el acceso a través de idiomas y estilos de comunicación.
Decisiones más claras
Los equipos pueden dedicar más tiempo a juzgar mientras la automatización se encarga de la repetición.
El futuro de la decodificación contrastiva
La decodificación contrastiva ha inspirado una familia de métodos de 'contraste en la inferencia', incluido DoLa (que contrasta las capas tempranas y tardías de un modelo para reducir las alucinaciones) y variantes sensibles al contexto que contrastan con y sin documentos recuperados. Espere una integración más estrecha con la recuperación, la puntuación de factualidad y la destilación de pequeños aficionados, además de una combinación con la decodificación especulativa para que el aficionado dirija la calidad y acelere la generación simultáneamente.
Implementación en el mundo real
Generar continuaciones de artículos o historias largas y no repetitivas donde el muestreo del núcleo se desvía hacia bucles.
Emparejar un experto de 65B con un aficionado de 1,5B para mejorar la generación abierta sin ajustes
Reducir la repetición degenerada en los resultados de resúmenes y diálogos.
Sirviendo como base para el autocontraste estilo DoLa para reducir las alucinaciones objetivas.
Riesgos y barandillas
Los hechos alucinados pueden aparecer silenciosamente en informes, flujos de apoyo o resultados de investigaciones.
La sensibilidad rápida puede crear resultados inconsistentes en solicitudes similares.
Los datos de texto confidenciales pueden quedar expuestos si los controles de acceso son débiles.
Hoja de ruta de implementación
Defina el formato de salida, el tono y los estándares de calidad antes del lanzamiento.
Respuestas terrestres con fuentes confiables siempre que la precisión sea importante.
Mantenga un punto de control de revisión humana para los resultados de alto riesgo.
Realice un seguimiento de los patrones de error y vuelva a capacitar las indicaciones o los flujos de trabajo con regularidad.
Sigue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Contrastive Decoding quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Siguiente guía
Decodificación de riesgo mínimo de Bayes
Preguntas frecuentes
What is Contrastive Decoding?
La decodificación contrastiva genera texto de mayor calidad al restar las tendencias de un modelo de lenguaje pequeño y débil de las de uno grande y fuerte. Amplifica lo que el experto sabe y el aficionado pasa por alto, reduciendo las repeticiones y los resultados aburridos.
En la decodificación contrastiva, ¿qué papel juega el pequeño modelo "aficionado"?
Las probabilidades logarítmicas del aficionado se restan de las del experto, cancelando errores sistemáticos (como favorecer fichas frecuentes) que comparten ambos modelos.
¿Por qué restar las probabilidades del aficionado reduce la repetición y la producción insípida?
Ambos modelos tienden a preferir tokens repetitivos y de alta frecuencia; restar al aficionado elimina ese sesgo compartido, degradando las opciones insípidas.
¿Qué hace la restricción de plausibilidad adaptativa?
El filtro de plausibilidad descarta tokens de baja probabilidad según el experto, por lo que el contraste no puede promover palabras incoherentes o sin sentido.
¿Cuál es aproximadamente la fórmula de puntuación en la decodificación contrastiva?
Cada candidato recibe una puntuación según la probabilidad logarítmica del experto menos una probabilidad logarítmica ponderada de aficionado, lo que recompensa las fichas que el experto prefiere de forma única.
¿Qué método posterior extiende la idea contrastiva a las capas propias de un solo modelo?
DoLa contrasta las predicciones prematuras (capa temprana) y maduras (capa tardía) del modelo para reducir las alucinaciones, aplicando el concepto de contraste dentro de un modelo.