Prueba de evaluación de características congeladas y sondeo lineal

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. En una sonda lineal estándar, ¿qué parámetros se actualizan durante el entrenamiento?
   • Solo el clasificador lineal recién agregado en la parte superior
   • Toda la columna vertebral más la capa lineal.
   • Sólo el backbone, dejando el clasificador fijo
   • La capa de incrustación y el bloque de atención final.
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. En comparación con el ajuste fino completo, el sondeo lineal es principalmente atractivo porque:
   • Más preciso en cada tarea
   • Garantizado para generalizar mejor fuera de la distribución.
   • Más barato en computación y memoria y ofrece una lectura más clara de la calidad de las funciones.
   • La única forma de utilizar un modelo previamente entrenado
4. Un hallazgo empírico común al sondear transformadores es que:
   • La capa final siempre proporciona la mejor precisión de la sonda.
   • El sondeo solo funciona en redes convolucionales
   • La elección de la capa nunca afecta los resultados de la sonda
   • Las capas intermedias a menudo superan a la última capa en términos de transferencia.
5. Más allá de la evaluación comparativa, las sondas lineales se utilizan cada vez más en interpretabilidad para:
   • Detectar si un concepto como veracidad está codificado en estados ocultos
   • Comprimir modelos para implementación móvil
   • Reemplace el optimizador durante el preentrenamiento
   • Generar nuevos datos de entrenamiento automáticamente
6. Un riesgo metodológico clave al interpretar una precisión de sonda alta es que:
   • La columna vertebral sigue entrenando en secreto.
   • La investigación podría estar explotando una correlación espuria en lugar del concepto verdadero.
   • Las sondas lineales no pueden sobreadaptarse
   • No se puede utilizar la pérdida de entropía cruzada
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison