QLoRA y cuestionario de ajuste fino de 4 bits

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. ¿Cuál es la idea central de ahorro de memoria detrás de la parte de '4 bits' de QLoRA?
   • Cuantiza los pesos del modelo base congelado hasta 4 bits cada uno.
   • Elimina el 75% de las capas del modelo.
   • Entrena el modelo en solo 4 épocas.
   • Utiliza sólo 4 GPU en lugar de muchas
2. Durante el ajuste fino de QLoRA, ¿qué parámetros realmente se actualizan mediante el descenso del gradiente?
   • Todos los pesos originales del modelo.
   • Sólo las pequeñas matrices de adaptadores LoRA de bajo rango
   • Las constantes de cuantificación de 4 bits.
   • El vocabulario del tokenizador.
3. ¿Qué es NF4 en el contexto de QLoRA?
   • Una red neuronal de 4 capas
   • Un nuevo algoritmo optimizador
   • Un tipo de datos de 4 bits optimizado para pesos distribuidos normalmente
   • Un formato de clúster de GPU de 4 nodos
4. ¿Qué problema abordan los 'optimizadores paginados' en QLoRA?
   • Descargas lentas de Internet de archivos de modelos
   • Tokenización incorrecta
   • Sobreajuste en conjuntos de datos pequeños
   • Picos de falta de memoria durante secuencias largas
5. ¿Cuándo se vuelven a convertir los pesos de 4 bits a mayor precisión durante el entrenamiento?
   • Justo a tiempo durante la multiplicación de matrices, luego descartado
   • Nunca se convierten; las matemáticas se hacen en 4 bits
   • Sólo una vez al comienzo del entrenamiento.
   • Sólo después de completar el entrenamiento
6. ¿Qué demostró el artículo QLoRA original sobre la calidad?
   • El ajuste fino de 4 bits siempre supera al ajuste completo
   • El ajuste fino de un modelo 65B en una GPU podría igualar la calidad completa del ajuste fino de 16 bits
   • La cuantificación hace que los modelos por debajo de 8 bits sean inútiles
   • Sólo los modelos pequeños pueden ajustarse de esta manera
7. What does QLoRA’s double-quantization step compress?
   • El vocabulario tokenizador
   • The LoRA adapter rank
   • The quantization constants used to represent the 4-bit weights
   • The training examples’ text labels
8. How can one QLoRA base model support multiple task-specific versions?
   • They delete the optimizer state after every token
   • They increase the base model from 4-bit to 32-bit
   • They move all activations into the tokenizer
   • Reuse the frozen 4-bit base and swap small trainable LoRA adapters for different tasks