Prueba de fragmentación y gestión de memoria de GPU

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. ¿Qué es la fragmentación de la memoria de la GPU?
   • Cuando la GPU se rompe físicamente
   • Cuando el modelo tiene demasiadas capas
   • Cuando dos GPU no están de acuerdo en un resultado
   • Cuando la memoria libre se divide en fragmentos dispersos demasiado pequeños para satisfacer una solicitud contigua grande
2. ¿Por qué los marcos como PyTorch utilizan un asignador de memoria de caché?
   • Para hacer el modelo más preciso.
   • Para evitar la asignación lenta de controladores directos/llamadas gratuitas mediante la reutilización de bloques de memoria agrupados
   • Para cifrar los pesos
   • Para reducir la cantidad de GPU necesarias a una
3. A CUDA allocation fails despite apparently unused reserved memory. What should a developer investigate?
   • Whether fragmentation is proven by the error alone
   • Whether all live tensors have already been freed
   • Whether inactive split blocks or other allocations explain the failure
   • Whether changing the learning rate releases GPU memory
4. Which PyTorch allocator option can be tested for changing-size workloads that leave unused memory slivers?
   • Expandable segments in the allocator configuration
   • Increasing every tensor dimension
   • Disabling the GPU cooling system
   • Increasing the optimizer learning rate
5. ¿Qué logra PagedAttention de vLLM para reducir el desperdicio de memoria durante la inferencia?
   • Los datos de entrenamiento del modelo.
   • La caché de valor clave (KV) de atención, utilizando páginas de tamaño fijo
   • La velocidad del reloj de la GPU
   • El tamaño de fuente de los registros.
6. ¿Qué técnica reduce la memoria de activación para ayudar a evitar errores de falta de memoria?
   • Agregar más capas
   • Usar un calentamiento con un ritmo de aprendizaje más prolongado
   • Puntos de control de gradiente (recálculo)
   • Guardar más puntos de control en el disco
7. A live CUDA tensor still has Python references. Will empty_cache release that tensor’s allocation?
   • No; it releases unused cached memory rather than live tensor storage
   • Yes; it deletes every referenced tensor
   • Yes; it moves the tensor automatically to NVMe
   • Only if the tensor contains zero values
8. PyTorch reports reserved memory greater than allocated memory. What distinction explains the gap?
   • Reserved memory measures only CPU RAM
   • Allocated memory includes every process on the GPU
   • The difference directly proves a model accuracy error
   • The allocator can retain cached blocks beyond memory currently used by tensors