Тест по управлению памятью графического процессора и фрагментации

Ответы и пояснения появляются по мере прохождения теста.

1. Что такое фрагментация памяти графического процессора?
   • Когда графический процессор физически выходит из строя
   • Когда в модели слишком много слоев
   • Когда два графических процессора не согласны с результатом
   • Когда свободная память разделена на разрозненные фрагменты, слишком маленькие для удовлетворения большого непрерывного запроса.
2. Почему такие платформы, как PyTorch, используют распределитель кэширующей памяти?
   • Чтобы модель была более точной
   • Чтобы избежать медленного прямого выделения/освобождения драйверов за счет повторного использования блоков памяти в пуле.
   • Чтобы зашифровать веса
   • Чтобы сократить количество необходимых графических процессоров до одного
3. A CUDA allocation fails despite apparently unused reserved memory. What should a developer investigate?
   • Whether fragmentation is proven by the error alone
   • Whether all live tensors have already been freed
   • Whether inactive split blocks or other allocations explain the failure
   • Whether changing the learning rate releases GPU memory
4. Which PyTorch allocator option can be tested for changing-size workloads that leave unused memory slivers?
   • Expandable segments in the allocator configuration
   • Increasing every tensor dimension
   • Disabling the GPU cooling system
   • Increasing the optimizer learning rate
5. Что позволяет PagedAttention vLLM сократить потери памяти во время вывода?
   • Данные обучения модели
   • Кэш «ключ-значение внимания» (KV) с использованием страниц фиксированного размера.
   • Тактовая частота графического процессора
   • Размер шрифта журналов
6. Какой метод уменьшает память активации, чтобы избежать ошибок нехватки памяти?
   • Добавляем больше слоев
   • Использование более длительной разминки скорости обучения
   • Контрольная точка градиента (перерасчет)
   • Сохранение дополнительных контрольных точек на диск
7. A live CUDA tensor still has Python references. Will empty_cache release that tensor’s allocation?
   • No; it releases unused cached memory rather than live tensor storage
   • Yes; it deletes every referenced tensor
   • Yes; it moves the tensor automatically to NVMe
   • Only if the tensor contains zero values
8. PyTorch reports reserved memory greater than allocated memory. What distinction explains the gap?
   • Reserved memory measures only CPU RAM
   • Allocated memory includes every process on the GPU
   • The difference directly proves a model accuracy error
   • The allocator can retain cached blocks beyond memory currently used by tensors