Test de gestionare a memoriei GPU și fragmentare

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Ce este fragmentarea memoriei GPU?
   • Când GPU-ul se rupe fizic
   • Când modelul are prea multe straturi
   • Când două GPU-uri nu sunt de acord asupra unui rezultat
   • Când memoria liberă este împărțită în bucăți împrăștiate, prea mici pentru a satisface o solicitare contigue mare
2. De ce cadrele precum PyTorch folosesc un alocator de memorie cache?
   • Pentru a face modelul mai precis
   • Pentru a evita alocarea lentă directă a driverului/apelurile gratuite prin reutilizarea blocurilor de memorie grupate
   • Pentru a cripta greutățile
   • Pentru a reduce numărul de GPU-uri necesare la unul
3. A CUDA allocation fails despite apparently unused reserved memory. What should a developer investigate?
   • Whether fragmentation is proven by the error alone
   • Whether all live tensors have already been freed
   • Whether inactive split blocks or other allocations explain the failure
   • Whether changing the learning rate releases GPU memory
4. Which PyTorch allocator option can be tested for changing-size workloads that leave unused memory slivers?
   • Expandable segments in the allocator configuration
   • Increasing every tensor dimension
   • Disabling the GPU cooling system
   • Increasing the optimizer learning rate
5. Ce reușește PagedAttention de la vLLM să reducă risipa de memorie în timpul inferenței?
   • Datele de antrenament ale modelului
   • Memoria cache a atenției cheie-valoare (KV), folosind pagini cu dimensiune fixă
   • Viteza de ceas a GPU-ului
   • Dimensiunea fontului jurnalelor
6. Ce tehnică reduce memoria de activare pentru a ajuta la evitarea erorilor de memorie lipsită?
   • Adăugarea mai multor straturi
   • Folosind o încălzire mai lungă cu rata de învățare
   • Punct de control în gradient (recalculare)
   • Salvarea mai multor puncte de control pe disc
7. A live CUDA tensor still has Python references. Will empty_cache release that tensor’s allocation?
   • No; it releases unused cached memory rather than live tensor storage
   • Yes; it deletes every referenced tensor
   • Yes; it moves the tensor automatically to NVMe
   • Only if the tensor contains zero values
8. PyTorch reports reserved memory greater than allocated memory. What distinction explains the gap?
   • Reserved memory measures only CPU RAM
   • Allocated memory includes every process on the GPU
   • The difference directly proves a model accuracy error
   • The allocator can retain cached blocks beyond memory currently used by tensors