Câu đố về lập trình CUDA và GPU

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Trong thuật ngữ CUDA, 'kernel' là gì?
   • Một chức năng chạy song song bởi nhiều luồng GPU
   • Cốt lõi của một hệ điều hành
   • Một loại chip nhớ
   • Hệ thống làm mát của GPU
2. Mô hình thực thi SIMT có ý nghĩa gì?
   • Đầu vào chậm, chuyển nhiều
   • Lệnh đơn, Nhiều luồng chạy cùng một lệnh trên dữ liệu khác nhau
   • Hình ảnh đơn, Nhiều họa tiết
   • Hướng dẫn tuần tự, định giờ thủ công
3. Tại sao PyTorch và TensorFlow hiếm khi yêu cầu người dùng viết CUDA thô?
   • GPU không thể chạy mã người dùng
   • CUDA là bất hợp pháp khi sử dụng trực tiếp
   • Họ gọi các thư viện CUDA được tối ưu hóa như cuDNN và cuBLAS trong nội bộ
   • Chúng chỉ chạy trên CPU
4. 'Phân kỳ dọc' là gì và tại sao nó ảnh hưởng đến hiệu suất?
   • Lỗi mạng làm rơi gói tin
   • GPU bị uốn cong dưới nhiệt độ
   • Lỗi xóa bộ nhớ
   • Các luồng trong một sợi dọc có các nhánh khác nhau và phải chạy tuần tự
5. Tại sao quyền truy cập bộ nhớ 'kết hợp' lại quan trọng trong CUDA?
   • Các luồng liền kề đọc địa chỉ liền kề hiệu quả hơn nhiều
   • Nó tự động mã hóa dữ liệu
   • Nó giải phóng không gian đĩa
   • Nó vô hiệu hóa quạt GPU
6. What is OpenAI Triton in relation to CUDA programming?
   • A CUDA driver that replaces NVIDIA GPUs
   • A Python-like language and compiler for writing efficient GPU kernels
   • A model-serving server that only loads TensorFlow checkpoints
   • A framework that converts GPUs into CPUs
7. What does a CUDA kernel launch configuration specify?
   • A model tokenizer vocabulary
   • The number of training labels
   • The grid and block dimensions used to organize thread execution
   • The host operating system
8. Why might a CUDA kernel use shared memory?
   • To make data available across every cluster without communication
   • To replace all registers
   • To store the model permanently on the GPU
   • To let threads in a block reuse data from a faster on-chip memory space