Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Câu đố về bộ nhớ băng thông cao

Kiểm tra xếp chồng HBM, TSV, giao diện rộng, băng thông so với dung lượng và thế hệ HBM4 hiện tại cùng với các phiên bản trước đó.

Đường dẫn hướng dẫn liên quanBộ nhớ băng thông cao
Câu hỏi 1 của 8

Bộ nhớ băng thông cao giải quyết vấn đề chính nào cho máy gia tốc AI?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. Bộ nhớ băng thông cao giải quyết vấn đề chính nào cho máy gia tốc AI?
    • Các lõi tính toán không hoạt động trong khi chờ dữ liệu đến
    • GPU quá nóng do quá nhiều ánh sáng
    • Lưu trữ tập tin vĩnh viễn khi tắt nguồn
    • Kết nối GPU với internet
  2. HBM được xây dựng về mặt vật lý khác với bộ nhớ GDDR thông thường như thế nào?
    • Nó được lưu trữ trên ổ cứng
    • Nó xếp chồng nhiều khuôn DRAM theo chiều dọc và kết nối chúng với các via xuyên silicon
    • Nó sử dụng cáp quang bên trong chip
    • Nó không có bóng bán dẫn
  3. HBM chủ yếu dựa vào điều gì để đạt được băng thông cao?
    • Tốc độ xung nhịp cao hơn nhiều so với bất kỳ bộ nhớ nào khác
    • Làm mát bằng nitơ lỏng
    • Tính song song cực cao thông qua giao diện rất rộng
    • Nén tất cả dữ liệu thành một bit
  4. Tại sao các ngăn xếp HBM được đặt trên một bộ chuyển đổi silicon ngay cạnh GPU?
    • Để làm cho gói trông đẹp hơn
    • Vì HBM không thể hoạt động cách xa hơn một mét
    • Để người dùng có thể dễ dàng gỡ bỏ
    • Để giữ cho dây ngắn, giảm công suất trên mỗi bit và độ trễ
  5. Đặc biệt đối với các mô hình ngôn ngữ lớn, tại sao HBM lại quan trọng như tính toán thô?
    • Vì trọng lượng mô hình phải được phát trực tiếp liên tục, đòi hỏi dung lượng và băng thông cao
    • Bởi vì các mô hình không hề làm toán
    • Vì máy tính miễn phí nhưng bộ nhớ bị đánh thuế
    • Bởi vì LLM chỉ sử dụng CPU
  6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
    • HBM2, HBM2E, HBM4E, then HBM3
    • HBM2, HBM2E, HBM3, HBM3E, and HBM4
    • GDDR6, GDDR7, DDR5, and HBM4
    • HBM3E directly followed by HBM1
  7. Why can high HBM bandwidth help an autoregressive language model during token generation?
    • It eliminates the need to store model weights
    • It performs tokenization instead of the GPU
    • It can move model weights and other data to the compute units more quickly
    • It makes every model compute-bound
  8. What is the difference between HBM capacity and HBM bandwidth?
    • They are identical measures of GPU clock speed
    • Capacity measures transfer speed and bandwidth measures data size
    • Neither is related to memory
    • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred