가이드 연계 퀴즈 · 중간 레벨

고대역폭 메모리 퀴즈

HBM 스태킹, TSV, 와이드 인터페이스, 대역폭 대 용량, 이전 버전과 함께 현재 HBM4 세대를 확인합니다.

관련 가이드 경로고대역폭 메모리
질문 1 의 8

AI 가속기의 고대역폭 메모리가 해결하는 주요 문제는 무엇입니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. AI 가속기의 고대역폭 메모리가 해결하는 주요 문제는 무엇입니까?
    • 데이터 도착을 기다리는 동안 유휴 상태로 있는 컴퓨팅 코어
    • 너무 많은 빛으로 인해 GPU가 과열됨
    • 전원이 꺼져도 파일을 영구적으로 저장
    • GPU를 인터넷에 연결하기
  2. HBM은 일반 GDDR 메모리와 물리적으로 어떻게 다르게 구축되나요?
    • 하드디스크에 저장되어 있어요
    • 여러 개의 DRAM 다이를 수직으로 쌓아 실리콘 관통 비아로 연결합니다.
    • 칩 내부에는 광섬유 케이블을 사용합니다.
    • 트랜지스터가 없습니다.
  3. HBM은 높은 대역폭을 달성하기 위해 주로 무엇에 의존합니까?
    • 다른 메모리보다 훨씬 높은 클럭 속도
    • 액체질소로 냉각
    • 매우 넓은 인터페이스를 통한 극도의 병렬성
    • 모든 데이터를 1비트로 압축
  4. HBM 스택이 GPU 바로 옆 실리콘 인터포저에 배치되는 이유는 무엇입니까?
    • 패키지가 더 보기 좋게 보이도록
    • HBM은 1미터 이상 떨어진 곳에서 일할 수 없기 때문에
    • 사용자가 쉽게 제거할 수 있도록
    • 전선을 짧게 유지하여 비트당 전력과 대기 시간을 줄입니다.
  5. 특히 대규모 언어 모델의 경우 HBM이 원시 컴퓨팅만큼 중요한 이유는 무엇입니까?
    • 모델 가중치는 지속적으로 스트리밍되어야 하므로 높은 용량과 대역폭이 필요합니다.
    • 모델은 수학을 전혀 수행하지 않기 때문에
    • 컴퓨팅은 무료이지만 메모리에는 세금이 부과되기 때문입니다.
    • LLM은 CPU만 사용하기 때문에
  6. Which HBM generations are part of the progression from HBM2 to currently sampling HBM4 products?
    • HBM2, HBM2E, HBM4E, then HBM3
    • HBM2, HBM2E, HBM3, HBM3E, and HBM4
    • GDDR6, GDDR7, DDR5, and HBM4
    • HBM3E directly followed by HBM1
  7. Why can high HBM bandwidth help an autoregressive language model during token generation?
    • It eliminates the need to store model weights
    • It performs tokenization instead of the GPU
    • It can move model weights and other data to the compute units more quickly
    • It makes every model compute-bound
  8. What is the difference between HBM capacity and HBM bandwidth?
    • They are identical measures of GPU clock speed
    • Capacity measures transfer speed and bandwidth measures data size
    • Neither is related to memory
    • Capacity is how much data can be stored; bandwidth is how quickly data can be transferred