가이드 연계 퀴즈 · 중간 레벨

TensorRT 및 추론 엔진 퀴즈

배포 호환성 및 정확성에 실제 검증이 필요한 이유를 포함하여 TensorRT 엔진 최적화, 정밀한 선택 및 모양 프로필을 적용합니다.

관련 가이드 경로Tensorrt 및 추론 엔진
질문 1 의 8

TensorRT로 추론 엔진을 구축하는 목표는 무엇입니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. TensorRT로 추론 엔진을 구축하는 목표는 무엇입니까?
    • Guarantee the fastest possible execution on every system
    • Optimize execution of a supported trained model for the configured target
    • Choose training labels without a dataset
    • Replace every GPU with a CPU
  2. 레이어 융합은 어떻게 추론 속도를 높이나요?
    • 여러 작업을 하나의 GPU 커널로 병합하여 메모리 트래픽을 줄입니다.
    • 필요하지 않은 레이어를 삭제하여
    • 별도의 GPU에서 각 레이어를 실행함으로써
    • CPU에서 실행되도록 모델을 변환하여
  3. 대표 데이터 INT8 보정 워크플로에서 모델의 값 분포를 검사하는 이유는 무엇입니까?
    • To guarantee no accuracy change under all future inputs
    • To retrain the model from zero automatically
    • To select quantization scales suited to the observed numerical ranges
    • To remove every compatibility requirement
  4. 컴파일된 TensorRT 엔진이 일반적으로 하나의 GPU 아키텍처에만 적용되는 이유는 무엇입니까?
    • 해당 GPU의 일련번호로 암호화되어 있기 때문에
    • NVIDIA는 장치별로 라이선스를 부여하기 때문에
    • 훈련 데이터를 엔진 내부에 저장하기 때문에
    • 커널 자동 조정은 해당 GPU의 정확한 코어 및 메모리 레이아웃에 대해 가장 빠른 커널을 굽기 때문입니다.
  5. TensorRT-LLM의 어떤 기능이 특히 대규모 언어 모델을 효율적으로 제공하는 데 도움이 됩니까?
    • 진행 중인(연속) 일괄 처리 및 페이징된 KV 캐시
    • 자동 이미지 확대
    • 내장 웹 호스팅
    • 오디오 잡음 제거
  6. Why evaluate task accuracy after choosing lower-precision TensorRT execution?
    • Lower precision always preserves every output bit
    • Only the model filename affects predictions
    • Reduced numerical precision can change model outputs or quality
    • Accuracy evaluation is needed only during tokenization
  7. A TensorRT dynamic-shape engine receives input outside its configured profile range. What should deployment validation check?
    • Whether the engine can accept every shape without a profile
    • Only whether the model name is short
    • Whether training can restart from a screenshot
    • Whether the profile supports that requested shape
  8. A TensorRT engine is moved to a different runtime and GPU configuration. What must the team establish?
    • That any serialized engine runs unchanged everywhere
    • That the selected compatibility settings support the new environment
    • That the engine contains all its original training data
    • That every GPU shares one serial number