학습
뉴스
도구
Jobs
용어집
인증
퀴즈
미션
지원
English
Search
⌘K
AI 도구 제출
기부
English
Search
⌘K
학습
AI Guides & Foundations
뉴스
Latest AI Developments
도구
Top AI Directory
Jobs
AI Hiring Board
용어집
AI Terms Dictionary
인증
Get Your AI Certificate
퀴즈
Interactive AI Assessments
미션
Why We Exist
지원
Help and Contact
AI 도구 제출
기부
English
← 모든 퀴즈로 돌아가기
가이드 연계 퀴즈 • 하드 레벨 • 6 질문
분리된 미리 채우기 및 디코딩 제공 퀴즈
LLM 제공이 사전 채우기 단계와 디코딩 단계를 분할하는 이유와 방법에 대한 이해를 테스트하세요.
관련 가이드 경로
분리된 미리 채우기 및 디코드 제공
질문 1 의 6
정답: 0
사전 채우기와 디코딩을 서로 다른 GPU 풀로 분리하는 핵심 하드웨어 이유는 무엇입니까?
힌트가 필요하신가요?
그들은 다른 프로그래밍 언어를 사용합니다
프리필은 컴퓨팅에 바인딩되고 디코드는 메모리 대역폭에 바인딩됩니다.
디코드에는 프리필보다 더 많은 전력이 필요합니다.
사전 채우기는 GPU에서 전혀 실행될 수 없습니다.