VQ-VAE 및 이산 잠재성 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. VQ-VAE의 잠재 공간이 표준 VAE와 다른 점은 무엇입니까?
   • 학습된 임베딩 코드북을 사용하여 이산적입니다.
   • 연속적이고 가우시안적입니다.
   • 잠재 공간이 전혀 없습니다.
   • 원시 픽셀을 저장합니다.
2. VQ-VAE는 미분 불가능한 양자화 단계를 통해 어떻게 기울기를 전달합니까?
   • 역전파를 완전히 건너뜁니다.
   • 양자화기를 지나서 그라디언트를 복사하는 직선 추정기 사용
   • 강화학습만 사용하여
   • 그라데이션을 정수로 반올림하여
3. '코드북 붕괴'란 무엇입니까?
   • 디코더는 잠재성을 무시합니다.
   • 엔코더 출력이 무한해집니다
   • 코드북 항목 중 극히 일부만이 사용됩니다.
   • 이미지 해상도가 0으로 떨어집니다.
4. Transformers를 사용한 생성 모델링에 이산 잠재성이 유용한 이유는 무엇입니까?
   • 디스크에서만 이미지를 더 작게 만듭니다.
   • 디코더가 필요하지 않습니다.
   • 생성에서 모든 무작위성을 제거합니다.
   • 미디어를 Transformer가 언어처럼 모델링할 수 있는 토큰 시퀀스로 변환합니다.
5. VQGAN은 기본 VQ-VAE 레시피 외에 무엇을 추가했습니까?
   • 보다 선명한 재구성을 위한 적대적 및 지각적 손실
   • 확산 샘플러
   • 코드북 제거
   • 순환 인코더
6. 인코더가 선택한 코드북 항목에 '커밋'된 상태를 유지하는 손실 조건은 무엇입니까?
   • KL 발산
   • 헌신의 상실
   • 교차 엔트로피 손실
   • 삼중 손실
7. What kind of prior does the original VQ-VAE paper learn over its discrete codes?
   • A fixed prior that is never learned
   • A prior over camera locations only
   • A learned prior over the discrete code sequence
   • No prior or decoder distribution
8. Which text-to-image paper used a discrete VAE to tokenize images before autoregressive generation?
   • The original Whisper speech-recognition paper
   • A paper on Kalman-filter vehicle tracking
   • The original BERT masked-language-model paper
   • The original DALL·E paper