가이드 연계 퀴즈 · 중간 레벨

확산 변압기 퀴즈

DiT 패치 토큰, 조절, 크기 조정, 비디오 시공간 표현 및 많은 토큰의 주의 비용을 살펴보세요.

관련 가이드 경로확산 변압기
질문 1 의 8

기존 확산 모델과 비교하여 확산 변환기는 어떤 구성 요소를 대체합니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. 기존 확산 모델과 비교하여 확산 변환기는 어떤 구성 요소를 대체합니까?
    • 컨벌루션 U-Net 노이즈 제거기
    • 텍스트 인코더
    • 이미지 디코더
    • 소음 일정
  2. DiT는 어떻게 이미지를 Transformer가 처리할 수 있는 것으로 변환합니까?
    • 픽셀을 단어로 직접 변환합니다.
    • 잠재 이미지를 토큰으로 처리되는 패치로 분할합니다.
    • 전체 이미지에 하나의 토큰을 사용합니다.
    • 먼저 이미지를 오디오로 변환합니다.
  3. 원래 DiT 논문에서는 스케일링에 관해 무엇을 발견했습니까?
    • 크기에 따라 성능이 빠르게 정체됩니다.
    • 더 큰 모델은 항상 더 나쁜 성능을 발휘합니다.
    • 모델 크기가 커지고 패치 크기가 줄어들면 예상대로 성능이 향상됩니다.
    • 패치 크기는 효과가 없습니다.
  4. DiT는 일반적으로 시간 단계 및 텍스트 프롬프트와 같은 조건을 어떻게 주입합니까?
    • 추가 픽셀로 추가하여
    • 각 단계마다 모델을 재교육하여
    • 별도의 컨볼루션 분기를 통해
    • 적응형 레이어 정규화(adaLN)를 통해
  5. 'adaLN-zero' 초기화는 무엇을 달성합니까?
    • 안정적인 학습을 위해 각 Transformer 블록을 항등 함수로 시작합니다.
    • 정규화 레이어를 삭제합니다.
    • 전체 모델을 동결시킵니다.
    • 입력 이미지를 0으로 만듭니다.
  6. 비디오 생성을 위해 시공간 패치를 통해 Transformer 백본을 사용하는 잘 알려진 시스템은 무엇입니까?
    • 전통적인 GAN
    • OpenAI의 Sora
    • 순환 신경망
    • 의사결정 트리 모델
  7. DiT가 많은 패치를 처리할 때 전체 셀프 어텐션에 비용이 많이 드는 이유는 무엇입니까?
    • 그 비용은 모든 토큰 수에 대해 일정하게 유지됩니다.
    • 각 잡음 제거 단계에서 U-Net을 재교육해야 합니다.
    • 쌍별 토큰 비교는 토큰 수에 따라 2차적으로 증가합니다.
    • 모든 패치마다 별도의 언어 모델이 필요합니다.
  8. DiT가 Transformer 블록을 사용하여 잠상 패치를 처리한 후 패치 출력은 어떻게 되나요?
    • 전체 비디오에 대한 하나의 텍스트 토큰으로
    • 오디오 파형의 시퀀스로만
    • 각 프레임에 대해 별도의 컨벌루션 U-Net으로
    • 재조립되어 다시 픽셀로 디코딩됩니다.