가이드 연계 퀴즈 · 중간 레벨
확산 변압기 퀴즈
DiT 패치 토큰, 조절, 크기 조정, 비디오 시공간 표현 및 많은 토큰의 주의 비용을 살펴보세요.
질문 1 의 8
기존 확산 모델과 비교하여 확산 변환기는 어떤 구성 요소를 대체합니까?
모든 질문 미리보기8 질문
퀴즈를 풀면 정답과 설명이 나타납니다.
- 기존 확산 모델과 비교하여 확산 변환기는 어떤 구성 요소를 대체합니까?
- 컨벌루션 U-Net 노이즈 제거기
- 텍스트 인코더
- 이미지 디코더
- 소음 일정
- DiT는 어떻게 이미지를 Transformer가 처리할 수 있는 것으로 변환합니까?
- 픽셀을 단어로 직접 변환합니다.
- 잠재 이미지를 토큰으로 처리되는 패치로 분할합니다.
- 전체 이미지에 하나의 토큰을 사용합니다.
- 먼저 이미지를 오디오로 변환합니다.
- 원래 DiT 논문에서는 스케일링에 관해 무엇을 발견했습니까?
- 크기에 따라 성능이 빠르게 정체됩니다.
- 더 큰 모델은 항상 더 나쁜 성능을 발휘합니다.
- 모델 크기가 커지고 패치 크기가 줄어들면 예상대로 성능이 향상됩니다.
- 패치 크기는 효과가 없습니다.
- DiT는 일반적으로 시간 단계 및 텍스트 프롬프트와 같은 조건을 어떻게 주입합니까?
- 추가 픽셀로 추가하여
- 각 단계마다 모델을 재교육하여
- 별도의 컨볼루션 분기를 통해
- 적응형 레이어 정규화(adaLN)를 통해
- 'adaLN-zero' 초기화는 무엇을 달성합니까?
- 안정적인 학습을 위해 각 Transformer 블록을 항등 함수로 시작합니다.
- 정규화 레이어를 삭제합니다.
- 전체 모델을 동결시킵니다.
- 입력 이미지를 0으로 만듭니다.
- 비디오 생성을 위해 시공간 패치를 통해 Transformer 백본을 사용하는 잘 알려진 시스템은 무엇입니까?
- 전통적인 GAN
- OpenAI의 Sora
- 순환 신경망
- 의사결정 트리 모델
- DiT가 많은 패치를 처리할 때 전체 셀프 어텐션에 비용이 많이 드는 이유는 무엇입니까?
- 그 비용은 모든 토큰 수에 대해 일정하게 유지됩니다.
- 각 잡음 제거 단계에서 U-Net을 재교육해야 합니다.
- 쌍별 토큰 비교는 토큰 수에 따라 2차적으로 증가합니다.
- 모든 패치마다 별도의 언어 모델이 필요합니다.
- DiT가 Transformer 블록을 사용하여 잠상 패치를 처리한 후 패치 출력은 어떻게 되나요?
- 전체 비디오에 대한 하나의 텍스트 토큰으로
- 오디오 파형의 시퀀스로만
- 각 프레임에 대해 별도의 컨벌루션 U-Net으로
- 재조립되어 다시 픽셀로 디코딩됩니다.