자기회귀 이미지 생성
자동회귀 이미지 생성은 한 번에 한 장씩 그림을 작성하여 이전에 생성된 모든 것에서 각 토큰을 예측합니다.
개요
It matters because the same next-token machinery powering language models can produce coherent, controllable images.
심층 분석
자동회귀 이미지 생성은 그림을 시퀀스로 처리하고 요소별로 예측합니다. 여기서 각각의 새 요소는 이전의 모든 요소에 따라 조정됩니다. PixelRNN 및 PixelCNN과 같은 초기 작업은 한 번에 하나의 원시 픽셀씩 이미지를 예측하여 행 단위로 스캔했는데, 이는 느리지만 이론적으로는 깨끗했습니다. 대신 최신 시스템에서는 먼저 VQ-VAE 스타일 인코더를 사용하여 이미지를 개별 토큰 그리드로 압축한 다음 Transformer가 해당 토큰을 왼쪽에서 오른쪽으로 예측합니다. OpenAI의 DALL-E 1과 Google의 Parti는 이 방법을 따라 텍스트 프롬프트에 따라 이미지 토큰을 생성한 후 다시 픽셀로 디코딩했습니다. 가장 큰 장점은 정확한 가능성 모델링과 언어와 공유되는 통합 아키텍처입니다. 비용은 순차적이고 느린 샘플링입니다.
기술적 통찰력
모델은 모든 토큰의 결합 확률을 조건부 곱으로 분해합니다: p(x) = p(x_i 주어진 x_1...x_{i-1})의 곱. 인과적(마스크된) 주의를 가진 Transformer는 각 위치가 이전 토큰만 보도록 강제합니다. 학습 중에는 교사 강제를 사용하여 모든 토큰을 병렬로 예측하지만 추론 시에는 한 번에 하나의 토큰을 샘플링하여 다시 공급해야 합니다. 학습된 코드북은 토큰을 이미지 패치에 다시 매핑하고 디코더는 이를 최종 픽셀로 업샘플링합니다.
전략적 영향
속도와 규모
Visual AI는 대규모 검사, 감지 및 태그 지정 작업을 자동화할 수 있습니다.
빌드 선택
크리에이티브 팀은 수동 수정 횟수를 줄여 컨셉의 프로토타입을 더 빠르게 제작할 수 있습니다.
팀과 워크플로우
이전에는 처리하기 어려웠던 이미지 및 비디오 신호를 작업에 사용할 수 있습니다.
자기회귀 이미지 생성의 미래
속도가 중심 전쟁터입니다. 병렬 및 마스크 토큰 디코딩(MaskGIT, Muse)과 같은 기술은 한 번에 많은 토큰을 생성하며, 언어 모델에서 빌린 추측적 디코딩이 이미지에 적용되고 있습니다. 또한 연구원들은 다중 모드 시스템에서 볼 수 있듯이 하나의 모델이 읽고 그릴 수 있도록 단일 자동 회귀 백본에서 텍스트와 이미지 토큰을 통합하고 있습니다. 토큰의 제어 가능성과 확산 품질을 포착하는 하이브리드 모델을 통해 자동 회귀 및 확산 아이디어가 계속 혼합될 것으로 기대합니다.
실제 구현
DALL-E 1은 텍스트 캡션에서 개별 이미지 토큰의 그리드를 자동 회귀적으로 예측하여 이미지를 생성했습니다.
Google의 Parti는 자세하고 신속하고 충실한 장면을 위해 자동 회귀 텍스트-이미지 변환기를 200억 개의 매개변수로 확장했습니다.
PixelCNN과 PixelRNN은 원시 픽셀별 생성을 시연했으며 여전히 우도 기반 모델의 교육 기준으로 사용됩니다.
MaskGIT와 Muse는 병렬 마스크 토큰 디코딩을 사용하여 자동 회귀 스타일 교육을 유지하면서 토큰 기반 이미지 합성 속도를 높입니다.
위험 및 가드레일
출처가 불분명할 경우 이미지 권리 및 동의는 법적 위험이 될 수 있습니다.
모델 성능은 조명, 인구통계, 환경에 따라 달라질 수 있습니다.
신뢰도 임계값을 모니터링하지 않으면 거짓양성이 발견되지 않을 수 있습니다.
구현 로드맵
정밀도, 재현율, 오류 비용에 대한 허용 기준을 정의합니다.
실제 생산 조건과 일치하는 데이터로 테스트합니다.
신뢰도가 낮거나 영향력이 큰 예측에 대해 인적 검토를 추가합니다.
모델 드리프트를 추적하고 카메라 또는 데이터 세트가 변경된 후 재검증합니다.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Autoregressive Image Generation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
AI 이미지 생성
자주 묻는 질문
What is Autoregressive Image Generation?
자동회귀 이미지 생성은 한 번에 한 장씩 그림을 작성하여 이전에 생성된 모든 것에서 각 토큰을 예측합니다. 언어 모델을 구동하는 동일한 차세대 토큰 기계가 일관되고 제어 가능한 이미지를 생성할 수 있기 때문에 중요합니다.
이미지 생성의 맥락에서 '자동 회귀'는 무엇을 의미합니까?
자기회귀 모델은 이미지를 시퀀스로 분해하여 이전에 생성된 모든 요소를 기반으로 각 토큰이나 픽셀을 예측합니다.
DALL-E 1과 같은 최신 자동 회귀 이미지 모델은 일반적으로 이미지를 예측하기 전에 어떻게 표현합니까?
최신 시스템은 이미지를 개별 토큰(종종 VQ-VAE 스타일 인코더를 통해)으로 압축한 다음 Transformer를 사용하여 해당 토큰 시퀀스를 예측합니다.
한 번에 하나의 원시 픽셀 이미지를 생성한 초기 모델은 무엇입니까?
PixelRNN과 PixelCNN은 이미지를 픽셀 단위로 스캔하고 예측하는 자동 회귀 모델을 개척했습니다.
자동 회귀 생성 중에 Transformer가 이전 토큰에만 주의를 기울이도록 보장하는 메커니즘은 무엇입니까?
인과 마스킹은 각 위치가 향후 토큰에 참여하는 것을 차단하여 왼쪽에서 오른쪽으로 인수분해를 시행합니다.
자동회귀 이미지 샘플링의 실제적인 주요 단점은 무엇입니까?
각 토큰은 이전 토큰에 의존하기 때문에 추론은 토큰별로 실행되어야 하므로 생성이 상대적으로 느려집니다.