개요
이는 텍스트-이미지 모델 내부의 시각적 지식이 레이블이 지정되지 않은 비디오만을 사용하여 움직이도록 '학습'될 수 있음을 보여주었기 때문에 중요합니다.
심층 분석
Make-A-Video, announced by Meta AI in September 2022, generates brief video clips from text prompts. Its key trick is decoupling appearance from motion: a text-to-image model learns what things look like from paired text-image data, while separate spatiotemporal layers learn how they move from video footage with no associated text. Meta said this reduced the need for paired text-video examples and that the research used publicly available datasets. Meta also described making videos from images and creating new videos similar to existing videos. The base model produces low-resolution, low-frame-rate clips, then dedicated networks interpolate extra frames and upscale spatial resolution. The result was strikingly coherent for its era, though clips were short, blurry, and prone to flicker and warping.
실제 구현
단일 설명 문장을 소셜 미디어 게시물의 짧은 반복 클립으로 애니메이션화
'초상화를 그리는 테디베어'와 같은 정적인 컨셉을 움직이는 일러스트레이션으로 생생하게 구현
부드러운 전환 비디오를 만들기 위해 사용자가 제공한 두 개의 스틸 이미지 사이를 보간합니다.
촬영 전 스토리보드용으로 상상한 장면의 퀵 모션 초안 생성
Make-A-Video 텍스트-비디오의 미래
Make-A-Video의 이미지 우선 및 라벨 없는 모션 레시피는 전체 텍스트-비디오 물결의 씨앗을 뿌렸습니다. 그 후손은 제어 가능한 카메라 동작과 오디오를 통해 더 길고, 더 높은 해상도, 일시적으로 안정적인 클립을 강조합니다. 대규모 이미지 지식을 재사용하고 동작을 저렴하게 학습하는 핵심 아이디어는 아키텍처가 편집 및 지속을 위해 이미지 또는 비디오 조건을 수용하는 변환기 기반 잠재 확산 및 통합 모델로 전환하는 경우에도 지속될 것으로 예상됩니다.
실천에 옮기기
왜 중요한가요?
- 속도와 규모. Visual AI는 대규모 검사, 감지 및 태그 지정 작업을 자동화할 수 있습니다.
- 빌드 선택. 크리에이티브 팀은 수동 수정 횟수를 줄여 컨셉의 프로토타입을 더 빠르게 제작할 수 있습니다.
- 팀과 워크플로우. 이전에는 처리하기 어려웠던 이미지 및 비디오 신호를 작업에 사용할 수 있습니다.
조심하세요
- 출처가 불분명할 경우 이미지 권리 및 동의는 법적 위험이 될 수 있습니다.
- 모델 성능은 조명, 인구통계, 환경에 따라 달라질 수 있습니다.
- 신뢰도 임계값을 모니터링하지 않으면 거짓양성이 발견되지 않을 수 있습니다.
다음 단계
- 정밀도, 재현율, 오류 비용에 대한 허용 기준을 정의합니다.
- 실제 생산 조건과 일치하는 데이터로 테스트합니다.
- 신뢰도가 낮거나 영향력이 큰 예측에 대해 인적 검토를 추가합니다.
- 모델 드리프트를 추적하고 카메라 또는 데이터 세트가 변경된 후 재검증합니다.
계속 탐색하세요
무료 뉴스레터
일일 AI 브리핑 받기
매주 평일 아침마다 3개의 검증된 AI 스토리를 일반 영어로 작성합니다. 무료이며, 광고 없음.
매주 평일마다 한 번 이메일을 받습니다. 한 번 클릭으로 구독 해지. 주소를 판매하거나 공유하지 않습니다.
자신을 테스트해 보세요
Take the Make-A-Video Text-to-Video quiz
모든 답변에 즉각적인 피드백과, 과정을 통과하면 검증 가능한 ID가 있는 공유 가능한 인증서를 제공합니다.
무료 AI 교육을 지원합니다. AI Understanding는 501(c)(3) 비영리 단체입니다 — 광고 없음, 유료 장벽 없음, 영원히. 기부하기
자주 묻는 질문
Make-A-Video 텍스트-비디오란 무엇입니까?
Make-A-Video는 라벨이 붙은 텍스트-비디오 쌍에 대한 교육 없이 텍스트 프롬프트를 짧은 비디오 클립으로 바꾸는 Meta의 2022년 시스템입니다. 이는 텍스트-이미지 모델 내부의 시각적 지식이 레이블이 지정되지 않은 비디오만을 사용하여 움직이도록 '학습'될 수 있음을 보여주었기 때문에 중요합니다.
Make-A-Video에 라벨이 붙은 텍스트-비디오 쌍이 필요하지 않게 된 핵심 혁신은 무엇이었습니까?
Make-A-Video는 문제를 분리합니다. 텍스트-이미지 모델은 캡션이 있는 이미지에서 사물이 어떻게 보이는지 학습하는 반면, 별도의 시간 레이어는 레이블이 없는 원본 비디오에서 동작을 학습합니다.
Make-A-Video는 어떻게 이미지 모델에 모션 기능을 추가합니까?
시간이 지남에 따라 콘텐츠가 어떻게 변하는지 학습하는 새로운 시간적 계층을 통해 2D 공간 컨볼루션과 주의를 확장합니다.
프레임 보간 및 초해상도 단계는 무엇을 합니까?
거친 저해상도, 낮은 프레임 속도 드래프트 후에 보간을 통해 프레임이 추가되고 초해상도 모듈이 해상도를 높입니다.
Make-A-Video 출력의 일반적인 제한 사항은 무엇이었습니까?
클립은 단 몇 초에 불과했고 해상도가 상대적으로 낮았으며 일시적인 깜박임과 왜곡이 발생하기 쉽습니다.
Besides text prompts, what visual input can Make-A-Video use to create a video?
Meta said Make-A-Video can create videos from images as well as text prompts.