概述
Make-A-Video 是 Meta 的 2022 年系统，可将文本提示转换为短视频剪辑，而无需对标记的文本-视频对进行训练。这很重要，因为它表明文本到图像模型中的视觉知识可以仅使用未标记的视频来“教导”移动。
制作视频文本到视频属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
Make-A-Video 是 Meta AI 于 2022 年 9 月宣布的，它可以根据“一只穿着超级英雄斗篷的狗在天空飞翔”这样的句子生成几秒钟的视频。它的关键技巧是将外观与运动解耦：文本到图像模型（基于 CLIP 风格的联合文本图像空间和扩散构建）从数十亿张带字幕的图像中学习事物的外观，而单独的时空层仅从未标记的视频中学习事物如何移动。这避免了高质量文本视频对的稀缺性。基本模型产生低分辨率、低帧速率的剪辑，然后专用网络插入额外的帧并提高空间分辨率。尽管剪辑短、模糊且容易出现闪烁和扭曲，但其结果在当时却是惊人的连贯性。
技术洞察
Make-A-Video 通过添加伪时间层将 2D 图像生成卷积和注意力扩展到 3D。预训练的空间权重被冻结或微调，而新的时间层从原始视频中学习运动，因此不需要文本视频标签。然后，帧插值网络会致密时间线，超分辨率扩散模块会提升空间细节，将粗略的 16 帧、低分辨率草稿转变为级联管道中更平滑、更清晰的剪辑。
掌握制作视频文本到视频
Make-A-Video 是 Meta 的 2022 年系统，可将文本提示转换为短视频剪辑，而无需对标记的文本-视频对进行训练。这很重要，因为它表明文本到图像模型中的视觉知识可以仅使用未标记的视频来“教导”移动。制作视频文本到视频属于计算机视觉工作流程，它解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将制作视频文本到视频视为一种操作模型，而不是单一功能：定义所需的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用制作视频文本到视频的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
将单个描述性句子动画化为社交媒体帖子的短循环剪辑
将“泰迪熊画肖像”之类的静态概念作为动态插图变为现实
在两个用户提供的静态图像之间进行插值以创建平滑的过渡视频
在拍摄之前生成想象场景的快速动作草稿以用于故事板
实施模式
制作视频文本到视频的实践
将单个描述性句子动画化为社交媒体帖子的短循环剪辑。
将单个描述性句子动画化为社交媒体帖子的短循环剪辑 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
制作视频文本到视频的实践
将“泰迪熊画肖像”之类的静态概念作为动态插图变为现实。
将“泰迪熊画肖像”等静态概念作为动态插图变为现实。当团队预先定义质量阈值、为边缘情况保留人员升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
制作视频文本到视频的实践
在两个用户提供的静态图像之间进行插值以创建平滑的过渡视频。
在两个用户提供的静态图像之间进行插值以创建平滑的过渡视频 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
制作视频文本到视频的实践
在拍摄之前生成想象场景的快速动作草稿，用于故事板。
在任何拍摄之前为故事板生成想象场景的快速运动草稿当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。