视觉变形金刚
视觉变换器 (ViTs) 将支持 ChatGPT 的变换器架构应用于图像，将图片视为补丁序列而不是像素网格。
概述
视觉变换器 (ViTs) 将支持 ChatGPT 的变换器架构应用于图像，将图片视为补丁序列而不是像素网格。他们证明，不需要卷积即可实现最先进的图像识别。
Vision Transformers 属于计算机视觉工作流程，可解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
多年来，卷积神经网络（CNN）通过扫描图像上的小过滤器主导了计算机视觉。 Google 的 2020 年论文“一张图像值得 16x16 个字”对此提出了挑战，方法是将图像切成固定的块（通常为 16x16 像素），将每个块展平为向量，并将生成的序列输入标准转换器。每个补丁都成为一个“令牌”，就像句子中的单词一样。然后，该模型使用自注意力，因此每个补丁都可以直接与其他每个补丁相关，捕获小型卷积滤波器一步无法看到的远程关系。问题是：ViT 需要大量数据，因为它们缺乏 CNN 的内置假设。在 JFT-300M 等庞大数据集上进行训练后，它们匹配或击败了最好的 CNN，重塑了现代视觉研究。
技术洞察
ViT 将图像分割为不重叠的补丁，将每个补丁线性投影到嵌入中，并添加位置编码，以便模型知道每个补丁位于原始图像中的位置。前面有一个特殊的可学习的“类标记”；它的最终表示驱动分类。堆叠的自注意力层让每个补丁权衡来自所有其他补丁的信息，从第一层给出全局感受野。由于注意力随块的数量呈二次方缩放，因此高分辨率图像变得昂贵，这就是块大小和有效的注意力变体很重要的原因。
掌握视觉转换器
为了加深理解，请将 Vision Transformer 视为一种操作模型，而不是单一功能。定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用 Vision Transformer 的强大团队会平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
ViT 证明与 CNN 具有竞争力后，Google 的图像分类和搜索排名系统采用了 Transformer 主干
CLIP 和其他使用 ViT 对图像进行编码的图像文本模型，以便可以在共享空间中匹配照片和标题
医学成像研究使用 ViT 来发现整个扫描中的模式，而不仅仅是局部纹理
自动驾驶和机器人感知堆栈结合了 ViT 式注意力，可在整个视野范围内进行场景理解
实施模式
视觉转换器的实践
ViT 证明与 CNN 具有竞争力后，Google 采用 Transformer 主干的图像分类和搜索排名系统。
当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
视觉转换器的实践
CLIP 和其他使用 ViT 对图像进行编码的图像文本模型，以便可以在共享空间中匹配照片和标题。
当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
视觉转换器的实践
医学成像研究使用 ViT 来发现整个扫描中的图案，而不仅仅是局部纹理。
当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
视觉转换器的实践
自动驾驶和机器人感知堆栈结合了 ViT 式注意力，可在整个视野范围内进行场景理解。
当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
将此视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
将此视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
将此视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
将此视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
不断探索
Check your understanding
Test yourself: take the Vision Transformers quiz