胶囊网络
胶囊网络是一种神经架构，它将神经元分组为“胶囊”，输出编码特征是否存在及其姿态（位置、方向、尺度）的向量。
概述
They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.
深入探讨
胶囊网络由 Geoffrey Hinton、Sara Sabour 和 Nicholas Frosst 于 2017 年提出，用向量取代标量神经元输出。矢量的长度表示实体（如眼睛或鼻子）存在的概率，而其方向编码姿势参数。较低级别的胶囊通过变换矩阵预测较高级别胶囊的姿态，并且一个称为动态路由协议的过程决定信任哪些预测。当多个部分封装在同一整体上达成一致时，路由会加强该连接。最初的 CapsNet 在 MNIST 上取得了很好的结果，并且对于重叠数字和仿射变换具有显着的鲁棒性，解决了 CNN 接受混乱的面部特征作为有效面部的“毕加索问题”。
技术洞察
关键机制是“挤压”非线性，它将短向量缩小到零，将长向量缩小到长度一，因此向量幅度读作概率。然后，动态路由运行 softmax 加权一致步骤的几次迭代：每个较低的胶囊向上发送其预测，并且对于其输出与该预测对齐（通过点积）的较高胶囊，耦合系数会增加。这取代了最大池化，保留精确的空间信息而不是丢弃它。
战略影响
成本与预算
多年来，架构决策决定着性能和运营成本。
更清晰的判决
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
质量控制
更好的工程选择可以减少生产中的可靠性事故。
胶囊网络的未来
胶囊网络仍然是一个研究方向，而不是一个已部署的标准，这主要是因为动态路由的计算成本很高，而且对于像 ImageNet 这样的大图像来说扩展性很差。后来的工作探索了 EM 路由（Matrix Capsules）和基于 self-attention 的路由来提高效率。随着人们对等方差、样本效率和可解释的部分整体层次结构的兴趣不断增长，胶囊思想继续影响着研究，包括 Hinton 后来的 GLOM 提案，尽管 Transformers 主导了主流愿景。
现实世界的实施
在从胶囊向量重建输入的同时对 MNIST 上的手写数字进行分类，显示姿态参数是有意义的。
通过分割哪些像素属于哪个实体来分离两个重叠的数字（MultiMNIST 任务）。
医学成像研究使用胶囊来检测部分与整体空间关系很重要的肺结节或脑肿瘤。
利用架构的内置视点等变性，通过较少的训练示例从新颖的视点识别对象。
风险与防护栏
优化一项基准测试可以隐藏更广泛的系统弱点。
基础设施和维护成本常常被低估。
随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
实施路线图
在实施之前定义延迟、质量和成本目标。
在实际负载和数据条件下进行基准测试。
仪器监控错误、漂移和用户影响。
在扩展之前准备回滚和事件响应路径。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Capsule Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Capsule Networks?
胶囊网络是一种神经架构，它将神经元分组为“胶囊”，输出编码特征是否存在及其姿态（位置、方向、尺度）的向量。他们的目标是修复标准卷积网络中的一个核心盲点：失去对各部分之间空间关系的追踪。
在胶囊网络中，胶囊输出向量的长度代表什么？
矢量的长度（大小）编码实体存在的概率，而其方向编码位置和旋转等姿势参数。
胶囊网络是专门为解决标准 CNN 的哪些问题而设计的？
具有最大池化功能的 CNN 会丢弃精确的空间关系，因此特征错位的人脸仍然可以获得高分。这就是胶囊试图解决的“毕加索问题”。
决定哪些较低级别的胶囊连接到哪些较高级别的胶囊的算法的名称是什么？
动态协议路由迭代地加强了胶囊之间的连接，这些胶囊的预测与更高胶囊的输出一致。
谁在 2017 年引入了具有动态路由的胶囊网络？
2017 年论文“Dynamic Routing Between Capsules”由 Sara Sabour、Nicholas Frosst 和 Geoffrey Hinton 撰写。
胶囊网络中“挤压”功能的目的是什么？
挤压非线性将短向量收缩到零，并将长向量限制在长度接近一的范围内，因此幅度可以被解读为概率，同时保留方向（姿势）。