支持向量机
支持向量机 (SVM) 是一种经典算法，它通过在两组之间绘制尽可能宽的边界来将它们分开。
概述
It was one of the most powerful classifiers before deep learning and is still strong on small, clean datasets.
深入探讨
SVM 找到称为超平面的决策边界，它最大化边距，即边界与每个类的最近数据点之间的间隙。这些最近的点是“支持向量”，它们单独定义边界，这使得模型紧凑并且能够抵抗远离边缘的异常值。当数据无法被直线分割时，内核技巧会将其映射到存在干净分离的高维空间，而无需直接计算这些坐标。软余量允许一些错误分类，由参数 C 控制，因此模型可以平衡较宽的余量和训练误差。当特征很多但示例很少时，支持向量机表现出色，例如在文本分类和生物信息学中。
技术洞察
最大化边际是一个凸优化问题，因此与神经网络不同，SVM 具有单个全局最优值。核技巧用核函数（例如径向基函数 (RBF) 或多项式核）替换数据点之间的点积，隐式计算高维空间中的相似性。这使得线性方法可以廉价地绘制弯曲边界。两个超参数主导调整：C，它权衡边距宽度与误差；以及 RBF 内核中的 gamma，它设置每个点的影响力达到的程度。
战略影响
更清晰的判决
它可以帮助您将清晰的技术声明与营销语言分开。
成本与预算
在花费金钱或时间之前，您可以提出更好的实施问题。
团队与工作流程
具有共同理解的团队可以做出更好的产品、政策和学习决策。
支持向量机的未来
对于大型、复杂的数据集，支持向量机在很大程度上已被深度学习和梯度增强树所取代，但当数据稀缺、高维或需要强大、易于理解的基线时，它们仍然是可靠的选择。它们在教学、生物信息学和文本任务以及资源有限的环境中很常见，在这些环境中，小型、快速的模型击败了沉重的网络。预计支持向量机将继续作为一种可靠的经典工具和基准，而不是新研究的前沿。
现实世界的实施
文本和垃圾邮件分类，其中文档具有数千个单词特征，但示例有限。
在深度学习占主导地位之前，对小型数据集进行图像分类。
生物信息学中的癌症和基因表达分类，特征多，样本少。
手写数字识别，MNIST 数据集上的经典 SVM 基准。
风险与防护栏
不同的团队可能会以不同的方式使用同一术语，因此请尽早定义范围。
基准测试可能看起来很强大，但实际性能却参差不齐。
忽视数据质量和评估计划通常会产生脆弱的结果。
实施路线图
从您需要的结果的简单语言定义开始。
在测试之前选择一种成功指标和一种失败条件。
使用代表性数据运行小型试点，而不是完善的演示集。
记录支持向量机在哪些方面有帮助以及在哪些方面更简单的方法更好。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Support Vector Machines quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Support Vector Machines?
支持向量机 (SVM) 是一种经典算法，它通过在两组之间绘制尽可能宽的边界来将它们分开。它是深度学习之前最强大的分类器之一，并且在小型、干净的数据集上仍然很强大。
支持向量机试图最大化什么？
SVM 找到使边距（到每个类最近点的距离）最大化的超平面，以实现最稳健的分离。
SVM 中的“支持向量”是什么？
只有最接近边界的点（即支持向量）才能确定超平面；其他点可以移动而不改变它。
内核技巧解决了什么问题？
内核技巧隐式地将数据映射到直边界起作用的高维空间，从而以较低的成本实现曲线分离。
软边缘 SVM 中参数 C 控制什么？
C 平衡有较大余量和允许某些训练错误；小C意味着更宽、更宽容的余量。
哪个内核通常用于创建灵活的弯曲边界？
RBF（高斯）内核是一种流行的默认值，它根据距离测量相似性，从而允许平滑的非线性边界。