Машины опорных векторов
Машина опорных векторов (SVM) — это классический алгоритм, который разделяет две группы, рисуя между ними максимально широкую границу.
Обзор
It was one of the most powerful classifiers before deep learning and is still strong on small, clean datasets.
Глубокое погружение
SVM находит границу решения, называемую гиперплоскостью, которая максимизирует запас, разрыв между границей и ближайшими точками данных каждого класса. Эти ближайшие точки являются «векторами поддержки», и только они определяют границу, что делает модель компактной и устойчивой к выбросам вдали от края. Когда данные не могут быть разделены по прямой линии, трюк ядра отображает их в многомерное пространство, где существует четкое разделение, даже не вычисляя эти координаты напрямую. Мягкая маржа допускает некоторые ошибки классификации, контролируемые параметром C, поэтому модель уравновешивает широкий запас против ошибок обучения. SVM превосходны, когда функций много, а примеров мало, например, в классификации текста и биоинформатике.
Техническая информация
Максимизация прибыли — это задача выпуклой оптимизации, поэтому SVM имеют единый глобальный оптимум, в отличие от нейронных сетей. Трюк с ядром заменяет скалярные произведения между точками данных функцией ядра, такой как радиальная базисная функция (RBF) или полиномиальное ядро, которая неявно вычисляет сходство в многомерном пространстве. Это позволяет линейному методу дешево рисовать изогнутые границы. В настройке доминируют два гиперпараметра: C, который сравнивает ширину поля с ошибками, и гамма в ядре RBF, которая определяет, насколько далеко простирается влияние каждой точки.
Стратегическое воздействие
Более четкие решения
Это поможет вам отделить четкие технические заявления от маркетингового языка.
Стоимость и бюджет
Вы можете задать более эффективные вопросы по реализации, прежде чем тратить деньги или время.
Команда и рабочий процесс
Команды с общим пониманием принимают более эффективные решения по продуктам, политике и обучению.
Будущее машин опорных векторов
SVM в значительной степени вытеснены глубоким обучением и деревьями с градиентным усилением для больших и сложных наборов данных, но они остаются надежным выбором, когда данных недостаточно, они многомерны или нуждаются в надежной, хорошо понятной базовой линии. Они остаются распространенными в преподавании, биоинформатике и текстовых задачах, а также в условиях ограниченных ресурсов, где маленькая и быстрая модель превосходит тяжелую сеть. Ожидайте, что SVM останутся надежным классическим инструментом и эталоном, а не рубежом новых исследований.
Реальная реализация
Классификация текста и спама, при которой документы содержат тысячи слов, но ограниченное количество примеров.
Классификация изображений на небольших наборах данных до того, как глубокое обучение стало доминирующим.
Классификация рака и экспрессии генов в биоинформатике со множеством особенностей и небольшим количеством образцов.
Распознавание рукописных цифр — классический тест SVM на наборе данных MNIST.
Риски и ограничения
Разные команды могут использовать один и тот же термин по-разному, поэтому заранее определите масштаб.
Тесты могут выглядеть сильными, в то время как реальная производительность неравномерна.
Игнорирование качества данных и планов оценки часто приводит к нестабильным результатам.
Дорожная карта реализации
Начните с простого определения желаемого результата.
Перед тестированием выберите один показатель успеха и одно условие отказа.
Запустите небольшой пилотный проект с репрезентативными данными, а не отточенный демонстрационный набор.
Документируйте, где помогают машины опорных векторов и где более простые методы лучше.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Support Vector Machines quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Основы машинного обучения
Часто задаваемые вопросы
What is Support Vector Machines?
Машина опорных векторов (SVM) — это классический алгоритм, который разделяет две группы, рисуя между ними максимально широкую границу. До глубокого обучения это был один из самых мощных классификаторов, и он до сих пор хорошо работает с небольшими чистыми наборами данных.
Что пытается максимизировать машина опорных векторов?
SVM находит гиперплоскость, которая максимизирует запас, расстояние до ближайших точек каждого класса, для наиболее надежного разделения.
Каковы «векторы поддержки» в SVM?
Только точки, ближайшие к границе, опорные векторы, определяют гиперплоскость; другие точки могут перемещаться, не меняя его.
Какую проблему решает трюк с ядром?
Трюк с ядром неявно отображает данные в многомерное пространство, где работает прямая граница, что обеспечивает дешевое искривленное разделение.
Чем управляет параметр C в SVM с мягкой маржой?
C балансирует, имея большой запас против допуска некоторых ошибок обучения; маленькая C означает более широкую и толерантную границу.
Какое ядро обычно используется для создания гибких изогнутых границ?
Ядро RBF (Гауссово) — это популярное значение по умолчанию, которое измеряет сходство на основе расстояния, обеспечивая сглаживание нелинейных границ.