ДаліНаступний посібник
Autoscaling Model Inference on Kubernetes
технічний
Технічний КЕРІВНИЦТВО
KServe та моделювання на Kubernetes
KServe — це стандартизована платформа Kubernetes для обслуговування моделей машинного навчання в масштабі.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
It gives teams a single, declarative way to deploy models with autoscaling, canary rollouts, and scale-to-zero, abstracting away most of the Kubernetes plumbing.
Глибоке занурення
Раніше відомий як KFServing і народжений з проекту Kubeflow, KServe визначає спеціальний ресурс InferenceService. Ви пишете короткий файл YAML, який вказує на модель, що зберігається в сховищі об’єктів (S3, GCS, Azure Blob), а KServe обробляє решту. Він підтримує як прогнозний висновок, так і, все частіше, генеративне обслуговування LLM. KServe постачає попередньо зібрані «сервісні середовища» для звичайних фреймворків (TensorFlow Serving, TorchServe, Triton, scikit-learn, XGBoost, Hugging Face) і підтримує спеціальні контейнери. Побудований на основі Knative Serving і мережевого рівня (Istio або подібного), він забезпечує автомасштабування на основі запитів, включаючи справжнє масштабування до нуля, тому неактивні моделі не споживають обчислення. Він також стандартизує API передбачення на основі відкритого протоколу логічного висновку, тому клієнти взаємодіють з кожною моделлю однаково, незалежно від структури.
Реалізація в реальному світі
Банк розгортає модель оцінки кредитоспроможності шляхом написання 10-рядкового InferenceService YAML, що вказує на модель у S3, а KServe обробляє автомасштабування та вхід.
Команда електронної комерції використовує розгортання KServe canary, щоб направити 10 відсотків трафіку на нову модель рекомендацій, а потім збільшити до 100 відсотків, коли показники виглядають здоровими.
Дослідницька лабораторія обслуговує десятки рідко використовуваних моделей із масштабуванням до нуля, тому кожна модель запускається лише тоді, коли надходить запит, і не споживає GPU під час простою.
Команда MLOps використовує компонент трансформатора KServe для запуску зміни розміру та нормалізації зображення перед тим, як предиктор запустить модель бачення Triton.
Майбутнє KServe та обслуговування моделей на Kubernetes
KServe швидко розвивається в напрямку генеративного штучного інтелекту, додаючи доріжку, орієнтовану на LLM, із такими функціями, як маршрутизація з урахуванням KV-кешу, кешування моделі та дезагрегована служба попереднього заповнення/декодування для великих мовних моделей. Очікуйте глибшої інтеграції з механізмами висновку, як-от vLLM, кращого обслуговування кількох вузлів для моделей, завеликих для одного GPU, і маршрутизації на рівні шлюзу для балансування навантаження на основі маркерів. Будучи інкубаційним проектом CNCF, він де-факто стає відкритим стандартом для розміщення моделей на базі Kubernetes, скорочуючи розрив між дослідницькими артефактами та стійкими кінцевими точками виробництва.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the KServe and Model Serving on Kubernetes quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is KServe and Model Serving on Kubernetes?
KServe — це стандартизована платформа Kubernetes для обслуговування моделей машинного навчання в масштабі. Це дає командам єдиний декларативний спосіб розгортати моделі з автомасштабуванням, розгортанням Canary та масштабуванням до нуля, абстрагуючись від більшості систем Kubernetes.
Яка була попередня назва KServe до того, як він став окремим проектом?
KServe виникла як KFServing у рамках проекту Kubeflow, перш ніж стати незалежною платформою.
Який основний спеціальний ресурс Kubernetes ви визначаєте для розгортання моделі за допомогою KServe?
Ви оголошуєте спеціальний ресурс InferenceService, як правило, у YAML, щоб розгорнути та налаштувати обслуговувану модель.
Яка можливість дозволяє неактивним моделям KServe споживати нуль обчислень, доки не надійде запит?
Створений на Knative, KServe підтримує масштабування до нуля, скидання реплік до нуля, коли трафік відсутній, і холодний запуск за вимогою.
Який основний проект забезпечує автомасштабування на основі запитів KServe?
KServe базується на Knative Serving, який масштабує репліки на основі паралельності або швидкості запитів і забезпечує масштабування до нуля.
Яким чином KServe зазвичай передає артефакти моделі в пакет обслуговування під час запуску?
Ініціалізатори сховища завантажують артефакти моделі зі сховища об’єктів (наприклад, S3 або GCS) у модуль, відокремлюючи моделі від зображення.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми