Kubeflow và dàn nhạc đường ống ML
Kubeflow là một bộ công cụ nguồn mở chạy các quy trình học máy trên Kubernetes, biến việc đào tạo và triển khai mô hình thành các quy trình có thể tái tạo, được đóng gói trong container.
Tổng quan
It matters because it lets teams scale ML the same way they scale modern cloud software.
Lặn sâu
Kubeflow bắt đầu tại Google như một cách để chạy TensorFlow trên Kubernetes, sau đó phát triển thành một nền tảng rộng hơn. Ý tưởng cốt lõi của nó là mỗi bước của quy trình làm việc ML như chuẩn bị dữ liệu, đào tạo, đánh giá và phân phối sẽ chạy như một thành phần được chứa bên trong nhóm Kubernetes. Kubeflow Pipelines (KFP) cho phép bạn thể hiện các bước này dưới dạng biểu đồ chu kỳ có hướng (DAG): mỗi nút là một vùng chứa độc lập và các cạnh xác định các phần phụ thuộc dữ liệu. Vì Kubernetes xử lý việc lập lịch, mở rộng quy mô và phân bổ tài nguyên nên một quy trình có thể yêu cầu GPU để đào tạo và phát hành chúng sau đó. Các thành phần khác bao gồm Katib để điều chỉnh siêu tham số, KServe để phân phối mô hình và máy chủ sổ tay. Phần thưởng là khả năng tái tạo, tính di động trên các đám mây và khả năng mở rộng quy mô từng bước một cách độc lập.
Hiểu biết kỹ thuật
Quy trình Kubeflow biên dịch DSL Python thành thông số YAML của Argo Workflows. Mỗi thành phần trở thành một vùng chứa đọc đầu vào và ghi đầu ra dưới dạng tạo phẩm, được chuyển giữa các bước thông qua kho lưu trữ đối tượng dùng chung như MinIO hoặc S3. Kubernetes lên lịch cho từng nhóm, gắn tài nguyên GPU hoặc CPU theo yêu cầu của thành phần. Mặt phẳng điều khiển lưu trữ các đầu ra theo bước, do đó các bước không thay đổi sẽ bị bỏ qua khi chạy lại, tiết kiệm điện toán và làm cho DAG lớn trở nên hiệu quả.
Tác động chiến lược
Chi phí và ngân sách
Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
Quyết định rõ ràng hơn
Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
Kiểm soát chất lượng
Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
Tương lai của Kubeflow và dàn nhạc đường ống ML
Kubeflow đang hợp nhất xung quanh KFP v2 và tích hợp chặt chẽ hơn với KServe để phân phối và Katib để điều chỉnh, cùng với sự hỗ trợ tốt hơn cho việc đào tạo phân tán các mô hình lớn trên nhiều GPU. Mong đợi những mối liên kết sâu sắc hơn với các cửa hàng tính năng, cơ quan đăng ký mô hình và quy trình tinh chỉnh LLM. Khi dự án hoàn thiện theo CNCF, xu hướng hướng tới việc cài đặt đơn giản hơn, nhiều bên thuê cho các nhóm và các định nghĩa quy trình được tiêu chuẩn hóa chuyển giao rõ ràng giữa các nhà cung cấp đám mây lớn và tại chỗ.
Triển khai trong thế giới thực
Một nhà bán lẻ lên lịch quy trình Kubeflow hàng đêm để thu thập dữ liệu bán hàng, đào tạo lại mô hình dự báo nhu cầu và đẩy mô hình đó tới KServe để suy luận.
Phòng thí nghiệm nghiên cứu sử dụng Katib để chạy hàng trăm thử nghiệm siêu tham số song song trên cụm GPU, tự động chọn cấu hình tốt nhất.
Một ngân hàng xây dựng một quy trình phát hiện gian lận có thể tái tạo, trong đó mỗi lần kiểm tra tuân thủ có thể chạy lại các bước đào tạo chính xác từ các tạo phẩm được lưu trong bộ nhớ đệm.
Một công ty khởi nghiệp sử dụng máy chủ máy tính xách tay trên Kubeflow để các nhà khoa học dữ liệu tạo ra các mô hình nguyên mẫu trực tiếp vào quy trình sản xuất mà không cần viết lại mã.
Rủi ro & lan can
Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Lộ trình thực hiện
Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Kubeflow and ML Pipeline Orchestration quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Lập kế hoạch GPU và điều phối cụm
Câu hỏi thường gặp
What is Kubeflow and ML Pipeline Orchestration?
Kubeflow là một bộ công cụ nguồn mở chạy các quy trình học máy trên Kubernetes, biến việc đào tạo và triển khai mô hình thành các quy trình có thể tái tạo, được đóng gói trong container. Điều này quan trọng vì nó cho phép các nhóm mở rộng quy mô ML giống như cách họ mở rộng phần mềm đám mây hiện đại.
Kubeflow chạy quy trình học máy trên nền tảng cơ bản nào?
Kubeflow được xây dựng đặc biệt để chạy các quy trình công việc ML trên Kubernetes, sử dụng các tính năng lập lịch và mở rộng quy mô của nó.
Trong Kubeflow Pipelines, mỗi bước của quy trình làm việc thường được đóng gói như thế nào?
Mỗi bước quy trình là một thùng chứa độc lập chạy bên trong nhóm Kubernetes, với đầu vào và đầu ra được chuyển dưới dạng tạo phẩm.
Quy trình Kubeflow sử dụng cấu trúc nào để thể hiện thứ tự và sự phụ thuộc của các bước?
Các đường ống được thể hiện dưới dạng DAG, trong đó các nút là các thành phần và các cạnh biểu thị sự phụ thuộc dữ liệu giữa chúng.
Thành phần Kubeflow nào được dành riêng để điều chỉnh siêu tham số tự động?
Katib là thành phần của Kubeflow để tối ưu hóa siêu tham số và tìm kiếm kiến trúc thần kinh, chạy song song nhiều thử nghiệm.
Tại sao quy trình Kubeflow có thể bỏ qua một số bước nhất định một cách hiệu quả khi chạy lại?
Mặt phẳng điều khiển lưu các đầu ra vào bộ nhớ đệm, do đó các bước có đầu vào không thay đổi sẽ bị bỏ qua, lưu lại tính toán khi chạy lại.