Đăng ký mẫu
Sổ đăng ký mô hình là một danh mục được kiểm soát theo phiên bản dành cho các mô hình học máy đã được đào tạo, theo dõi dòng, số liệu và giai đoạn triển khai của từng phiên bản.
Tổng quan
It acts as the single source of truth between experimentation and production, so teams know exactly which model is live, how it was built, and how to roll back.
Lặn sâu
Quá trình đào tạo tạo ra nhiều phiên bản mô hình và nếu không có sổ đăng ký, chúng sẽ nằm rải rác dưới dạng các tệp có tên 'model_final_v3_really.pkl' mà không có bản ghi nào về cách chúng được tạo ra. Cơ quan đăng ký mô hình khắc phục điều này bằng cách lưu trữ từng phiên bản cùng với siêu dữ liệu của nó: tập dữ liệu huấn luyện, cam kết mã, siêu tham số và số liệu đánh giá. Mô hình trải qua các giai đoạn trong vòng đời, thường là giai đoạn dàn dựng, sản xuất và lưu trữ, với các chương trình khuyến mãi được kiểm soát bằng phê duyệt và thử nghiệm. Điều này mang lại khả năng kiểm tra (ai đã triển khai cái gì, khi nào và tại sao), khả năng tái tạo (xây dựng lại bất kỳ phiên bản nào từ dòng đã ghi của nó) và khôi phục an toàn (ngay lập tức phân phát lại phiên bản trước nếu quá trình triển khai xuống cấp). Các cơ quan đăng ký như MLflow, SageMaker Model Register và Vertex AI tích hợp với CI/CD nên việc quảng bá mô hình có thể tự động kích hoạt triển khai và chúng thường lưu trữ chữ ký mô hình mô tả đầu vào và đầu ra dự kiến.
Hiểu biết kỹ thuật
Sổ đăng ký không chỉ lưu trữ trọng số thô mà còn lưu trữ một tạo phẩm được đóng gói cùng với siêu dữ liệu có cấu trúc và nhãn giai đoạn. Mỗi mô hình đã đăng ký đều có các phiên bản và mỗi phiên bản đều liên kết với quá trình chạy thử nghiệm đã tạo ra mô hình đó, nắm bắt cam kết mã, môi trường và số liệu. Chuyển đổi giai đoạn (từ giai đoạn sang sản xuất) là các sự kiện được ghi lại có thể kích hoạt webhooks vào quy trình triển khai. Chữ ký mô hình, một lược đồ rõ ràng về các loại đầu vào và đầu ra, cho phép các hệ thống cung cấp xác thực các yêu cầu và phát hiện những điểm không khớp trước khi chúng gây ra lỗi dự đoán thầm lặng.
Tác động chiến lược
Chi phí và ngân sách
Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
Quyết định rõ ràng hơn
Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
Kiểm soát chất lượng
Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
Tương lai của cơ quan đăng ký kiểu mẫu
Các cơ quan đăng ký đang mở rộng sang các trung tâm quản trị khi quy định về AI được thắt chặt, tự động đính kèm thẻ mô hình, đánh giá sai lệch và quy trình kiểm tra cần thiết để tuân thủ. Mong đợi các liên kết chặt chẽ hơn để giám sát để cơ quan đăng ký không chỉ biết những gì đã được triển khai mà còn biết nó hoạt động trực tiếp như thế nào và tự động khôi phục khi vượt quá ngưỡng. Khi AI tổng hợp phát triển, các cơ quan đăng ký sẽ thích ứng để theo dõi các phiên bản LLM, lời nhắc và trọng lượng bộ điều hợp được tinh chỉnh, đồng thời quản lý mô hình và sự kết hợp lời nhắc nào đang phục vụ từng ứng dụng.
Triển khai trong thế giới thực
Một nhóm sử dụng Cơ quan đăng ký mô hình MLflow để thúc đẩy mô hình gian lận từ 'dàn dựng' đến 'sản xuất', kích hoạt quá trình triển khai tự động thông qua quy trình CI/CD của họ.
Sau khi phiên bản mẫu mới tăng tỷ lệ lỗi, kỹ sư đang làm việc sẽ quay lại bằng cách bổ sung lại việc phân phối cho phiên bản đã đăng ký trước đó trong vài giây.
Kiểm toán viên xem xét sổ đăng ký để xác nhận tập dữ liệu và mã nào đã cam kết tạo ra mô hình chấm điểm tín dụng hiện đang được sản xuất.
Nhóm MLOps lưu trữ số liệu đánh giá của từng phiên bản trong sổ đăng ký để người đánh giá có thể so sánh các mô hình ứng cử viên trước khi phê duyệt chương trình khuyến mãi.
Rủi ro & lan can
Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Lộ trình thực hiện
Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Model Registries quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
ONNX và khả năng tương tác mô hình
Câu hỏi thường gặp
What is Model Registries?
Sổ đăng ký mô hình là một danh mục được kiểm soát theo phiên bản dành cho các mô hình học máy đã được đào tạo, theo dõi dòng, số liệu và giai đoạn triển khai của từng phiên bản. Nó đóng vai trò là nguồn thông tin chính xác duy nhất giữa thử nghiệm và sản xuất, vì vậy các nhóm biết chính xác mô hình nào đang hoạt động, cách xây dựng và cách quay lại.
Mục đích chính của việc đăng ký mô hình là gì?
Cơ quan đăng ký theo dõi các phiên bản mô hình, dòng và số liệu cũng như giai đoạn triển khai của chúng, để mọi người biết mô hình nào đang hoạt động và mô hình đó được xây dựng như thế nào.
Các giai đoạn vòng đời nào mà mô hình thường trải qua trong sổ đăng ký?
Các mô hình thường được quảng bá từ giai đoạn dàn dựng đến sản xuất và sau đó được lưu trữ, mỗi lần chuyển đổi đều được ghi lại và thường được kiểm soát bởi sự phê duyệt.
Làm cách nào để cơ quan đăng ký mô hình cho phép khôi phục an toàn?
Vì các phiên bản trước đó vẫn được đăng ký nên nhóm có thể chuyển việc phân phát trở lại phiên bản đã biết hoạt động tốt trong vài giây nếu quá trình triển khai mới không hoạt động.
Chữ ký mẫu trong sổ đăng ký là gì?
Chữ ký xác định đầu vào và đầu ra dự kiến để hệ thống cung cấp có thể xác thực các yêu cầu và phát hiện những thông tin không khớp trước khi chúng gây ra lỗi thầm lặng.
Tại sao dòng được ghi lại (tập dữ liệu, cam kết mã, siêu tham số) lại có giá trị?
Lineage cho phép các nhóm xây dựng lại bất kỳ phiên bản nào và cho phép kiểm toán viên xác nhận chính xác dữ liệu và mã nào đã tạo ra mô hình được triển khai.