Tiếp theoHướng dẫn tiếp theo
Thử nghiệm A/B cho mô hình ML
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Ký kết mô hình và bảo mật chuỗi cung ứng ML
Bảo mật chuỗi cung ứng ML bảo vệ mã, phần phụ thuộc, bộ dữ liệu và các tạo phẩm mô hình khỏi các nguồn giả mạo hoặc không đáng tin cậy trong suốt quá trình xây dựng và triển khai.
Trên trang nàyĐọc trong 3 phút
Tổng quan
Việc ký kết và xuất xứ có thể xác minh hiện vật đến từ đâu và liệu nó có thay đổi hay không, nhưng chúng không chứng minh được mô hình là an toàn, chính xác hoặc không thiên vị.
Lặn sâu
Một hệ thống ML không chỉ phụ thuộc vào trọng lượng của mô hình. Chuỗi cung ứng của nó bao gồm mã nguồn, công cụ xây dựng, phần phụ thuộc gói, hình ảnh cơ sở, dữ liệu đào tạo và đánh giá, các tạo phẩm được tuần tự hóa và cấu hình triển khai. Kẻ tấn công hoặc lỗi vô tình có thể gây ra phần phụ thuộc độc hại, thay đổi tệp mô hình, rò rỉ thông tin xác thực trong quá trình xây dựng hoặc triển khai một cấu phần phần mềm chưa từng được xem xét. Các biện pháp bảo mật phải bảo vệ những thông tin đầu vào này và lưu giữ bằng chứng có thể theo dõi về cách tạo ra các tạo phẩm phát hành. Chữ ký số liên kết một tạo phẩm với danh tính ký và bản tóm tắt mật mã. Người xác minh có thể kiểm tra xem tạo phẩm có khớp với những gì đã được ký hay không và chuỗi chữ ký đó có phù hợp với danh tính hoặc chính sách dự kiến hay không. Báo cáo xuất xứ có thể ghi lại đầu vào xây dựng và chi tiết quy trình. Công cụ Sigstore hỗ trợ ký các tạo phẩm vùng chứa và quy trình xác minh. Những bước kiểm tra này giúp loại bỏ các tạo phẩm bị giả mạo hoặc trái phép, nhưng chữ ký hợp lệ chỉ cho biết rằng một danh tính cụ thể đã ký các byte cụ thể; nó không có nghĩa là nội dung an toàn hoặc chính xác. Việc tuần tự hóa mô hình xứng đáng được quan tâm đặc biệt. Python Pickle có thể thực thi mã tùy ý trong quá trình khử lưu huỳnh, do đó việc tải một Pickle không đáng tin cậy là rất nguy hiểm. Xác minh các thành phần lạ từ các nguồn đáng tin cậy và xem xét các định dạng có hành vi thực thi hẹp hơn khi thích hợp. Ngay cả khi đó, trình phân tích cú pháp dữ liệu và thời gian chạy mô hình vẫn có thể có lỗ hổng. Quét các phần phụ thuộc và vùng chứa, hạn chế quyền, tách biệt hoạt động đào tạo và suy luận, đồng thời tránh lưu trữ bí mật trong hình ảnh hoặc gói mô hình. Bản ghi phát hành hữu ích liên kết bản sửa đổi nguồn, môi trường xây dựng, phần phụ thuộc, dòng dữ liệu, báo cáo đánh giá và bản tóm tắt hiện vật. Áp dụng kiểm soát quyền truy cập vào khóa ký và ưu tiên danh tính tồn tại trong thời gian ngắn hoặc quy trình ký được quản lý nếu có. Xác minh chữ ký trong chính sách triển khai thay vì ký mà không thực thi. Đánh giá bảo mật nên bao gồm phản hồi sự cố và luân chuyển khóa. Kiểm soát chuỗi cung ứng thiết lập tính toàn vẹn và xuất xứ; Vẫn cần phải kiểm tra riêng biệt, đánh giá quyền riêng tư và AI có trách nhiệm để đánh giá hành vi của mô hình và mức độ phù hợp để sử dụng.
Tác động chiến lược
Chi phí và ngân sách
Các quyết định về kiến trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
Quyết định rõ ràng hơn
Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
Kiểm soát chất lượng
Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.
Tương lai của việc ký kết mô hình và bảo mật chuỗi cung ứng ML
Các nhóm ML có thể tăng cường các hoạt động phát hành bằng cách ký các tạo phẩm bất biến, xác minh chữ ký trong quá trình triển khai và duy trì nguồn gốc bản dựng bằng các đánh giá. Bước thực tế đầu tiên là xác định những yếu tố phụ thuộc và nguồn dữ liệu nào có thể ảnh hưởng đến mô hình sản xuất, sau đó hạn chế những người có thể thay đổi từng bước. Thường xuyên quét hình ảnh và các phần phụ thuộc cũng như kiểm tra quá trình khôi phục khi thông tin đăng nhập được luân chuyển. Chữ ký không được thay thế việc xem xét hành vi, quyền riêng tư hoặc an toàn. Bảng thông tin chuỗi cung ứng tốt hơn có thể kết nối danh tính giả với báo cáo đánh giá và sửa đổi nguồn của nó, giúp người phản hồi theo dõi những gì thực sự đã chạy.
Triển khai trong thế giới thực
Một nhóm ký vào hình ảnh vùng chứa sau quá trình xây dựng được kiểm soát và xác minh chữ ký dựa trên danh tính dự kiến trước khi triển khai, giảm nguy cơ chấp nhận hình ảnh bị thay đổi.
Tệp mô hình được tải xuống từ một nguồn không quen thuộc. Vì một số định dạng tuần tự hóa có thể thực thi mã trong khi tải nên nhóm sẽ kiểm tra nguồn gốc của nó và sử dụng định dạng an toàn hơn nếu có thể trước khi mở nó.
Một quy trình ghi lại bản sửa đổi nguồn, tệp khóa phụ thuộc, phiên bản dữ liệu đào tạo và thông báo mô hình cùng với các kết quả đánh giá, giúp chuỗi xây dựng của tạo phẩm có thể được xem xét.
Chữ ký xác minh tính toàn vẹn của tạo tác và nhận dạng người ký, trong khi quét lỗ hổng bảo mật riêng biệt và đánh giá mô hình giải quyết các câu hỏi về chất lượng và bảo mật khác nhau.
Rủi ro & lan can
Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.
Lộ trình thực hiện
Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ML Supply Chain Security and Model Signing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Câu hỏi thường gặp
Ký kết mô hình và bảo mật chuỗi cung ứng ML là gì?
Bảo mật chuỗi cung ứng ML bảo vệ mã, phần phụ thuộc, bộ dữ liệu và các tạo phẩm mô hình khỏi các nguồn giả mạo hoặc không đáng tin cậy trong suốt quá trình xây dựng và triển khai. Việc ký kết và xuất xứ có thể xác minh hiện vật đến từ đâu và liệu nó có thay đổi hay không, nhưng chúng không chứng minh được mô hình là an toàn, chính xác hoặc không thiên vị.
Việc xác minh chữ ký số trên một tạo phẩm thiết lập điều gì một cách trực tiếp nhất?
Xác minh chữ ký kiểm tra tính toàn vẹn và độ tin cậy của người ký theo chính sách; nó không thiết lập chất lượng mô hình.
Tại sao việc tải dưa chua Python không đáng tin cậy lại có rủi ro?
Việc xây dựng lại Pickle có thể gọi mã, vì vậy các tệp dưa chua không đáng tin cậy có thể thực hiện hành vi nguy hiểm.
Nguồn gốc của công trình có thể bổ sung thêm điều gì vào tạo phẩm mô hình đã ký?
Nguồn gốc ghi lại cách tạo tác và những yếu tố đầu vào hoặc quy trình làm việc nào có liên quan.
Tại sao việc triển khai phải thực thi xác minh chữ ký?
Việc kiểm soát chỉ quan trọng nếu quá trình phát hành hoặc triển khai kiểm tra và từ chối các tạo phẩm không đáng tin cậy.
Chữ ký hợp lệ không chứng minh được điều gì?
Tính xác thực và tính toàn vẹn không đánh giá hành vi, độ chính xác hoặc an toàn của mô hình.
Tiếp tục học hỏi
Hướng dẫn liên quan
Đã chọn thêm hướng dẫn cho chủ đề này