HƯỚNG DẪN ứng dụng

Hoạt động AI

Hoạt động AI giữ cho dịch vụ dựa trên mô hình trở nên đáng tin cậy sau khi phát triển.

Nghe hướng dẫn nàyAI thuật lại · ~2 min

Trên trang nàyĐọc trong 2 phút
  1. Tổng quan
  2. Những điểm chính rút ra
  3. Lặn sâu
  4. Phát hành một hệ thống tương thích
  5. Triển khai trong thế giới thực
  6. Đưa nó vào thực tế
  7. Nguồn tham khảo và đọc thêm
  8. Tiếp tục khám phá
  9. Câu hỏi thường gặp

Tổng quan

Nó bao gồm việc triển khai, phiên bản dữ liệu và mô hình, sử dụng tài nguyên, giám sát, ứng phó sự cố và ngừng hoạt động. Một thử nghiệm đào tạo thành công không chứng minh được rằng quy trình sản xuất xung quanh sẽ vẫn đáng tin cậy.

Những điểm chính rút ra

  1. Phiên bản phát hành đầy đủ.
  2. Kiểm tra chất lượng nhiệm vụ trước khi thăng chức.
  3. Chỉ định quyền sở hữu sự cố và xác minh việc khôi phục.

Lặn sâu

Xác định mục tiêu dịch vụ và giới hạn hoạt động của nó. Chỉ định đầu vào dự kiến, mục tiêu về thời gian phản hồi, nhu cầu về tính khả dụng và những gì dịch vụ sẽ làm khi không có mô hình hoặc phần phụ thuộc. Trạng thái xuống cấp rõ ràng sẽ dễ quản lý hơn so với việc thay thế im lặng một đầu ra chưa được kiểm tra. Phiên bản bản phát hành hoàn chỉnh: mô hình, chuyển đổi dữ liệu, lời nhắc, chỉ mục truy xuất, phụ thuộc và cấu hình. Việc thay đổi một trong những điều này có thể thay đổi hành vi ngay cả khi API công khai trông không thay đổi. Giữ lộ trình đã thử nghiệm trở lại phiên bản tương thích cuối cùng. Tự động hóa các hoạt động kiểm tra lặp lại trong khi vẫn duy trì các quyết định phát hành có ý nghĩa. Xác thực hợp đồng dữ liệu, chạy đánh giá nhiệm vụ và kiểm tra giới hạn tài nguyên trước khi triển khai. Quy trình tự động đào tạo lại sẽ không tự động thúc đẩy mọi điểm kiểm tra mới mà không kiểm tra chất lượng và khả năng tương thích. Chỉ định chủ sở hữu cho các cảnh báo và lỗi. Ghi lại những gì đã xảy ra, người dùng hoặc kết quả đầu ra nào bị ảnh hưởng và cách xác minh quá trình khôi phục. Xem xét các sự cố tái diễn để tìm nguyên nhân gốc rễ thay vì chỉ khởi động lại dịch vụ. Thành công trong hoạt động bao gồm tính chính xác của dữ liệu và kết quả nhiệm vụ cũng như thời gian hoạt động.

04Ví dụ hoạt động

Phát hành một hệ thống tương thích

  1. Hãy tưởng tượng một mô hình mới mong đợi một tính năng được đổi tên trong khi quy trình đầu vào cũ vẫn đang phục vụ tên trước đó.

  2. Chỉ triển khai mô hình có thể phá vỡ các yêu cầu mặc dù cả hai thành phần đều vượt qua các bài kiểm tra riêng biệt của chúng.

  3. Đóng gói các phiên bản tương thích, kiểm tra từ đầu đến cuối hợp đồng và giữ lại cặp trước đó để khôi phục.

Những gì nó cho thấy

Bản phát hành giả định minh họa lý do tại sao các hoạt động AI quản lý cấu hình hệ thống thay vì chỉ quản lý tệp mô hình.

Triển khai trong thế giới thực

Phát hành một mô hình và mã tiền xử lý của nó cùng với một phiên bản khôi phục.

Kiểm tra xem dịch vụ truy xuất không khả dụng có tạo ra trạng thái trung thực không khả dụng hay không.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Xây dựng lựa chọn. Thiết kế cấp ứng dụng xác định liệu AI có cải thiện kết quả thực tế hay không.
  • Nhóm và quy trình làm việc. Tích hợp quy trình làm việc tốt sẽ giúp tăng năng suất mà người dùng có thể tin tưởng.
  • Rủi ro và an toàn. Các trường hợp sử dụng có phạm vi phù hợp giúp giảm bớt sự mệt mỏi khi thay đổi và rủi ro triển khai.

coi chừng

  • Tự động hóa một quy trình bị hỏng có thể khuếch đại các vấn đề hiện có.
  • Các nhóm có thể tự động hóa quá mức và loại bỏ sự phán xét cần thiết của con người.
  • Chất lượng có thể thay đổi nếu kết quả đầu ra không được đánh giá liên tục.

Các bước tiếp theo

  1. Lập sơ đồ quy trình làm việc hiện tại và xác định bước có mức độ ma sát cao nhất.
  2. Xác định các điểm kiểm tra của con người trước khi tự động hóa hoàn toàn.
  3. Đào tạo người dùng về lời nhắc, đường dẫn leo thang và tiêu chuẩn chất lượng.
  4. Theo dõi kết quả ở cấp độ nhiệm vụ để xác nhận giá trị bền vững.

Nguồn tham khảo và đọc thêm

  1. Google CloudMLOps: đường ống phân phối liên tục và tự động hóa

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the AI Operations quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Mọi mô hình mới được đào tạo có nên được triển khai tự động không?

Chỉ thông qua quy trình phát hành để kiểm tra các yêu cầu về chất lượng, khả năng tương thích, tài nguyên và quản trị có liên quan. Một công việc đào tạo hoàn thành là không đủ.