AI cạnh

Xác định những gì phải xảy ra cục bộ và những gì có thể hoãn hoặc gửi đến máy chủ. Một tính năng ngoại tuyến cần chế độ lỗi hữu ích khi kết nối biến mất; một mô hình cục bộ vẫn phụ thuộc vào truy xuất từ xa có thể chưa hoàn toàn ngoại tuyến. Đo bộ nhớ, tính toán, pin sử dụng, nhiệt độ và hiệu suất duy trì trên phân loại thiết bị thực tế. Một bài kiểm tra ngắn có thể bỏ sót việc giảm tốc nhiệt hoặc cạnh tranh với các ứng dụng khác. Kích thước mô hình đơn thuần không tính đến bộ nhớ làm việc và các tác vụ đồng thời. Nén, lượng tử hóa hoặc kiến trúc nhỏ hơn có thể giúp phù hợp với khối lượng công việc, nhưng hãy đánh giá tác vụ sau mỗi lần thay đổi. Kiểm tra các đầu vào và điều kiện khó khăn từ môi trường dự kiến, như ánh sáng kém, âm thanh ồn hoặc pin yếu. Cập nhật kế hoạch và xử lý dữ liệu. Xử lý cục bộ có thể giảm một số lần truyền dữ liệu, nhưng nhật ký, đồng bộ hóa và các tính năng kết nối vẫn cần kiểm soát quyền riêng tư. Giữ cho các phiên bản mô hình có thể nhận diện được và hỗ trợ đường cập nhật hoặc hoàn tác an toàn trên các thiết bị có thể kết nối lại không thường xuyên.