HƯỚNG DẪN KỸ THUẬT

Đặc quyền tối thiểu dành cho đại lý LLM

Đặc quyền tối thiểu chỉ cung cấp cho tác nhân AI danh tính, quyền truy cập dữ liệu, công cụ và phạm vi hành động cần thiết cho một nhiệm vụ được xác định.

Nghe hướng dẫn nàyAI thuật lại · ~3 min

Trên trang nàyĐọc trong 3 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của ít đặc quyền nhất dành cho các đại lý LLM
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

Nó hạn chế tác động của lỗi hoặc việc đưa vào nhắc nhở, nhưng phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo thay vì được giả định từ lời nhắc của hệ thống.

Lặn sâu

Đặc quyền tối thiểu là nguyên tắc chỉ cấp các quyền cần thiết cho một nhiệm vụ, cho danh tính thực hiện nhiệm vụ đó, trong khoảng thời gian cần thiết. Đối với tác nhân AI, ranh giới quyền không chỉ bao gồm danh sách công cụ của mô hình: nó bao gồm thông tin xác thực, bộ sưu tập dữ liệu, dịch vụ bên ngoài, tài nguyên có thể ghi và các hành động có sẵn thông qua mỗi trình kết nối. Lời nhắc có nội dung “không xóa tệp” không ngăn lệnh gọi công cụ xóa chúng nếu danh tính vẫn có quyền đó. Hướng dẫn hiện tại của Microsoft dành cho tác nhân AI đề xuất danh tính duy nhất, mục đích được ghi lại và quyền truy cập dữ liệu, xem xét các quyền tổng hợp hiệu quả, công cụ đưa vào danh sách cho phép và kiểm tra hành động của tác nhân. Nó mô tả các vai trò đọc có phạm vi để tóm tắt tài liệu, các vai trò đọc và ghi riêng biệt cho quy trình yêu cầu cũng như các cổng phê duyệt hoặc nâng cao có giới hạn thời gian để khắc phục. Đây là các đề xuất triển khai Microsoft nhưng nguyên tắc cơ bản áp dụng trên toàn hệ thống: thực thi ủy quyền tại công cụ và dịch vụ hạ nguồn, không chỉ trong lời nhắc điều phối. Bắt đầu với bộ công cụ hữu ích và phạm vi tài nguyên nhỏ nhất. Tách biệt các chức năng đọc và ghi nếu có thể; yêu cầu sự chấp thuận rõ ràng cho các hành động phá hoại, tài chính hoặc rộng rãi. Sử dụng thông tin xác thực ngắn hạn cho công việc nâng cao, duy trì cách thu hồi quyền truy cập nhanh chóng và xem xét các quyền khi dữ liệu, công cụ hoặc quy trình làm việc thay đổi. Ghi lại hiệu trưởng nào đã hành động và những gì hệ thống hạ nguồn ủy quyền. Đặc quyền tối thiểu làm giảm bán kính vụ nổ; nó không chứng minh được phán đoán của người đại diện là đúng hoặc ngăn chặn mọi hình thức tiết lộ dữ liệu. Kết hợp nó với xử lý đầu vào, xác thực đầu ra, kiểm tra, giám sát và xác nhận của con người đối với các hoạt động nhạy cảm.

Triển khai trong thế giới thực

Trình tóm tắt tài liệu nhận được quyền truy cập chỉ đọc vào một bộ sưu tập đã được phê duyệt thay vì quyền truy cập rộng rãi vào các tệp của đối tượng thuê.

Trợ lý bán vé có thể tạo hoặc cập nhật trường hợp nhưng không thể xóa hồ sơ hoặc thay đổi vai trò quản trị viên.

Một tác nhân thực hiện việc khắc phục sẽ nhận được quyền truy cập tạm thời, được phê duyệt vào một nhóm tài nguyên được đặt tên thay vì các quyền thường trực trên toàn bộ gói đăng ký.

Một nhóm ghi lại danh tính tác nhân, phạm vi hiệu quả, công cụ, hành động, nguồn lực mục tiêu và bối cảnh phê duyệt cho từng hoạt động tiếp theo.

Tương lai của ít đặc quyền nhất dành cho các đại lý LLM

Khi các tổ chức triển khai nhiều tác nhân hơn, việc quản trị danh tính và quyền sẽ cần phải bao gồm chủ sở hữu, vòng đời, thông tin xác thực, công cụ và các hành động tiếp theo của họ. Đánh giá quyền truy cập và kiểm kê tự động có thể giúp tìm ra quy trình cấp phép, nhưng các nhóm vẫn phải quyết định nhiệm vụ nào yêu cầu khả năng nào. Mong đợi các biện pháp kiểm soát có đặc quyền tối thiểu sẽ trở thành một phần trong quá trình triển khai tác nhân thông thường và ứng phó sự cố. Quá trình thu hồi và kiểm tra nhanh sẽ quan trọng vì các tác nhân sử dụng nhiều trình kết nối hơn và hoạt động trên các hệ thống. Quyền nên được xem xét lại khi tác vụ hoặc nguồn dữ liệu thay đổi.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Chi phí và ngân sách. Các quyết định về kiến ​​trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.
  • Quyết định rõ ràng hơn. Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.
  • Kiểm soát chất lượng. Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.

coi chừng

  • Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.
  • Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.
  • Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.

Các bước tiếp theo

  1. Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.
  2. Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.
  3. Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.
  4. Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the Least Privilege for LLM Agents quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Đặc quyền tối thiểu dành cho Đại lý LLM là gì?

Đặc quyền tối thiểu chỉ cung cấp cho tác nhân AI danh tính, quyền truy cập dữ liệu, công cụ và phạm vi hành động cần thiết cho một nhiệm vụ xác định. Nó hạn chế tác động của lỗi hoặc việc đưa vào nhắc nhở, nhưng phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo thay vì được giả định từ lời nhắc của hệ thống.

Đặc quyền tối thiểu có ý nghĩa gì đối với một tác nhân AI?

Hướng dẫn xác định đặc quyền tối thiểu đối với danh tính, quyền truy cập dữ liệu, công cụ, hành động và thời lượng.

Tại sao lời nhắc hệ thống có nội dung “không xóa tập tin” lại không đủ?

Hướng dẫn cho biết việc ủy ​​quyền phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo chứ không phải được giả định từ văn bản nhắc nhở.

Bộ quyền nào phù hợp với trình tóm tắt tài liệu?

Hướng dẫn của Microsoft đưa ra vai trò thu thập chỉ đọc, trong phạm vi nhiệm vụ làm ví dụ cho việc tóm tắt tài liệu.

Làm thế nào một tác nhân có thể thực hiện một hành động ghi nhạy cảm với đặc quyền thường trực bị giảm?

Hướng dẫn đề xuất phê duyệt hoặc nâng cao trong thời gian ngắn đối với các hành động có tác động lớn.

Tại sao phải xem xét các quyền tổng hợp trên các vai trò và dịch vụ?

Microsoft cảnh báo rằng nhiều quyền có thể tạo ra phạm vi hiệu quả rộng hơn mong đợi.