Tiếp theoHướng dẫn tiếp theo
Công cụ thiết kế dành cho đại lý LLM
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Đặc quyền tối thiểu chỉ cung cấp cho tác nhân AI danh tính, quyền truy cập dữ liệu, công cụ và phạm vi hành động cần thiết cho một nhiệm vụ được xác định.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Nó hạn chế tác động của lỗi hoặc việc đưa vào nhắc nhở, nhưng phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo thay vì được giả định từ lời nhắc của hệ thống.
Đặc quyền tối thiểu là nguyên tắc chỉ cấp các quyền cần thiết cho một nhiệm vụ, cho danh tính thực hiện nhiệm vụ đó, trong khoảng thời gian cần thiết. Đối với tác nhân AI, ranh giới quyền không chỉ bao gồm danh sách công cụ của mô hình: nó bao gồm thông tin xác thực, bộ sưu tập dữ liệu, dịch vụ bên ngoài, tài nguyên có thể ghi và các hành động có sẵn thông qua mỗi trình kết nối. Lời nhắc có nội dung “không xóa tệp” không ngăn lệnh gọi công cụ xóa chúng nếu danh tính vẫn có quyền đó. Hướng dẫn hiện tại của Microsoft dành cho tác nhân AI đề xuất danh tính duy nhất, mục đích được ghi lại và quyền truy cập dữ liệu, xem xét các quyền tổng hợp hiệu quả, công cụ đưa vào danh sách cho phép và kiểm tra hành động của tác nhân. Nó mô tả các vai trò đọc có phạm vi để tóm tắt tài liệu, các vai trò đọc và ghi riêng biệt cho quy trình yêu cầu cũng như các cổng phê duyệt hoặc nâng cao có giới hạn thời gian để khắc phục. Đây là các đề xuất triển khai Microsoft nhưng nguyên tắc cơ bản áp dụng trên toàn hệ thống: thực thi ủy quyền tại công cụ và dịch vụ hạ nguồn, không chỉ trong lời nhắc điều phối. Bắt đầu với bộ công cụ hữu ích và phạm vi tài nguyên nhỏ nhất. Tách biệt các chức năng đọc và ghi nếu có thể; yêu cầu sự chấp thuận rõ ràng cho các hành động phá hoại, tài chính hoặc rộng rãi. Sử dụng thông tin xác thực ngắn hạn cho công việc nâng cao, duy trì cách thu hồi quyền truy cập nhanh chóng và xem xét các quyền khi dữ liệu, công cụ hoặc quy trình làm việc thay đổi. Ghi lại hiệu trưởng nào đã hành động và những gì hệ thống hạ nguồn ủy quyền. Đặc quyền tối thiểu làm giảm bán kính vụ nổ; nó không chứng minh được phán đoán của người đại diện là đúng hoặc ngăn chặn mọi hình thức tiết lộ dữ liệu. Kết hợp nó với xử lý đầu vào, xác thực đầu ra, kiểm tra, giám sát và xác nhận của con người đối với các hoạt động nhạy cảm.
Trình tóm tắt tài liệu nhận được quyền truy cập chỉ đọc vào một bộ sưu tập đã được phê duyệt thay vì quyền truy cập rộng rãi vào các tệp của đối tượng thuê.
Trợ lý bán vé có thể tạo hoặc cập nhật trường hợp nhưng không thể xóa hồ sơ hoặc thay đổi vai trò quản trị viên.
Một tác nhân thực hiện việc khắc phục sẽ nhận được quyền truy cập tạm thời, được phê duyệt vào một nhóm tài nguyên được đặt tên thay vì các quyền thường trực trên toàn bộ gói đăng ký.
Một nhóm ghi lại danh tính tác nhân, phạm vi hiệu quả, công cụ, hành động, nguồn lực mục tiêu và bối cảnh phê duyệt cho từng hoạt động tiếp theo.
Khi các tổ chức triển khai nhiều tác nhân hơn, việc quản trị danh tính và quyền sẽ cần phải bao gồm chủ sở hữu, vòng đời, thông tin xác thực, công cụ và các hành động tiếp theo của họ. Đánh giá quyền truy cập và kiểm kê tự động có thể giúp tìm ra quy trình cấp phép, nhưng các nhóm vẫn phải quyết định nhiệm vụ nào yêu cầu khả năng nào. Mong đợi các biện pháp kiểm soát có đặc quyền tối thiểu sẽ trở thành một phần trong quá trình triển khai tác nhân thông thường và ứng phó sự cố. Quá trình thu hồi và kiểm tra nhanh sẽ quan trọng vì các tác nhân sử dụng nhiều trình kết nối hơn và hoạt động trên các hệ thống. Quyền nên được xem xét lại khi tác vụ hoặc nguồn dữ liệu thay đổi.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Đặc quyền tối thiểu chỉ cung cấp cho tác nhân AI danh tính, quyền truy cập dữ liệu, công cụ và phạm vi hành động cần thiết cho một nhiệm vụ xác định. Nó hạn chế tác động của lỗi hoặc việc đưa vào nhắc nhở, nhưng phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo thay vì được giả định từ lời nhắc của hệ thống.
Hướng dẫn xác định đặc quyền tối thiểu đối với danh tính, quyền truy cập dữ liệu, công cụ, hành động và thời lượng.
Hướng dẫn cho biết việc ủy quyền phải được thực thi bởi ứng dụng và các dịch vụ tiếp theo chứ không phải được giả định từ văn bản nhắc nhở.
Hướng dẫn của Microsoft đưa ra vai trò thu thập chỉ đọc, trong phạm vi nhiệm vụ làm ví dụ cho việc tóm tắt tài liệu.
Hướng dẫn đề xuất phê duyệt hoặc nâng cao trong thời gian ngắn đối với các hành động có tác động lớn.
Microsoft cảnh báo rằng nhiều quyền có thể tạo ra phạm vi hiệu quả rộng hơn mong đợi.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Công cụ thiết kế dành cho đại lý LLM
kỹ thuật