引導式測驗 · 硬 等級
LLM 代理測驗的最低特權
測試任務範圍的權限、工具和資料邊界、聚合存取、臨時提升、可審核性以及僅提示規則的限制。
問題 1 的 8
最小權限對於人工智慧代理意味著什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 最小權限對於人工智慧代理意味著什麼?
- 僅授予任務所需的身份、資料、工具和操作
- 提供一切工具以避免干擾
- 對所有工作流程使用管理員身份
- 依賴系統提示限制行為
- 為什麼系統提示「不要刪除檔案」本身不夠?
- 證明工具呼叫是安全的
- 它不會刪除工具或身分的刪除權限
- 它阻止模型讀取文本
- 它會自動更改檔案系統權限
- 哪種權限集適合文件摘要器?
- 全域管理員存取權限
- 刪除對每個儲存庫的存取權限
- 對批准的集合的唯讀存取權限
- 租戶範圍的讀取/寫入訪問
- 代理程式如何在降低常設權限的情況下執行敏感寫入操作?
- 永久保留廣泛的存取權限
- 讓模型決定是否授權
- 從日誌中隱藏操作
- 使用限時提升或審核門
- 為什麼要審查跨角色和服務的聚合權限?
- 多項狹義的贈款可以合併為廣泛的有效訪問
- 每個角色始終保持孤立
- 該模型不能使用多種工具
- 聚合存取與代理安全無關
- 哪些細節可以提高代理操作的可審核性?
- 僅提示文字
- 身分、範圍、操作、資源以及批准或關聯上下文
- 僅最終聊天回复
- 模型的自我報告置信度
- 當工具或工作流程發生重大變化時,團隊該做什麼?
- 刪除所有日誌
- 優先賦予代理人更廣泛的權利
- 重新審查權限和有效範圍
- 保留原始補助金而不檢查
- 最小特權做什麼、不做什麼?
- 保證不會發生即時注入
- 替換輸出驗證
- 確保每個答案都是準確的
- 限制潛在影響,但並不能證明代理人的判斷是正確的