引導式測驗 · 硬 等級

LLM 代理測驗的最低特權

測試任務範圍的權限、工具和資料邊界、聚合存取、臨時提升、可審核性以及僅提示規則的限制。

問題 1 的 8

最小權限對於人工智慧代理意味著什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 最小權限對於人工智慧代理意味著什麼?
    • 僅授予任務所需的身份、資料、工具和操作
    • 提供一切工具以避免干擾
    • 對所有工作流程使用管理員身份
    • 依賴系統提示限制行為
  2. 為什麼系統提示「不要刪除檔案」本身不夠?
    • 證明工具呼叫是安全的
    • 它不會刪除工具或身分的刪除權限
    • 它阻止模型讀取文本
    • 它會自動更改檔案系統權限
  3. 哪種權限集適合文件摘要器?
    • 全域管理員存取權限
    • 刪除對每個儲存庫的存取權限
    • 對批准的集合的唯讀存取權限
    • 租戶範圍的讀取/寫入訪問
  4. 代理程式如何在降低常設權限的情況下執行敏感寫入操作?
    • 永久保留廣泛的存取權限
    • 讓模型決定是否授權
    • 從日誌中隱藏操作
    • 使用限時提升或審核門
  5. 為什麼要審查跨角色和服務的聚合權限?
    • 多項狹義的贈款可以合併為廣泛的有效訪問
    • 每個角色始終保持孤立
    • 該模型不能使用多種工具
    • 聚合存取與代理安全無關
  6. 哪些細節可以提高代理操作的可審核性?
    • 僅提示文字
    • 身分、範圍、操作、資源以及批准或關聯上下文
    • 僅最終聊天回复
    • 模型的自我報告置信度
  7. 當工具或工作流程發生重大變化時,團隊該做什麼?
    • 刪除所有日誌
    • 優先賦予代理人更廣泛的權利
    • 重新審查權限和有效範圍
    • 保留原始補助金而不檢查
  8. 最小特權做什麼、不做什麼?
    • 保證不會發生即時注入
    • 替換輸出驗證
    • 確保每個答案都是準確的
    • 限制潛在影響,但並不能證明代理人的判斷是正確的