引導式測驗 · 中等 等級

間接即時注射測驗

識別不受信任內容攜帶的攻擊,並圍繞資料流、工具和後續操作應用分層控制。

相關引導路徑間接提示注入
問題 1 的 8

是什麼讓即時注入變得間接?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 是什麼讓即時注入變得間接?
    • 使用者直接在聊天中輸入指令
    • 模型沒有收到任何文本
    • 對抗性指令到達要求助手處理的內容
    • 該指令是系統提示的一部分
  2. 哪些內容可以進行間接提示注入?
    • 網頁、電子郵件、上傳的文件或檢索的文檔
    • 僅開發人員說明
    • 僅模型的權重
    • 硬體溫度讀數
  3. 間接注入可以嘗試使代理做什麼?
    • 提高硬體吞吐量
    • 更改用戶密碼而無法存取
    • 自動更改文件格式
    • 改變行為或濫用連結的工具,包括暴露數據
  4. 為什麼工具存取會增加提示注入的風險?
    • 工具使提示具有確定性
    • 受操縱的回應可能會觸發文字答案以外的操作或資料共享
    • 工具刪除不受信任的內容
    • 工具呼叫不能有副作用
  5. 哪一項是縱深防禦措施?
    • 僅依靠提示“忽略攻擊”
    • 讓每個代理都能存取所有數據
    • 限制工具權限並驗證模型外部的參數
    • 刪除操作確認
  6. 為什麼對從不受信任的文檔中提取的資料使用結構化輸出?
    • 他們證明該文件是值得信賴的
    • 它們可以限制自由格式的資料流並使欄位更容易驗證
    • 它們會自動阻止所有攻擊
    • 他們授予模型更多權限
  7. 僅模型的拒絕行為就能確保互聯工作流程的安全嗎?
    • 不;授權和工具控制也應該在模型外部強制執行
    • 是的,對於每個模型和攻擊
    • 是的,如果提示很長
    • 不,因為模特兒無法拒絕
  8. 在確認相應的代理操作之前,用戶應該檢查什麼?
    • 只有經紀人的語氣
    • 僅調用的工具數量
    • 如果內容來自網頁則沒有任何內容
    • 共享的確切操作、目的地和訊息