引導式測驗 · 中等 等級
間接即時注射測驗
識別不受信任內容攜帶的攻擊,並圍繞資料流、工具和後續操作應用分層控制。
問題 1 的 8
是什麼讓即時注入變得間接?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 是什麼讓即時注入變得間接?
- 使用者直接在聊天中輸入指令
- 模型沒有收到任何文本
- 對抗性指令到達要求助手處理的內容
- 該指令是系統提示的一部分
- 哪些內容可以進行間接提示注入?
- 網頁、電子郵件、上傳的文件或檢索的文檔
- 僅開發人員說明
- 僅模型的權重
- 硬體溫度讀數
- 間接注入可以嘗試使代理做什麼?
- 提高硬體吞吐量
- 更改用戶密碼而無法存取
- 自動更改文件格式
- 改變行為或濫用連結的工具,包括暴露數據
- 為什麼工具存取會增加提示注入的風險?
- 工具使提示具有確定性
- 受操縱的回應可能會觸發文字答案以外的操作或資料共享
- 工具刪除不受信任的內容
- 工具呼叫不能有副作用
- 哪一項是縱深防禦措施?
- 僅依靠提示“忽略攻擊”
- 讓每個代理都能存取所有數據
- 限制工具權限並驗證模型外部的參數
- 刪除操作確認
- 為什麼對從不受信任的文檔中提取的資料使用結構化輸出?
- 他們證明該文件是值得信賴的
- 它們可以限制自由格式的資料流並使欄位更容易驗證
- 它們會自動阻止所有攻擊
- 他們授予模型更多權限
- 僅模型的拒絕行為就能確保互聯工作流程的安全嗎?
- 不;授權和工具控制也應該在模型外部強制執行
- 是的,對於每個模型和攻擊
- 是的,如果提示很長
- 不,因為模特兒無法拒絕
- 在確認相應的代理操作之前,用戶應該檢查什麼?
- 只有經紀人的語氣
- 僅調用的工具數量
- 如果內容來自網頁則沒有任何內容
- 共享的確切操作、目的地和訊息