引導式測驗 · 硬 等級
三明治防禦提示測驗
測試即時夾心的結構、其假設、模型相關限制、基準範圍以及獨立控制的需求。
問題 1 的 8
三明治防禦將重複的任務指令放在哪裡?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 三明治防禦將重複的任務指令放在哪裡?
- 不受信任內容前後
- 僅在檢索到的文件內
- 模特兒回答後
- 僅在評估報告中
- 結束提醒對這種模式有何幫助?
- 它強制所有模型服從最終句子
- 它可能會在不受信任的文本之後將模型重新集中到任務上
- 它創建加密授權
- 證明頁面是安全的
- 夾心對應用程式有何影響?
- 使用者的授權級別
- 檢索到的文檔的來源
- 提示範本的文字結構
- 模型的訓練權重
- 為什麼三明治防禦不是安全邊界?
- 它不使用標點符號
- 它總是隱藏外部文檔
- 它會自動阻止工具調用
- 提醒和敵意段落保留在同一模型上下文中的文本
- 引用的領域迷彩預印本評估了什麼?
- 跨三個模型系列和綜合專業文件域的幾個提示級防禦
- 每一個商業模式和真實的企業文檔
- 僅產品的密碼重設流程
- 每一種可能的提示注入攻擊
- 預印本對跨模型的有效性意味著什麼?
- 模型選擇沒有影響
- 它可能因型號而異,並且沒有經過測試的即時防禦可以消除較弱型號中的所有威脅
- 所有型號的防禦工作都相同
- 夾心保證零攻擊
- 哪個控制解決是否允許代理執行外部操作?
- 更長的來源文檔
- 更高的信心聲明
- 應用程式端工具權限檢查
- 單獨重複的結束語
- 團隊該如何決定夾心是否有助於其應用?
- 假設它有效,因為它很容易添加
- 僅測量答案長度
- 跳過任務品質檢查
- 根據相同的代表性良性和惡意輸入的基線對其進行測試