引導式測驗 · 硬 等級

三明治防禦提示測驗

測試即時夾心的結構、其假設、模型相關限制、基準範圍以及獨立控制的需求。

相關引導路徑三明治防禦
問題 1 的 8

三明治防禦將重複的任務指令放在哪裡?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 三明治防禦將重複的任務指令放在哪裡?
    • 不受信任內容前後
    • 僅在檢索到的文件內
    • 模特兒回答後
    • 僅在評估報告中
  2. 結束提醒對這種模式有何幫助?
    • 它強制所有模型服從最終句子
    • 它可能會在不受信任的文本之後將模型重新集中到任務上
    • 它創建加密授權
    • 證明頁面是安全的
  3. 夾心對應用程式有何影響?
    • 使用者的授權級別
    • 檢索到的文檔的來源
    • 提示範本的文字結構
    • 模型的訓練權重
  4. 為什麼三明治防禦不是安全邊界?
    • 它不使用標點符號
    • 它總是隱藏外部文檔
    • 它會自動阻止工具調用
    • 提醒和敵意段落保留在同一模型上下文中的文本
  5. 引用的領域迷彩預印本評估了什麼?
    • 跨三個模型系列和綜合專業文件域的幾個提示級防禦
    • 每一個商業模式和真實的企業文檔
    • 僅產品的密碼重設流程
    • 每一種可能的提示注入攻擊
  6. 預印本對跨模型的有效性意味著什麼?
    • 模型選擇沒有影響
    • 它可能因型號而異,並且沒有經過測試的即時防禦可以消除較弱型號中的所有威脅
    • 所有型號的防禦工作都相同
    • 夾心保證零攻擊
  7. 哪個控制解決是否允許代理執行外部操作?
    • 更長的來源文檔
    • 更高的信心聲明
    • 應用程式端工具權限檢查
    • 單獨重複的結束語
  8. 團隊該如何決定夾心是否有助於其應用?
    • 假設它有效,因為它很容易添加
    • 僅測量答案長度
    • 跳過任務品質檢查
    • 根據相同的代表性良性和惡意輸入的基線對其進行測試