引導式測驗 · 中等 等級

即時注入攻擊測驗

透過工具遏制、層級結構訓練、任務中斷和多模式輸入風險,檢視指令信任邊界和間接注入。

相關引導路徑即時注入攻擊
問題 1 的 8

即時注入嘗試可以利用哪種信任失敗?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 即時注入嘗試可以利用哪種信任失敗?
    • 任務材料中的對抗性指令被視為權威命令並被遵循
    • 要求每個模型加密其整個上下文
    • 保證所有模型都有管理員權限
    • 要求每個模型始終服從每個輸入
  2. 間接提示注入與直接注入有何不同?
    • 它僅適用於圖像模型
    • 它需要對伺服器的實體訪問
    • 惡意指令存在於模型稍後讀取的外部來源中,而不是使用者自己的訊息中
    • 這是開發商故意為之
  3. 所引用的間接注入分類法包括哪些可用性目標?
    • 每次攻擊僅盜取整個訓練語料庫
    • 抑制有用回應或干擾搜尋任務
    • 僅改變 GPU 的物理記憶體大小
    • 僅提升所有授權搜尋結果
  4. 最小特權工具權限如何限製成功注入的後果?
    • 它們證明每個允許的操作在任何情境下都是無害的
    • 它們保證模型永不提出注入行動
    • 它們消除任何輸出或行動驗證的需求
    • 它們限制工作流程可用的操作和資源
  5. 指令層次結構研究旨在訓練什麼行為?
    • 將所有檢索到的單詞按字母順序排序
    • 將每個網頁視為比開發者更具權威性
    • 在優先級較低的內容衝突時遵循特權指令
    • 使用圖像金鑰加密模型詞彙表
  6. 為什麼隨著人工智慧代理獲得工具,即時注入變得更加危險?
    • 受騙的代理現在可以採取實際行動,例如發送電子郵件、運行程式碼或洩露數據
    • 代理使用工具运行速度更慢
    • 工具使模型忘記其訓練
    • 工具使模型的困惑度加倍
  7. 為何在應用接受多模態輸入時,prompt-injection 評估應涵蓋圖像?
    • 圖像保證所有指令都是可信的
    • 圖像只能包含一個數值標量
    • 純文字測試自動涵蓋所有圖像輸入
    • 對抗性指令可嵌入圖像通道
  8. 僅引用攻擊指令不足以證明應用已被攻破嗎?
    • 每個引用的字串必然改變系統權限
    • 文字可能是合法的分析材料,且永遠不會被執行為指令
    • 攻擊者必須先修改所有原始模型權重
    • 授權使用者永遠不能討論安全攻擊