引導式測驗 · 中等 等級
即時注入攻擊測驗
透過工具遏制、層級結構訓練、任務中斷和多模式輸入風險,檢視指令信任邊界和間接注入。
問題 1 的 8
即時注入嘗試可以利用哪種信任失敗?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 即時注入嘗試可以利用哪種信任失敗?
- 任務材料中的對抗性指令被視為權威命令並被遵循
- 要求每個模型加密其整個上下文
- 保證所有模型都有管理員權限
- 要求每個模型始終服從每個輸入
- 間接提示注入與直接注入有何不同?
- 它僅適用於圖像模型
- 它需要對伺服器的實體訪問
- 惡意指令存在於模型稍後讀取的外部來源中,而不是使用者自己的訊息中
- 這是開發商故意為之
- 所引用的間接注入分類法包括哪些可用性目標?
- 每次攻擊僅盜取整個訓練語料庫
- 抑制有用回應或干擾搜尋任務
- 僅改變 GPU 的物理記憶體大小
- 僅提升所有授權搜尋結果
- 最小特權工具權限如何限製成功注入的後果?
- 它們證明每個允許的操作在任何情境下都是無害的
- 它們保證模型永不提出注入行動
- 它們消除任何輸出或行動驗證的需求
- 它們限制工作流程可用的操作和資源
- 指令層次結構研究旨在訓練什麼行為?
- 將所有檢索到的單詞按字母順序排序
- 將每個網頁視為比開發者更具權威性
- 在優先級較低的內容衝突時遵循特權指令
- 使用圖像金鑰加密模型詞彙表
- 為什麼隨著人工智慧代理獲得工具,即時注入變得更加危險?
- 受騙的代理現在可以採取實際行動,例如發送電子郵件、運行程式碼或洩露數據
- 代理使用工具运行速度更慢
- 工具使模型忘記其訓練
- 工具使模型的困惑度加倍
- 為何在應用接受多模態輸入時,prompt-injection 評估應涵蓋圖像?
- 圖像保證所有指令都是可信的
- 圖像只能包含一個數值標量
- 純文字測試自動涵蓋所有圖像輸入
- 對抗性指令可嵌入圖像通道
- 僅引用攻擊指令不足以證明應用已被攻破嗎?
- 每個引用的字串必然改變系統權限
- 文字可能是合法的分析材料,且永遠不會被執行為指令
- 攻擊者必須先修改所有原始模型權重
- 授權使用者永遠不能討論安全攻擊