引導式測驗 · 簡單 等級

護欄和輸出調節測驗

回顧語言模型護欄如何檢查輸入、輸出和流文本,同時平衡偵測、隱私、評估和持續監控。

相關引導路徑護欄和輸出調節
問題 1 的 8

語言模型上下文中的護欄是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 語言模型上下文中的護欄是什麼?
    • 安全檢查使輸入和輸出保持在可接受的範圍內
    • 聊天視窗周圍的裝飾邊框
    • 讓模型反應更快的方法
    • 冷卻伺服器的硬體
  2. 「輸出審核」具體檢查什麼?
    • 模型用電量
    • 模型在到達使用者之前產生的文本
    • 使用者的打字速度
    • 介面的配色方案
  3. 以下是輸入側護欄的範例?
    • 將答案翻譯成西班牙語
    • 把字體調大一點
    • 在提示注入嘗試到達模型之前對其進行過濾
    • 在答案中加入引用
  4. 為什麼調節流式(逐個令牌)回應更困難?
    • 串流媒體使用更多顏色
    • 串流傳輸停用所有分類器
    • 使用者無法閱讀串流文字
    • 文字在生成時顯示,因此有害內容可能會在全面檢查之前出現
  5. 護欄工程師必須抓住的關鍵平衡點是什麼?
    • 捕獲有害輸出,同時最大限度地減少合法請求的誤報
    • 使模型盡可能慢
    • 阻止每一個回复
    • 刪除所有日誌記錄
  6. 什麼是記錄審核決策的注重隱私的方式?
    • 無限期地存儲每個完整對話並可供公眾訪問
    • 僅記錄必要的信息,並具有定義的存取和保留控制
    • 停用所有隱私控制以簡化調試
    • 發布被封鎖的提示,以便用戶可以檢查它們
  7. 部署前護欄測試應包括哪些內容?
    • 僅顯示已通過的提示
    • 不測試邊界請求
    • 具代表性的有害和良性案例來衡量漏報和誤報
    • 每個策略類別都有一個測試提示
  8. 為什麼部署後要監控護欄?
    • 監控使模型本質安全
    • 部署的分類器永遠不會改變其錯誤率
    • 它消除了用戶報告或評估的需要
    • 使用和威脅模式可能會發生變化,從而揭示新的錯誤或政策差距