引導式測驗 · 簡單 等級
護欄和輸出調節測驗
回顧語言模型護欄如何檢查輸入、輸出和流文本,同時平衡偵測、隱私、評估和持續監控。
問題 1 的 8
語言模型上下文中的護欄是什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 語言模型上下文中的護欄是什麼?
- 安全檢查使輸入和輸出保持在可接受的範圍內
- 聊天視窗周圍的裝飾邊框
- 讓模型反應更快的方法
- 冷卻伺服器的硬體
- 「輸出審核」具體檢查什麼?
- 模型用電量
- 模型在到達使用者之前產生的文本
- 使用者的打字速度
- 介面的配色方案
- 以下是輸入側護欄的範例?
- 將答案翻譯成西班牙語
- 把字體調大一點
- 在提示注入嘗試到達模型之前對其進行過濾
- 在答案中加入引用
- 為什麼調節流式(逐個令牌)回應更困難?
- 串流媒體使用更多顏色
- 串流傳輸停用所有分類器
- 使用者無法閱讀串流文字
- 文字在生成時顯示,因此有害內容可能會在全面檢查之前出現
- 護欄工程師必須抓住的關鍵平衡點是什麼?
- 捕獲有害輸出,同時最大限度地減少合法請求的誤報
- 使模型盡可能慢
- 阻止每一個回复
- 刪除所有日誌記錄
- 什麼是記錄審核決策的注重隱私的方式?
- 無限期地存儲每個完整對話並可供公眾訪問
- 僅記錄必要的信息,並具有定義的存取和保留控制
- 停用所有隱私控制以簡化調試
- 發布被封鎖的提示,以便用戶可以檢查它們
- 部署前護欄測試應包括哪些內容?
- 僅顯示已通過的提示
- 不測試邊界請求
- 具代表性的有害和良性案例來衡量漏報和誤報
- 每個策略類別都有一個測試提示
- 為什麼部署後要監控護欄?
- 監控使模型本質安全
- 部署的分類器永遠不會改變其錯誤率
- 它消除了用戶報告或評估的需要
- 使用和威脅模式可能會發生變化,從而揭示新的錯誤或政策差距