ガードレールと出力モデレーションに関するクイズ

クイズに答えると、答えと解説が表示されます。

1. 言語モデルのコンテキストにおけるガードレールとは何ですか?
   • 入力と出力を許容範囲内に保つ安全性チェック
   • チャット ウィンドウの周囲の装飾的な境界線
   • モデルの応答を速くする方法
   • サーバーを冷却するハードウェア
2. 「出力節度」は具体的に何を検査するのでしょうか?
   • モデルが使用する電力
   • ユーザーに届く前にモデルが生成したテキスト
   • ユーザーの入力速度
   • インターフェースの配色
3. 入力側のガードレールの例はどれですか?
   • 答えをスペイン語に翻訳すると、
   • フォントを大きくする
   • プロンプト注入試行をモデルに到達する前にフィルタリングする
   • 回答に引用を追加する
4. ストリーミング (トークンごと) 応答のモデレートが難しいのはなぜですか?
   • ストリーミングではより多くの色が使用されます
   • ストリーミングによりすべての分類子が無効になります
   • ユーザーはストリーミングされたテキストを読むことができません
   • テキストは生成されたとおりに表示されるため、完全なチェックが行われる前に有害なコンテンツが表示される可能性があります
5. エンジニアが守らなければならない重要なバランスのガードレールは何ですか?
   • 正当なリクエストに対する誤検知を最小限に抑えながら、有害な出力をキャッチします。
   • モデルをできるだけ遅くする
   • あらゆる応答をブロックする
   • すべてのログを削除する
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps