ガイド連動クイズ · 中 レベル

エージェントのガードレールに関するクイズ

出力および入力フィルター、最小権限ツール、レッドチーム、NIST 監視、および安全制御の限界を評価します。

関連するガイドパスエージェントのガードレール
質問 1 の 8

エージェント ガードレールの主な目的は何ですか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. エージェント ガードレールの主な目的は何ですか?
    • 安全性とコンプライアンスのためにエージェントが実行できること、発言できること、またはアクセスできることを制限するため
    • エージェントの応答を遅くするには
    • エージェントの語彙を増やすには
    • 基礎となるモデルを完全に置き換えるには
  2. 「出力ガードレール」は通常何をしますか?
    • 受信したユーザープロンプトのみを画面に表示します
    • エージェントの応答に有害なコンテンツ、虚偽のコンテンツ、または準拠していないコンテンツがないかを配信前にチェックします。
    • モデルのトレーニングを高速化します
    • エージェントにさらに多くのツールへのアクセスを許可します
  3. 「最小特権の原則」はアクションのガードレールにどのように適用されますか?
    • エージェントには可能な限りの許可が与えられます
    • エージェントは何の許可も求める必要はありません
    • エージェントは、必要な範囲が狭いツール、キー、および制限のみを取得します。
    • 便宜上、エージェントには管理者アクセスが与えられます
  4. ガードレールで使用される「ジャッジ」またはバリデーター モデルとは何ですか?
    • エージェントの主な回答を生成するには
    • ユーザーのパスワードを保存するには
    • 言語のみを翻訳するには
    • エージェントの出力の安全性または正確性を評価または事実確認するため
  5. 敵対的な入力に対するガードレールをテストすることが重要なのはなぜですか?
    • 攻撃者はジェイルブレイクを試みるため、ガードレールは盲目的に信頼するのではなく調査する必要がある
    • エージェントの速度を意図的に遅くします
    • あらゆるルールが不要になります
    • モデルが間違いを犯さないことが保証されます
  6. 効果的なアクションのガードレールを示す例はどれですか?
    • 支出制限のない購入エージェント
    • モデル外で強制的に 1 取引あたり 100 ドルの厳しい上限を設けた購入エージェント
    • 必要なコマンドを実行できるエージェント
    • すべての権限を無視するエージェント
  7. What does NIST’s Generative AI Profile say content filters can do?
    • Guarantee that all false or harmful content is removed
    • Verify that every generated answer is factually correct
    • Use rule-based or machine-learning methods to flag problematic inputs and outputs
    • Replace all post-deployment monitoring
  8. What can a NIST post-deployment monitoring plan include for generative AI?
    • A guarantee that all outputs will be safe
    • A replacement for pre-deployment testing
    • An instruction to ignore user-reported issues
    • Mechanisms to capture user input and support appeal, override, incident response, and updates