引导式测验 · 简单 等级

护栏和输出调节测验

回顾语言模型护栏如何检查输入、输出和流文本，同时平衡检测、隐私、评估和持续监控。

相关引导路径护栏和输出调节
问题 1 的 8

语言模型上下文中的护栏是什么？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

  1. 语言模型上下文中的护栏是什么？
    • 安全检查使输入和输出保持在可接受的范围内
    • 聊天窗口周围的装饰边框
    • 一种让模型响应更快的方法
    • 冷却服务器的硬件
  2. “输出审核”具体检查什么？
    • 模型用电量
    • 模型在到达用户之前生成的文本
    • 用户的打字速度
    • 界面的配色方案
  3. 以下是输入侧护栏的示例？
    • 将答案翻译成西班牙语
    • 把字体调大一点
    • 在提示注入尝试到达模型之前对其进行过滤
    • 在答案中添加引用
  4. 为什么调节流式（逐个令牌）响应更困难？
    • 流媒体使用更多颜色
    • 流式传输禁用所有分类器
    • 用户无法阅读流式文本
    • 文本在生成时显示，因此有害内容可能会在全面检查之前出现
  5. 护栏工程师必须抓住的关键平衡点是什么？
    • 捕获有害输出，同时最大限度地减少合法请求的误报
    • 使模型尽可能慢
    • 阻止每一个回复
    • 删除所有日志记录
  6. What is a privacy-conscious way to log moderation decisions?
    • Store every full conversation indefinitely with public access
    • Record only necessary information, with defined access and retention controls
    • Disable all privacy controls to simplify debugging
    • Publish blocked prompts so users can inspect them
  7. What should pre-deployment guardrail testing include?
    • Only the prompts that already pass
    • No testing of borderline requests
    • Representative harmful and benign cases to measure misses and false positives
    • A single test prompt for every policy category
  8. Why monitor guardrails after deployment?
    • Monitoring makes the model intrinsically safe
    • A deployed classifier never changes its error rate
    • It eliminates the need for user reports or evaluation
    • Usage and threat patterns can change, revealing new errors or policy gaps