Вікторина, пов’язана з посібником · легко Рівень
Огородження та вікторина модерації результатів
Перегляньте, як захисні засоби мовної моделі перевіряють введення, виведення та потоковий текст, збалансовуючи виявлення, конфіденційність, оцінку та постійний моніторинг.
Питання 1 з 8
Що таке огородження в контексті мовної моделі?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що таке огородження в контексті мовної моделі?
- Перевірки безпеки, які зберігають вхідні та вихідні дані в прийнятних межах
- Декоративні рамки навколо вікна чату
- Спосіб змусити модель реагувати швидше
- Обладнання, що охолоджує сервери
- Що конкретно перевіряє «модерація виводу»?
- Електроенергія, яку використовує модель
- Текст, створений моделлю, перш ніж він досягне користувача
- Швидкість друку користувача
- Колірна схема інтерфейсу
- Який приклад огорожі з боку входу?
- Переклад відповіді на іспанську
- Збільшення шрифту
- Фільтрування спроби оперативного введення до того, як вона досягне моделі
- Додавання цитат до відповіді
- Чому модерувати потокові відповіді (токен за маркером) важче?
- Потокове передавання використовує більше кольорів
- Потокове передавання вимикає всі класифікатори
- Користувачі не можуть читати потоковий текст
- Текст відображається під час створення, тому шкідливий вміст може з’явитися до повної перевірки
- Якого ключового балансу повинні досягти інженери огорожі?
- Виявлення шкідливих результатів, мінімізуючи помилкові спрацьовування законних запитів
- Створення моделі якомога повільніше
- Блокування кожної відповіді
- Видалення всіх журналів
- What is a privacy-conscious way to log moderation decisions?
- Store every full conversation indefinitely with public access
- Record only necessary information, with defined access and retention controls
- Disable all privacy controls to simplify debugging
- Publish blocked prompts so users can inspect them
- What should pre-deployment guardrail testing include?
- Only the prompts that already pass
- No testing of borderline requests
- Representative harmful and benign cases to measure misses and false positives
- A single test prompt for every policy category
- Why monitor guardrails after deployment?
- Monitoring makes the model intrinsically safe
- A deployed classifier never changes its error rate
- It eliminates the need for user reports or evaluation
- Usage and threat patterns can change, revealing new errors or policy gaps