Тест за предпазни огради на агенти

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Каква е основната цел на парапетите на агентите?
   • За ограничаване на това, което даден агент може да прави, казва или има достъп за безопасност и съответствие
   • За да накара агентите да реагират по-бавно
   • За увеличаване на речниковия запас на агента
   • За да замените изцяло основния модел
2. Какво обикновено прави „изходната мантинела“?
   • Преглежда само входящите потребителски подкани
   • Проверява отговорите на агента за токсично, невярно или несъответстващо съдържание преди доставка
   • Ускорява обучението на модела
   • Предоставя на агента повече достъп до инструменти
3. Как се прилага „принципът на най-малката привилегия“ към парапетите за действие?
   • Агентът получава всички възможни разрешения
   • Агентът трябва да иска разрешение за нищо
   • Агентът получава само инструменти с тесен обхват, ключове и ограничения, от които се нуждае
   • Агентът получава администраторски достъп за удобство
4. За какво се използва моделът „съдия“ или валидатор в парапетите?
   • За генериране на основните отговори на агента
   • За съхраняване на потребителски пароли
   • Само за превод на езици
   • За да оцените или проверите фактите на изходите на агента за безопасност или точност
5. Защо тестването на предпазните огради срещу противникови намеси е важно?
   • Тъй като нападателите се опитват да избягат от затвора, така че парапетите трябва да бъдат изследвани, вместо да се вярва сляпо
   • Това нарочно прави агента по-бавен
   • Премахва необходимостта от всякакви правила
   • Това гарантира, че моделът никога не прави грешки
6. Кой пример показва ефективна мантинела за действие?
   • Агент по закупуване без ограничение на разходите
   • Агент по закупуване с твърд таван от $100 на транзакция, наложен извън модела
   • Агент, който може да изпълнява всяка команда, която пожелае
   • Агент, който игнорира всички разрешения
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates