요원 가드레일 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 에이전트 가드레일의 주요 목적은 무엇입니까?
   • 안전과 규정 준수를 위해 상담원이 할 수 있는 일, 말, 액세스를 제한하려면
   • 상담원이 더 느리게 응답하도록 하려면
   • 상담원의 어휘력을 높이기 위해
   • 기본 모델을 완전히 교체하려면
2. '출력 가드레일'은 일반적으로 어떤 역할을 합니까?
   • 들어오는 사용자 메시지만 화면에 표시
   • 배송 전에 독성, 허위 또는 규정을 준수하지 않는 콘텐츠에 대한 상담원의 응답을 확인합니다.
   • 모델 훈련 속도를 높입니다.
   • 상담원에게 더 많은 도구 액세스 권한을 부여합니다.
3. 작업 가드레일에 '최소 권한의 원칙'이 어떻게 적용되나요?
   • 에이전트에게 가능한 모든 권한이 부여됩니다.
   • 에이전트는 아무 것도 없이 허가를 요청해야 합니다.
   • 에이전트는 필요한 범위가 좁은 도구, 키 및 한도만 얻습니다.
   • 편의를 위해 상담원에게 관리자 액세스 권한이 부여됩니다.
4. 가드레일에 사용되는 '판단' 또는 유효성 검사기 모델은 무엇인가요?
   • 상담원의 주요 답변을 생성하려면
   • 사용자 비밀번호를 저장하려면
   • 언어만 번역하려면
   • 안전성이나 정확성을 위해 에이전트의 출력을 평가하거나 사실을 확인하기 위해
5. 적대적인 입력에 대한 가드레일을 테스트하는 것이 왜 중요한가요?
   • 공격자는 탈옥을 시도하므로 가드레일을 맹목적으로 신뢰하기보다는 조사해야 합니다.
   • 의도적으로 에이전트 속도를 느리게 만듭니다.
   • 어떤 규칙도 필요하지 않습니다.
   • 모델이 절대 실수하지 않도록 보장합니다.
6. 효과적인 작업 가드레일을 보여주는 예는 무엇입니까?
   • 지출 한도가 없는 구매대행
   • 모델 외부에서 거래당 100달러 한도를 적용하는 구매 대리인
   • 원하는 모든 명령을 실행할 수 있는 에이전트
   • 모든 권한을 무시하는 에이전트
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates