가드레일 및 출력 조정 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 언어 모델의 맥락에서 가드레일이란 무엇입니까?
   • 입력과 출력을 허용 가능한 범위 내로 유지하는 안전 검사
   • 채팅창 주변의 장식 테두리
   • 모델이 더 빠르게 반응하도록 만드는 방법
   • 서버를 냉각시키는 하드웨어
2. '출력 조절'은 구체적으로 무엇을 검사하나요?
   • 모델이 사용하는 전기
   • 사용자에게 도달하기 전에 모델이 생성한 텍스트
   • 사용자의 타이핑 속도
   • 인터페이스의 색 구성표
3. 입력측 가드레일의 예는 무엇입니까?
   • 답변을 스페인어로 번역하기
   • 글꼴을 더 크게 만들기
   • 모델에 도달하기 전에 프롬프트 주입 시도 필터링
   • 답변에 인용 추가
4. 스트리밍(토큰별) 응답을 조정하는 것이 더 어려운 이유는 무엇입니까?
   • 스트리밍은 더 많은 색상을 사용합니다.
   • 스트리밍은 모든 분류자를 비활성화합니다.
   • 사용자는 스트리밍된 텍스트를 읽을 수 없습니다.
   • 텍스트는 생성된 대로 표시되므로 전체 확인 전에 유해한 콘텐츠가 나타날 수 있습니다.
5. 가드레일 엔지니어가 쳐야 할 핵심 균형은 무엇입니까?
   • 합법적인 요청에 대한 오탐을 최소화하면서 유해한 출력을 포착합니다.
   • 모델을 최대한 느리게 만들기
   • 모든 응답을 차단합니다.
   • 모든 로깅 제거
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps