인간 참여형(Human-In-The-Loop) 에이전트 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 완전 자율형 에이전트와 비교하여 Human-In-The-Loop 에이전트를 정의하는 것은 무엇입니까?
   • 결과적인 조치가 이루어지기 전에 사람의 검토 또는 승인을 위해 일시 중지됩니다.
   • 자율 에이전트보다 빠르게 실행됩니다.
   • 기계 학습을 전혀 사용하지 않습니다.
   • 오프라인에서만 작동 가능
2. HITL 시스템의 '신뢰 기반 에스컬레이션' 패턴은 무엇인가요?
   • 에이전트는 항상 사람에게 모든 작업을 요청합니다.
   • 에이전트는 확실성이 설정된 임계값 아래로 떨어질 때만 인간을 방해합니다.
   • 에이전트는 신뢰도에 따라 인간의 순위를 매깁니다.
   • 에이전트는 시간이 지남에 따라 자신감을 높입니다.
3. 인간 체크포인트는 일반적으로 에이전트의 제어 루프 내에서 어떻게 구현됩니까?
   • 에이전트의 메모리를 삭제하여
   • 두 개의 에이전트를 병렬로 실행하여
   • 실행을 일시 중단하고 검토를 요청하는 인터럽트 또는 도구 호출 게이트로 사용
   • 에이전트의 네트워크 액세스를 비활성화하여
4. '액티브 러닝'에서 인간이 해결한 사건은 어떻게 될까요?
   • 즉시 폐기됩니다.
   • 다른 사용자에게 전송됩니다.
   • 에이전트를 영구적으로 종료했습니다.
   • 미래 예측을 개선하기 위한 훈련 데이터가 됩니다.
5. For which systems does EU AI Act Article 14 specify human-oversight requirements?
   • High-risk AI systems within the Act’s scope, with oversight proportionate to risk, autonomy, and context
   • Every AI system in every application
   • Only low-risk systems that generate text
   • Only systems that use an explicit approval button
6. 합리적인 HITL 승인 게이트를 가장 잘 보여주는 시나리오는 무엇인가요?
   • 상담원은 검토 없이 모든 이메일을 자동으로 보냅니다.
   • 상담원이 거액의 환불 금액을 작성하고 관리자의 승인을 기다립니다.
   • 상담원은 사람의 모든 입력을 무시합니다.
   • 상담원이 무작위로 거래를 승인합니다.
7. What does Article 14 of the EU AI Act say human oversight should aim to do for high-risk AI?
   • Guarantee all outputs are correct
   • Replace all technical safeguards
   • Prevent or minimize risks to health, safety, or fundamental rights
   • Require a human to approve every AI output in every context
8. What should effective human oversight under Article 14 help overseers do?
   • Accept every system recommendation without review
   • Approve every action regardless of risk
   • Replace the system’s logs with a human summary
   • Recognize automation bias, interpret outputs, and disregard, override, or interrupt them when appropriate