Quiz dotyczący agentów w pętli

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Co definiuje agenta działającego w pętli w porównaniu z agentem w pełni autonomicznym?
   • Wstrzymuje się do sprawdzenia przez człowieka lub zatwierdzenia przed podjęciem dalszych działań
   • Działa szybciej niż agenci autonomiczni
   • Nigdy nie korzysta z uczenia maszynowego
   • Może działać tylko w trybie offline
2. Co to jest wzorzec „eskalacji opartej na zaufaniu” w systemie HITL?
   • Agent zawsze prosi człowieka o każdą akcję
   • Agent przerywa człowiekowi tylko wtedy, gdy jego pewność spadnie poniżej ustalonego progu
   • Agent szereguje ludzi według ich pewności siebie
   • Z czasem agent zwiększa swoją pewność siebie
3. W jaki sposób ludzki punkt kontrolny jest zwykle implementowany w pętli kontrolnej agenta?
   • Poprzez usunięcie pamięci agenta
   • Uruchamiając równolegle dwóch agentów
   • Jako bramka przerwania lub wywołania narzędzia, która wstrzymuje wykonanie i żąda przeglądu
   • Wyłączając agentowi dostęp do sieci
4. Co w przypadku „aktywnego uczenia się” dzieje się ze sprawami, które rozwiązuje człowiek?
   • Są natychmiast odrzucane
   • Są wysyłane do innych użytkowników
   • Trwale zamknęli agenta
   • Stają się danymi szkoleniowymi, które pozwalają ulepszyć przyszłe prognozy
5. For which systems does EU AI Act Article 14 specify human-oversight requirements?
   • High-risk AI systems within the Act’s scope, with oversight proportionate to risk, autonomy, and context
   • Every AI system in every application
   • Only low-risk systems that generate text
   • Only systems that use an explicit approval button
6. Który scenariusz najlepiej ilustruje rozsądną bramkę zatwierdzenia HITL?
   • Agent wysyła każdą wiadomość e-mail automatycznie, bez sprawdzania
   • Agent pobiera duży zwrot pieniędzy i czeka na zgodę menedżera
   • Agent ignoruje wszelki wkład człowieka
   • Agent losowo zatwierdza transakcje
7. What does Article 14 of the EU AI Act say human oversight should aim to do for high-risk AI?
   • Guarantee all outputs are correct
   • Replace all technical safeguards
   • Prevent or minimize risks to health, safety, or fundamental rights
   • Require a human to approve every AI output in every context
8. What should effective human oversight under Article 14 help overseers do?
   • Accept every system recommendation without review
   • Approve every action regardless of risk
   • Replace the system’s logs with a human summary
   • Recognize automation bias, interpret outputs, and disregard, override, or interrupt them when appropriate