Kvíz spojený s průvodcem · Těžko úroveň
Bezpečnostní kvíz AI
Testuje schopnost, zarovnání, zneužití, hraní specifikací, red-teaming, dohled a rizika přesahující filtrování výstupu a plánování nasazení.
Otázka 1 z 8
Jak průvodce vytváří bezpečnostní riziko umělé inteligence napříč současnými a pokročilými systémy?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jak průvodce vytváří bezpečnostní riziko umělé inteligence napříč současnými a pokročilými systémy?
- Od známých škod a zneužití přes vážná rizika z vysoce výkonných systémů
- Pouze jako otázka prevence hrubých výstupů
- Pouze jako problém se spolehlivostí hardwaru
- Jako synonymum pro samotnou kybernetickou bezpečnost
- Co popisuje schopnost v mentálním modelu průvodce – zarovnání schopností – zabezpečení?
- Whether the system’s goals match intent
- Whether an adversary can misuse it
- How many training examples it has
- What a system can do
- Co znamená hraní podle specifikací v bezpečnosti AI?
- Correctly following every broader human value
- Meeting the literal objective while missing the designer’s intended goal
- Finding a security flaw in a database
- Using a smaller model to save compute
- Jaké je riziko spoléhání se pouze na výstupní filtry pro agenta používajícího nástroje?
- Filters always change model weights
- A filter prevents all misuse
- The system may take multi-step actions or be manipulated beyond the filtered text
- Tool use only occurs during training
- Proč zařadit červený tým do bezpečnostního programu?
- To improve marketing copy
- To prove the system has no risks
- To probe adversarially for harmful behaviors and weaknesses
- To remove the need for deployment monitoring
- Co by mělo hodnocení bezpečnosti zkoumat kromě vyleštěné modelové karty?
- Dangerous capabilities, deceptive behavior, deployment pressure, and safeguards
- Only the product’s user interface
- Only benchmark accuracy
- Počet parametrů modelu
- What does instrumental convergence describe in AI safety arguments?
- All AI systems share one objective
- Every model is conscious
- A model’s output tokens become instruments
- Different goals may create incentives for similar subgoals such as resources or persistence
- Why does the guide argue for broader public AI literacy?
- Only experts are affected by AI safety
- Governance needs public understanding, not only specialist knowledge
- Literacy replaces technical evaluation
- Public understanding guarantees safe deployment