Útmutatóhoz kapcsolódó kvíz · Kemény Szint
AI biztonsági kvíz
Tests capability, alignment, misuse, specification gaming, red-teaming, oversight, and risks beyond output filtering and deployment planning.
kérdés 1 -ból 8
Hogyan keretezi az útmutató a mesterséges intelligencia biztonsági kockázatát a jelenlegi és a fejlett rendszerekben?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Hogyan keretezi az útmutató a mesterséges intelligencia biztonsági kockázatát a jelenlegi és a fejlett rendszerekben?
- Az ismert ártalmaktól és visszaélésektől a nagy teljesítményű rendszerek súlyos kockázataiig
- Csak a durva kimenetelek megelőzése a kérdés
- Csak hardvermegbízhatósági problémaként
- Csak a kiberbiztonság szinonimájaként
- In the guide’s capability-alignment-security mental model, what does capability describe?
- Whether the system’s goals match intent
- Whether an adversary can misuse it
- How many training examples it has
- What a system can do
- What does specification gaming mean in AI safety?
- Correctly following every broader human value
- Meeting the literal objective while missing the designer’s intended goal
- Finding a security flaw in a database
- Using a smaller model to save compute
- What is the risk in relying only on output filters for a tool-using agent?
- Filters always change model weights
- A filter prevents all misuse
- The system may take multi-step actions or be manipulated beyond the filtered text
- Tool use only occurs during training
- Why include red-teaming in a safety program?
- To improve marketing copy
- To prove the system has no risks
- To probe adversarially for harmful behaviors and weaknesses
- To remove the need for deployment monitoring
- What should a safety evaluation examine beyond a polished model card?
- Dangerous capabilities, deceptive behavior, deployment pressure, and safeguards
- Only the product’s user interface
- Only benchmark accuracy
- A modell paramétereinek száma
- What does instrumental convergence describe in AI safety arguments?
- All AI systems share one objective
- Every model is conscious
- A model’s output tokens become instruments
- Different goals may create incentives for similar subgoals such as resources or persistence
- Why does the guide argue for broader public AI literacy?
- Only experts are affected by AI safety
- Governance needs public understanding, not only specialist knowledge
- Literacy replaces technical evaluation
- Public understanding guarantees safe deployment