Kvíz spojený s průvodcem · Těžko úroveň

Bezpečnostní kvíz AI

Testuje schopnost, zarovnání, zneužití, hraní specifikací, red-teaming, dohled a rizika přesahující filtrování výstupu a plánování nasazení.

Související vodicí cestyBezpečnost AI
Otázka 1 z 8

Jak průvodce vytváří bezpečnostní riziko umělé inteligence napříč současnými a pokročilými systémy?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jak průvodce vytváří bezpečnostní riziko umělé inteligence napříč současnými a pokročilými systémy?
    • Od známých škod a zneužití přes vážná rizika z vysoce výkonných systémů
    • Pouze jako otázka prevence hrubých výstupů
    • Pouze jako problém se spolehlivostí hardwaru
    • Jako synonymum pro samotnou kybernetickou bezpečnost
  2. Co popisuje schopnost v mentálním modelu průvodce – zarovnání schopností – zabezpečení?
    • Whether the system’s goals match intent
    • Whether an adversary can misuse it
    • How many training examples it has
    • What a system can do
  3. Co znamená hraní podle specifikací v bezpečnosti AI?
    • Correctly following every broader human value
    • Meeting the literal objective while missing the designer’s intended goal
    • Finding a security flaw in a database
    • Using a smaller model to save compute
  4. Jaké je riziko spoléhání se pouze na výstupní filtry pro agenta používajícího nástroje?
    • Filters always change model weights
    • A filter prevents all misuse
    • The system may take multi-step actions or be manipulated beyond the filtered text
    • Tool use only occurs during training
  5. Proč zařadit červený tým do bezpečnostního programu?
    • To improve marketing copy
    • To prove the system has no risks
    • To probe adversarially for harmful behaviors and weaknesses
    • To remove the need for deployment monitoring
  6. Co by mělo hodnocení bezpečnosti zkoumat kromě vyleštěné modelové karty?
    • Dangerous capabilities, deceptive behavior, deployment pressure, and safeguards
    • Only the product’s user interface
    • Only benchmark accuracy
    • Počet parametrů modelu
  7. What does instrumental convergence describe in AI safety arguments?
    • All AI systems share one objective
    • Every model is conscious
    • A model’s output tokens become instruments
    • Different goals may create incentives for similar subgoals such as resources or persistence
  8. Why does the guide argue for broader public AI literacy?
    • Only experts are affected by AI safety
    • Governance needs public understanding, not only specialist knowledge
    • Literacy replaces technical evaluation
    • Public understanding guarantees safe deployment