Test legat de ghid · Greu Nivel

Test de siguranță AI

Testează capacitatea, alinierea, utilizarea greșită, jocurile cu specificații, formarea în echipă roșie, supravegherea și riscurile dincolo de filtrarea rezultatelor și planificarea implementării.

Căi de ghidare aferenteSiguranța AI
Întrebare 1 de 8

Cum încadrează ghidul riscul de siguranță AI în sistemele actuale și avansate?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Cum încadrează ghidul riscul de siguranță AI în sistemele actuale și avansate?
    • De la vătămări familiare și utilizare greșită până la riscuri severe din sistemele de înaltă capacitate
    • Doar ca o chestiune de prevenire a ieșirilor nepoliticoase
    • Doar ca o problemă de fiabilitate hardware
    • Ca sinonim doar pentru securitatea cibernetică
  2. În modelul mental de capacitate-aliniere-securitate al ghidului, ce descrie capacitatea?
    • Whether the system’s goals match intent
    • Whether an adversary can misuse it
    • How many training examples it has
    • What a system can do
  3. Ce înseamnă jocul cu specificații în siguranța AI?
    • Correctly following every broader human value
    • Meeting the literal objective while missing the designer’s intended goal
    • Finding a security flaw in a database
    • Using a smaller model to save compute
  4. Care este riscul în a te baza doar pe filtrele de ieșire pentru un agent care folosește unelte?
    • Filters always change model weights
    • A filter prevents all misuse
    • The system may take multi-step actions or be manipulated beyond the filtered text
    • Tool use only occurs during training
  5. De ce să includeți gruparea roșie într-un program de siguranță?
    • To improve marketing copy
    • To prove the system has no risks
    • To probe adversarially for harmful behaviors and weaknesses
    • To remove the need for deployment monitoring
  6. Ce ar trebui să examineze o evaluare a siguranței dincolo de un model de card lustruit?
    • Dangerous capabilities, deceptive behavior, deployment pressure, and safeguards
    • Only the product’s user interface
    • Only benchmark accuracy
    • Numărul de parametri ai modelului
  7. What does instrumental convergence describe in AI safety arguments?
    • All AI systems share one objective
    • Every model is conscious
    • A model’s output tokens become instruments
    • Different goals may create incentives for similar subgoals such as resources or persistence
  8. Why does the guide argue for broader public AI literacy?
    • Only experts are affected by AI safety
    • Governance needs public understanding, not only specialist knowledge
    • Literacy replaces technical evaluation
    • Public understanding guarantees safe deployment