Викторина, связанная с руководством · Средний Уровень
Викторина по основам безопасности передового искусственного интеллекта и политикам ответственного масштабирования
Тестирует пороговые значения возможностей и меры защиты «если-то», Сеульские обязательства по обеспечению безопасности ИИ в Frontier, а также основные критические замечания о саморегулирующихся лабораториях ИИ.
Вопрос 1 из 8
Какова основная логика политики ответственного масштабирования?
Предварительный просмотр каждого вопроса8 вопросы
Ответы и пояснения появляются по мере прохождения теста.
- Какова основная логика политики ответственного масштабирования?
- Release every model as open source
- If a model reaches a dangerous capability threshold, then stronger safeguards must be in place
- Stop all AI research after a fixed date
- Let users vote on which models are released
- Какая компания ввела уровни безопасности ИИ (ASL)?
- Anthropic
- Meta
- Microsoft
- Mistral
- Как Google DeepMind называет пороговые значения в своей системе Frontier Safety Framework?
- Red Lines
- Hazard Tiers
- Critical Capability Levels
- Preparedness Scores
- О чем договорились компании на саммите AI Seoul Summit в мае 2024 года?
- A binding international treaty with fines
- Pausing all frontier training for six months
- Sharing model weights with governments
- Publishing safety frameworks with thresholds for intolerable risk
- Какая категория была исключена из пересмотренной версии Механизма готовности к 2025 году OpenAI как отслеживаемая категория?
- Cybersecurity
- Persuasion
- Biological and chemical risk
- Model autonomy
- Why does elicitation matter in dangerous-capability evaluations?
- Weak prompting or scaffolding can make a model look less capable than it is
- It is a legal requirement in every country
- It measures electricity use
- It makes models run faster
- Which is a common critique of these frameworks?
- They are enforced by an international court
- They require too much public data release
- Labs set and can revise their own thresholds with limited outside verification
- They apply only to open-source models
- Which of these is a security safeguard rather than a deployment safeguard?
- Refusal training
- Input and output classifiers
- Staged user access
- Protecting model weights from theft