引導式測驗 · 中等 等級

前沿人工智慧安全框架和負責任的擴展政策測驗

測試能力閾值和「如果-那麼」保障措施、首爾前沿人工智慧安全承諾以及對人工智慧實驗室自我監管的主要批評。

問題 1 的 8

負責任的擴展政策的基本邏輯是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 負責任的擴展政策的基本邏輯是什麼?
    • 將每個模型都作為開源發布
    • 如果模型達到危險的能力閾值,則必須採取更強有力的安全防護措施
    • 在特定日期後停止所有 AI 研究
    • 讓用戶投票決定發布哪些模型
  2. 哪家公司推出了 AI 安全等級 (ASLs)?
    • Anthropic
    • Meta
    • Microsoft
    • Mistral
  3. Google DeepMind 在其前沿安全框架中將這些閾值稱為什麼?
    • 紅線
    • 危害等級
    • 關鍵能力水平
    • 準備度評分
  4. 各公司在 2024 年 5 月的 AI 首爾峰會上達成了什麼共識?
    • 一項具有約束力的國際條約,並附帶罰款
    • 暫停所有前沿模型訓練六個月
    • 與各國政府共享模型權重
    • 發布包含不可接受風險閾值的安全框架
  5. OpenAI 的 2025 年準備度框架修訂版取消了哪一個追蹤類別?
    • Cybersecurity
    • Persuasion
    • 生物與化學風險
    • 模型自主性
  6. 為什麼誘導 (elicitation) 在危險能力評估中很重要?
    • 薄弱的提示詞或支架可能會使模型看起來比實際能力更弱
    • 這是每個國家的法律要求
    • 它用於測量電力消耗
    • 它能使模型運行得更快
  7. 這些框架常見的批評是什麼?
    • 它們由國際法庭執行
    • 它們需要公開過多的公共數據
    • 實驗室可以設定並修改自己的閾值,但外部驗證有限
    • 它們僅適用於開源模型
  8. 以下哪一項是安全防護措施,而不是部署防護措施?
    • 拒絕訓練
    • 輸入和輸出分類器
    • 分階段的使用者存取
    • 保護模型權重免受竊取