引導式測驗 · 硬 等級

機械可解釋性測驗

探索研究人員如何透過電路、特徵和介入來研究神經網路的內部結構,同時保持當前的限制。

相關引導路徑機械可解釋性
問題 1 的 8

機械可解釋性的中心目標是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 機械可解釋性的中心目標是什麼?
    • 將網路的內部計算逆向工程為人類可理解的演算法
    • 讓模型訓練得更快
    • 壓縮移動設備的模型
    • 僅依重要性對輸入特徵進行排名
  2. 神經網路中的「疊加」指的是什麼?
    • 將多個模型堆疊在一起
    • 透過使用重疊方向來表示比維度更多的特徵
    • 在多個 GPU 上運行模型
    • 對不同運行的預測進行平均
  3. 稀疏自動編碼器用於機械可解釋性主要是為了...
    • 產生訓練數據
    • 加快推理速度
    • 將多語意活化分解為更清晰、更可解釋的特徵
    • 加密模型權重
  4. 什麼是「感應頭」?
    • Transformer 的硬體加速器
    • 生成文字的輸出層
    • 損失函數的一種
    • 注意力頭複製並繼續重複的標記模式,支援情境學習
  5. 研究人員如何確認發現的電路確實執行了假設的計算?
    • 透過因果乾預,例如消融或修補特定激活
    • 透過檢查模型的訓練準確性
    • 透過計算參數的數量
    • 透過測量推理延遲
  6. What is a cautious safety-related reason to study mechanistic interpretability?
    • It proves every hidden behavior can already be found
    • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
    • It guarantees a model will follow any requested correction
    • It replaces evaluations of model behavior in deployment
  7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
    • The entire model’s computation is now explained
    • The feature is guaranteed to be a single neuron
    • A candidate feature correlates with those examples and needs further testing to establish its role
    • The feature causes every bridge-related output
  8. Why test a candidate feature across varied prompts and examples?
    • Proof that the model has no other relevant circuits
    • A guarantee that the explanation generalizes to every prompt
    • A replacement for inspecting model behavior
    • To check whether the observed activation pattern generalizes beyond selected examples