引導式測驗 · 硬 等級
機械可解釋性測驗
探索研究人員如何透過電路、特徵和介入來研究神經網路的內部結構,同時保持當前的限制。
問題 1 的 8
機械可解釋性的中心目標是什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 機械可解釋性的中心目標是什麼?
- 將網路的內部計算逆向工程為人類可理解的演算法
- 讓模型訓練得更快
- 壓縮移動設備的模型
- 僅依重要性對輸入特徵進行排名
- 神經網路中的「疊加」指的是什麼?
- 將多個模型堆疊在一起
- 透過使用重疊方向來表示比維度更多的特徵
- 在多個 GPU 上運行模型
- 對不同運行的預測進行平均
- 稀疏自動編碼器用於機械可解釋性主要是為了...
- 產生訓練數據
- 加快推理速度
- 將多語意活化分解為更清晰、更可解釋的特徵
- 加密模型權重
- 什麼是「感應頭」?
- Transformer 的硬體加速器
- 生成文字的輸出層
- 損失函數的一種
- 注意力頭複製並繼續重複的標記模式,支援情境學習
- 研究人員如何確認發現的電路確實執行了假設的計算?
- 透過因果乾預,例如消融或修補特定激活
- 透過檢查模型的訓練準確性
- 透過計算參數的數量
- 透過測量推理延遲
- What is a cautious safety-related reason to study mechanistic interpretability?
- It proves every hidden behavior can already be found
- It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
- It guarantees a model will follow any requested correction
- It replaces evaluations of model behavior in deployment
- If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
- The entire model’s computation is now explained
- The feature is guaranteed to be a single neuron
- A candidate feature correlates with those examples and needs further testing to establish its role
- The feature causes every bridge-related output
- Why test a candidate feature across varied prompts and examples?
- Proof that the model has no other relevant circuits
- A guarantee that the explanation generalizes to every prompt
- A replacement for inspecting model behavior
- To check whether the observed activation pattern generalizes beyond selected examples