機械的解釈クイズ

クイズに答えると、答えと解説が表示されます。

1. 機械的解釈可能性の中心的な目標は何ですか?
   • ネットワークの内部計算を人間が理解できるアルゴリズムにリバースエンジニアリングする
   • モデルのトレーニングを高速化するには
   • モバイルデバイス用にモデルを圧縮するには
   • 入力特徴を重要度のみでランク付けするには
2. ニューラル ネットワークにおける「重ね合わせ」とは何を指しますか?
   • 多くのモデルを積み重ねる
   • 重複する方向を使用して、寸法よりも多くのフィーチャを表現する
   • 複数の GPU でモデルを実行する
   • さまざまな実行からの予測の平均化
3. スパース オートエンコーダは、主にメカニズムの解釈に使用されます。
   • トレーニングデータを生成する
   • 推論の高速化
   • ポリセマンティックなアクティベーションをよりクリーンで解釈しやすい機能に分解する
   • モデルの重みを暗号化する
4. 「誘導ヘッド」とは何ですか?
   • 変圧器用ハードウェア アクセラレータ
   • テキストを生成する出力レイヤー
   • 損失関数の一種
   • 繰り返されるトークンパターンをコピーして継続するアテンションヘッドにより、コンテキスト内の学習をサポートします
5. 研究者は、発見された回路が仮説の計算を本当に実行していることをどのように確認するのでしょうか?
   • 特定の活性化の除去やパッチ適用などの因果的介入を通じて
   • モデルのトレーニング精度を確認することで
   • パラメータの数を数えることによって
   • 推論レイテンシの測定による
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples