線形プローブと凍結特徴評価のクイズ

クイズに答えると、答えと解説が表示されます。

1. 標準的な線形プローブでは、トレーニング中にどのパラメータが更新されますか?
   • 新しく追加された線形分類器のみが上部にあります
   • バックボーン全体と線形層
   • バックボーンのみ、分類子は固定のまま
   • 埋め込み層と最後のアテンション ブロック
2. What does high linear-probe accuracy most directly show?
   • The backbone causally uses the feature for every prediction
   • The labels are decodable by a linear classifier from the frozen features under that dataset and protocol
   • The representation is robust to every distribution shift
   • The probe has identified a human-interpretable mechanism
3. 完全な微調整と比較して、リニア プローブには次のような利点があります。
   • あらゆるタスクでより正確に
   • 配布外でより良く一般化することが保証されています
   • コンピューティングとメモリのコストが安くなり、機能の品質をより明確に読み取ることができます
   • 事前トレーニング済みモデルを使用する唯一の方法
4. 変圧器を調査する際の一般的な経験的発見は次のとおりです。
   • 最終層は常に最高のプローブ精度を提供します
   • プロービングは畳み込みネットワークでのみ機能します
   • レイヤの選択がプローブの結果に影響することはありません
   • 多くの場合、中間層は転送に関して最終層よりも優れたパフォーマンスを発揮します。
5. ベンチマークを超えて、リニア プローブは次の目的で解釈可能性を高めるために使用されることが増えています。
   • 真実性などの概念が隠れた状態でエンコードされているかどうかを検出する
   • モバイル展開用にモデルを圧縮する
   • 事前トレーニング中にオプティマイザーを置き換える
   • 新しいトレーニング データを自動的に生成する
6. 高いプローブ精度を解釈する際の主な方法論上のリスクは次のとおりです。
   • バックボーンは密かにトレーニングを続ける
   • プローブは、本当の概念ではなく偽の相関関係を悪用している可能性があります
   • リニアプローブはオーバーフィットできない
   • クロスエントロピー損失は使用できません
7. To compare two backbone layers with linear probes, what should remain consistent?
   • The feature vectors from each layer
   • The layer being evaluated
   • The task labels, data split and probe-training protocol
   • The activation values themselves
8. Why might feature normalization and learning-rate sweeps be used in a probe evaluation?
   • To update the frozen backbone
   • To add hidden nonlinear layers to the probe
   • To guarantee the concept is causally used
   • To reduce optimization and scale effects that could distort the representation comparison