DINO 自己蒸留クイズ

クイズに答えると、答えと解説が表示されます。

1. DINOの「NO」は何を表していますか?
   • ラベルなし
   • オプティマイザなし
   • ニューラル出力
   • 正規化された目標
2. DINO では教師ネットワークの重みはどのように更新されますか?
   • 損失の直接勾配降下法による
   • 各ステップごとにランダムに
   • 生徒の体重の指数移動平均として
   • それらは事前トレーニングされたモデルから凍結されています
3. 教師の出力のセンタリングとシャープ化により、どのような問題が防止されますか?
   • GPUの過熱
   • 一定出力へのモード崩壊
   • データの読み込みが遅い
   • 色の歪み
4. DINO の多作戦略において、先生はどのような意見を受けていますか?
   • 地元の小さな農作物だけ
   • ランダムノイズパッチ
   • グレースケールバージョンのみ
   • 世界の作物のみ
5. What emergent property did the original DINO study observe in vision-transformer attention maps?
   • Every map reconstructs an exact depth measurement
   • Some maps highlight object structure without segmentation-label training
   • Attention is trained directly on human-drawn masks
   • All heads produce perfect object boundaries on every image
6. How did DINOv2 extend the visual-feature approach of the original DINO?
   • It scaled self-supervised training with curated data for transferable visual features
   • It replaced visual inputs with text-only training
   • It required segmentation labels for all pretraining images
   • It removed the student-teacher learning approach entirely
7. In DINO training, which network receives gradients from the student-teacher cross-entropy objective?
   • Only the teacher, while the student stays frozen
   • Both networks through the same backpropagation update
   • Neither network because the outputs are fixed labels
   • The student, while teacher parameters follow a moving average
8. What does using DINOv2 as a frozen backbone mean for a downstream task?
   • It must be retrained from scratch for every input image
   • No task-specific output component can be attached
   • Its pretrained feature-extractor weights remain fixed while task-specific components use its features
   • The pretrained features can only reproduce the original training images