DINO 自己蒸留
DINO は、ネットワーク自体に学習させることで、まったくラベルのない画像を理解できるようにビジョン トランスフォーマーをトレーニングする自己教師型メソッドです。
概要
It produces features so clean that object boundaries emerge for free in the attention maps.
ディープダイブ
DINO (ラベルなしの自己蒸留の略) は、Meta AI (当時は Facebook AI) によって 2021 年に公開されました。これは、同じネットワークの 2 つのコピー (生徒と教師) を使用し、1 つの画像の異なる拡張クロップを供給します。たとえ教師が異なるビューを見ているだけであっても、生徒は教師の出力分布に一致させようとします。重要なのは、教師は直接訓練を受けていないということです。その重みは生徒の指数移動平均であり、ゆっくりと後を追います。ネットワークが単一の一定の答えに崩壊するのを防ぐために、DINO は教師の出力を中心にして鮮明にします。驚くべき結果は、結果として得られるビジョントランスフォーマーの自己注意マップが、オブジェクトが何であるかをまったく知らされずにオブジェクトをセグメント化することです。
技術的な洞察
どちらのネットワークも、ソフトマックスの後に高次元の確率分布を出力します。生徒は地元の小さな作物と世界的な視点を参照しますが、教師は世界的な視点のみを見ます。これは、地域から世界への一貫性を推進する複数の作物戦略です。損失は教師と生徒の分布間のクロスエントロピーであり、勾配は生徒のみを通過します。崩壊を防ぐ 2 つのトリックは、センタリングによって教師のロジットから移動平均を差し引き、低温によってそれらがシャープになり、出力が多様な状態を維持できるように相互にバランスをとります。
戦略的影響
速度とスケール
Visual AI は、検査、検出、タグ付けタスクを大規模に自動化できます。
ビルドの選択
クリエイティブ チームは、手動での修正を減らし、より迅速にコンセプトのプロトタイプを作成できます。
チームとワークフロー
以前は処理が困難であった画像信号やビデオ信号を操作に使用できるようになります。
DINO 自己蒸留の未来
DINOは主要な仕事を開始しました。 DINOv2 (2023) は、レシピを 10 億枚以上の厳選された画像に拡張し、深度推定、セグメンテーション、取得のすべてにおいて教師ありモデルに匹敵する多目的視覚機能を生成し、微調整なしで使用できます。この分野では、アノテーションに費用がかかるビジョン、ロボット工学、マルチモーダル システム向けのラベルフリーの基礎モデルが追求されているため、自己蒸留が今後も中心となることが予想されます。創発的セグメンテーションの特性もまた、解釈可能なオープンな語彙認識に関する研究を促進し続けています。
現実世界の実装
教師なしオブジェクトのセグメンテーション。DINO のアテンションはマスク ラベルなしでアウトライン オブジェクトをマッピングします。
DINO 機能を使用して、ほぼ重複した画像または視覚的に類似した画像を検索する画像検索とコピー検出
DINOv2 は、深度推定および高密度予測タスク用の凍結されたバックボーンとしての機能を備えています
ラベル付きデータが不足または高価な場合の医療または衛星ビジョン モデルの事前トレーニング
リスクとガードレール
出所が不明瞭な場合、肖像権と同意が法的リスクとなる可能性があります。
モデルのパフォーマンスは、照明、人口統計、環境によって異なる場合があります。
信頼度のしきい値が監視されない限り、誤検知は気付かれない可能性があります。
実装ロードマップ
精度、再現率、エラーコストの許容基準を定義します。
実際の生産条件に一致するデータを使用してテストします。
信頼性の低い予測や影響の大きい予測については、人間によるレビューを追加します。
モデルのドリフトを追跡し、カメラまたはデータセットの変更後に再検証します。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the DINO Self-Distillation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
DreamFusion とスコア蒸留サンプリング
よくある質問
What is DINO Self-Distillation?
DINO は、ネットワーク自体に学習させることで、まったくラベルのない画像を理解できるようにビジョン トランスフォーマーをトレーニングする自己教師型メソッドです。非常にきれいなフィーチャが生成されるため、アテンション マップ内でオブジェクトの境界が自由に浮かび上がります。
DINOの「NO」は何を表していますか?
DINO はラベルのない自己蒸留を意味します。完全に自己監視され、人間による注釈は必要ありません。
DINO では教師ネットワークの重みはどのように更新されますか?
先生は生徒のEMAなので、直接指導を受けるのではなくスムーズに生徒をフォローしてくれます。
教師の出力のセンタリングとシャープ化により、どのような問題が防止されますか?
センタリングとシャープ化は相互にバランスをとり、教師の出力を多様に保ち、つまらない一定の解決策を回避します。
DINO の多作戦略において、先生はどのような意見を受けていますか?
教師は世界の作物のみを表示しますが、生徒は小規模な地域の作物も表示し、ローカルからグローバルへの一貫性を促進します。
DINO で訓練されたビジョントランスフォーマーの注意マップには、どのような驚くべき特性が現れますか?
DINO の自己注意はオブジェクトの境界を自然に強調表示し、マスクが見えないにもかかわらずセグメンテーションを実行します。