Quiz o samodestylacji DINO

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Co oznacza „NIE” w języku DINO?
   • Brak etykiet
   • Brak optymalizatora
   • Wyjście neuronowe
   • Znormalizowany cel
2. W jaki sposób wagi sieci nauczycieli są aktualizowane w DINO?
   • Przez bezpośrednie zejście gradientowe na stratę
   • Losowo na każdym kroku
   • Jako wykładnicza średnia krocząca wag ucznia
   • Są zamrożone z wstępnie wytrenowanego modelu
3. Jakiemu problemowi zapobiega centrowanie i wyostrzanie wyników nauczania?
   • Przegrzanie procesora graficznego
   • Tryb załamania do stałego wyjścia
   • Powolne ładowanie danych
   • Zniekształcenie kolorów
4. Jakie poglądy ma nauczyciel w odniesieniu do strategii wielu upraw DINO?
   • Tylko małe lokalne uprawy
   • Losowe plamy dźwiękowe
   • Tylko wersje w skali szarości
   • Tylko globalne uprawy
5. Jaką wyłaniającą się właściwość zaobserwowano w oryginalnym badaniu DINO na mapach uwagi transformatora wizyjnego?
   • Każda mapa rekonstruuje dokładny pomiar głębokości
   • Niektóre mapy podkreślają strukturę obiektu bez szkolenia w zakresie etykiet segmentacji
   • Uwaga skupiona jest bezpośrednio na narysowanych przez ludzi maskach
   • Wszystkie głowice tworzą idealne granice obiektów na każdym obrazie
6. W jaki sposób DINOv2 rozszerzył podejście wizualne do oryginalnego DINO?
   • Skalowano samonadzorowane szkolenie na podstawie wyselekcjonowanych danych na temat możliwych do przeniesienia funkcji wizualnych
   • Zastąpiło informacje wizualne szkoleniem tekstowym
   • Wymagało to etykiet segmentacji dla wszystkich obrazów przedtreningowych
   • Całkowicie usunięto podejście do uczenia się uczeń-nauczyciel
7. Która sieć w szkoleniu DINO otrzymuje gradienty od celu entropii krzyżowej ucznia i nauczyciela?
   • Tylko nauczyciel, podczas gdy uczeń pozostaje zamrożony
   • Obie sieci korzystają z tej samej aktualizacji propagacji wstecznej
   • Żadna sieć, ponieważ dane wyjściowe są stałymi etykietami
   • Uczeń, a parametry nauczyciela podążają za średnią ruchomą
8. Co oznacza użycie DINOv2 jako zamrożonego szkieletu dla dalszych zadań?
   • Należy go przeszkolić od zera dla każdego obrazu wejściowego
   • Nie można dołączyć żadnego komponentu wyjściowego specyficznego dla zadania
   • Jego wstępnie wytrenowane wagi ekstraktora cech pozostają stałe, podczas gdy komponenty specyficzne dla zadania korzystają z jego funkcji
   • Wstępnie wytrenowane funkcje mogą odtwarzać jedynie oryginalne obrazy szkoleniowe