DalšíDalší průvodce
DreamFusion a vzorkování skóre destilací
Vizuální AI
Vizuální průvodce AI
DINO je metoda s vlastním dohledem, která učí transformátor vidění, aby porozuměl obrázkům bez jakýchkoli štítků, a to tak, že se síť sama naučí.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Vytváří prvky tak čisté, že se hranice objektů objevují v mapách pozornosti zdarma.
DINO, zkratka pro vlastní destilaci bez štítků, vydala Meta AI (tehdejší Facebook AI) v roce 2021. Používá dvě kopie stejné sítě – studenta a učitele – a dodává jim různé rozšířené výřezy jednoho obrázku. Student se snaží přizpůsobit rozložení výstupů učitele, i když učitel vidí pouze jiný pohled. Rozhodující je, že učitel není školen přímo; jeho váhy jsou exponenciálním klouzavým průměrem studenta, který pomalu zaostává. Aby se zabránilo zhroucení sítě na jedinou konstantní odpověď, DINO vycentruje a zaostří výstupy učitele. Pozoruhodným výsledkem je, že sebepozornost mapuje výsledný obrazový transformátor segmentových objektů, aniž by bylo kdy řečeno, co je to objekt.
Segmentace objektů bez dozoru, kdy pozornost DINO mapuje obrysové objekty bez jakýchkoli štítků masky
Načítání obrázků a detekce kopírování pomocí funkcí DINO k nalezení téměř duplicitních nebo vizuálně podobných obrázků
DINOv2 funguje jako zmrazená páteř pro odhad hloubky a úlohy husté predikce
Předtrénování modelů lékařského nebo satelitního vidění, kde jsou označená data vzácná nebo nákladná
DINO zahájila řadu výzkumu vizuální reprezentace s vlastním dohledem. DINOv2, představený v roce 2023, používal kurátorskou sbírku 142 milionů obrázků vybraných z většího fondu k trénování všeobecných vizuálních funkcí. Tyto funkce mohou sloužit jako zmrazené páteře pro úkoly, jako je vyhledávání, segmentace a odhad hloubky, přičemž stále jsou potřeba hlavy specifické pro úkoly a vyhodnocení. Samodestilace zůstává užitečná tam, kde jsou poznámky drahé, zatímco nasazení vyžaduje kontrolu výkonu na zamýšlených obrázcích spíše než za předpokladu, že přenos je automatický.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
DINO je metoda s vlastním dohledem, která učí transformátor vidění, aby porozuměl obrázkům bez jakýchkoli štítků, a to tak, že se síť sama naučí. Vytváří prvky tak čisté, že se hranice objektů objevují v mapách pozornosti zdarma.
DINO znamená samodestilaci bez štítků – je plně pod vlastní kontrolou a nevyžaduje žádné lidské poznámky.
Učitel je EMA studenta, takže studenta hladce sleduje, než aby byl přímo školen.
Centrování a ostření se vzájemně vyvažují, aby byly výstupy učitelů různorodé, čímž se vyhnete triviálnímu konstantnímu řešení.
Učitel vidí pouze globální plodiny, zatímco student také vidí malé místní plodiny, což podporuje lokální a globální konzistenci.
Studie pozorovala užitečnou strukturu pozornosti související s objektem, spíše než aby zaručovala úplnou segmentaci každého vstupu.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
DreamFusion a vzorkování skóre destilací
Vizuální AI