Distillation ti ara ẹni DINO
DINO jẹ ọna abojuto ti ara ẹni ti o kọ ẹrọ oluyipada iran lati ni oye awọn aworan laisi awọn akole rara, nipa nini nẹtiwọọki kọ funrararẹ.
Akopọ
It produces features so clean that object boundaries emerge for free in the attention maps.
Jin Dive
DINO, kukuru fun distillation ti ara ẹni laisi awọn akole, ni a tẹjade nipasẹ Meta AI (lẹhinna Facebook AI) ni ọdun 2021. O nlo awọn adakọ meji ti nẹtiwọọki kanna - ọmọ ile-iwe ati olukọ kan - o si fun wọn ni oriṣiriṣi awọn irugbin ti o pọ si ti aworan kan. Ọmọ ile-iwe ngbiyanju lati baamu pinpin iṣẹjade olukọ, botilẹjẹpe olukọ nikan rii wiwo ti o yatọ. Ni pataki, olukọ ko ni ikẹkọ taara; awọn òṣuwọn rẹ jẹ aropin gbigbe ti o pọju ti ọmọ ile-iwe, ti n lọ laiyara lẹhin. Lati da nẹtiwọọki duro lati ṣubu si idahun igbagbogbo kan, awọn ile-iṣẹ DINO ati pọn awọn abajade olukọ. Abajade ti o yanilenu ni pe awọn maapu akiyesi ti ara ẹni ti abajade iran oluyipada apakan awọn nkan laisi sọ fun ohun ti nkan jẹ.
Imọ-imọ-ẹrọ
Awọn nẹtiwọọki mejeeji ṣe agbejade pinpin iṣeeṣe iwọn-giga lẹhin softmax kan. Ọmọ ile-iwe naa rii awọn irugbin agbegbe kekere pẹlu awọn iwo agbaye, lakoko ti olukọ n rii awọn iwo agbaye nikan - ilana irugbin-ọpọlọpọ ti o nfa aitasera agbegbe-si-agbaye. Ipadanu naa jẹ entropy laarin olukọ ati awọn ipinpinpin ọmọ ile-iwe, pẹlu awọn gradients ti nṣan nipasẹ ọmọ ile-iwe nikan. Awọn ẹtan meji ṣe idiwọ iṣubu: aarin ṣe iyokuro ọna ṣiṣe lati awọn iwe-ipamọ olukọ, ati iwọn otutu kekere kan mu wọn pọ si, iwọntunwọnsi ara wọn ki awọn abajade duro yatọ.
Ipa Ilana
Iyara ati iwọn
Visual AI le ṣe adaṣe adaṣe, wiwa, ati awọn iṣẹ ṣiṣe taagi ni iwọn.
Kọ awọn yiyan
Awọn ẹgbẹ ẹda le ṣe apẹrẹ awọn imọran yiyara pẹlu awọn atunyẹwo afọwọṣe diẹ.
Ẹgbẹ ati ṣiṣan iṣẹ
Awọn iṣẹ ṣiṣe le lo aworan ati awọn ifihan agbara fidio ti o nira tẹlẹ lati ṣiṣẹ.
Ọjọ iwaju ti Distillation ti ara ẹni DINO
DINO ṣe ifilọlẹ laini iṣẹ pataki kan. DINOv2 (2023) ṣe iwọn ohunelo naa si awọn aworan ti a ti sọtọ ti o ju bilionu kan, ti nso awọn ẹya wiwo gbogbo-idi ti awọn awoṣe abojuto orogun kọja iṣiro ijinle, ipin, ati igbapada — o ṣee lo laisi atunṣe-itanran. Reti isọdi-ara-ẹni lati wa ni aarin bi aaye ṣe lepa awọn awoṣe ipilẹ ti ko ni aami fun iran, awọn ẹrọ roboti, ati awọn ọna ṣiṣe multimodal, nibiti asọye jẹ gbowolori. Ohun-ini ipin-pipade ti o yọrisi tun jẹ ki iwadii idana sinu itumọ, imọ-ọrọ-sisi.
Real-World imuse
Pipin ohun ti ko ni abojuto, nibiti awọn maapu akiyesi DINO ṣe ilana awọn nkan laisi awọn aami iboju eyikeyi
Gbigba aworan pada ati wiwa daakọ, ni lilo awọn ẹya DINO lati wa ẹda-ẹda-ẹda tabi awọn aworan ti o jọra oju
Awọn ẹya DINov2 bi eegun ẹhin didi fun iṣiro ijinle ati awọn iṣẹ-ṣiṣe asọtẹlẹ ipon
Ṣiṣe ikẹkọ iṣoogun tabi awọn awoṣe iran satẹlaiti nibiti data ti samisi ti ṣọwọn tabi idiyele
Awọn ewu & Awọn ọna iṣọ
Awọn ẹtọ aworan ati igbanilaaye le di awọn eewu labẹ ofin ti o ba jẹ afihan.
Iṣe awoṣe le yatọ kọja ina, awọn ẹda eniyan, ati awọn agbegbe.
Awọn idaniloju eke le ma ṣe akiyesi ayafi ti a ba ṣe abojuto awọn ala igbẹkẹle.
Ilana Ilana imuse
Ṣetumo awọn ibeere gbigba fun pipe, iranti, ati awọn idiyele aṣiṣe.
Ṣe idanwo pẹlu data ti o baamu awọn ipo iṣelọpọ gidi.
Ṣafikun atunyẹwo eniyan fun igbẹkẹle kekere tabi awọn asọtẹlẹ ipa-giga.
Tọpinpin awoṣe ki o ṣe tunṣe lẹhin kamẹra tabi awọn ayipada datasetto.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the DINO Self-Distillation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
DreamFusion ati Iṣapẹẹrẹ Distillation Dimegilio
Awọn ibeere ti a beere nigbagbogbo
What is DINO Self-Distillation?
DINO jẹ ọna abojuto ti ara ẹni ti o kọ ẹrọ oluyipada iran lati ni oye awọn aworan laisi awọn akole rara, nipa nini nẹtiwọọki kọ funrararẹ. O ṣe agbejade awọn ẹya ti o mọ tobẹẹ ti awọn aala ohun farahan fun ọfẹ ni awọn maapu akiyesi.
Kini 'KO' ni DINO duro fun?
DINO tumọ si distillation ti ara ẹni laisi awọn akole - o jẹ abojuto ara ẹni ni kikun, ko nilo awọn asọye eniyan.
Bawo ni a ṣe imudojuiwọn awọn iwuwo nẹtiwọki olukọ ni DINO?
Olukọni jẹ EMA ti ọmọ ile-iwe, nitorinaa o ṣe itọpa ọmọ ile-iwe ni irọrun kuku ju ikẹkọ taara.
Iṣoro wo ni didasilẹ ati didasilẹ awọn abajade olukọ ṣe idiwọ?
Idojukọ ati didin ni iwọntunwọnsi kọọkan miiran lati jẹ ki awọn abajade olukọ jẹ oriṣiriṣi, yago fun ojutu bintin igbagbogbo.
Ninu ilana-irugbin pupọ ti DINO, awọn iwo wo ni olukọ gba?
Olukọni n wo awọn irugbin agbaye nikan lakoko ti ọmọ ile-iwe tun rii awọn irugbin agbegbe kekere, ti n ṣe iwuri aitasera agbegbe-si-agbaye.
Ohun-ini iyalẹnu wo ni o farahan ninu awọn maapu akiyesi ti oluyipada iran ti oṣiṣẹ DINO?
Ifarabalẹ ti ara ẹni DINO nipa ti ara ṣe afihan awọn aala ohun, ṣiṣe ipin laibikita ko ri awọn iboju iparada.