GUIDE IA visuel

Transformatëri gis-gis

Transformatëri gis-gis (ViTs) dañuy jëfandikoo arsitektir transformatër biy dundal ChatGPT ci nataal yi, ñuy jàppee nataal bi ni ay patch yu toppalante ci barabu griy pixel yi.

Résumé

Transformatëri gis-gis (ViTs) dañuy jëfandikoo arsitektir transformatër biy dundal ChatGPT ci nataal yi, ñuy jàppee nataal bi ni ay patch yu toppalante ci barabu griy pixel yi. Firnde nañu ni soxlawolen ay convolution ngir mëna xàmmee nataal ci anam wu bees.

Vision Transformers bokk na ci liggéey yi ordinatër di def ngir tekki wala defar ay mejaa yuñ mëna gis ngir jàngat, liggéey ak sos lu bees.

Plongeur bu xóot

Lu weesu ay at, reso neuronal convolutionnel (CNNs) ñoo jiitewoon gis-gis ordinatër bi, di skane ay filtre yu ndaw ci biir nataal bi. Këyitu 2020 bi tuddu 'Nataal Jarul 16x16 Baatu' bu bawoo ci Google dafa xeex lii ci dagg benn nataal ci ay pàcc yu takku, lu ci gëna bari 16x16 pixel, daal di platre bu nekk ci benn vecteur, ba noppi joxe li ciy génn ci benn transformatër buñ miin. Bépp patch dafay nekk 'token', lu melni baat ci biir frase. Modèle bi dafay jëfandikoo self-attention suko defee patch bu nekk mëna lëkkaloo ak beneen patch bu nekk, jàpp lëkkaloo yu sori yu filtre convolutionnel bu ndaw mënul gis ci benn jéego. Japp bi: ViTs yi dañu xiif ci done ndax amu ñu ay xalaat yuñ tabax ci CNNs. Ñu ngi leen tàggat ci ay done yu bari yu melni JFT-300M, ñu méngoo wala ñu raw CNN yi gëna baax, ñu soppali gëstub gis-gis bu bees bi.

Gis-gis xarala

ViT dafay xaaj benn nataal ci ay patch yu dul jaxasoo, mu projecte bu nekk ci benn embedding, ba noppi yokk ci encoding positionnel suko defee model bi xam fi patch bu nekk toog ci nataalu njëkk bi. Dañu ci njëkka bind benn 'class token' buñ mëna jàng; Representation bu mujj bi mooy dawal xaaj bi. Ay couche yuñ dajale ngir bàyyi seen xel ci seen bopp, dañuy may patch bu nekk mu jël leeral yi ci ñeneen ñi, loolu mooy tax ñu am barab buy jot ci couche bi njëkk. Ndax bàyyi xel dafay yokk ci anam wu ñeent ak limu patch yi, nataal yu am resolusioŋ bu kawe dañuy seer lool, moo tax dayo patch bi ak anam yu baax yi ñuy bàyyi xel dañu am solo.

Xam transformatëri gis-gis

Transformatëri gis-gis (ViTs) dañuy jëfandikoo arsitektir transformatër biy dundal ChatGPT ci nataal yi, ñuy jàppee nataal bi ni ay patch yu toppalante ci barabu griy pixel yi. Firnde nañu ni soxlawolen ay convolution ngir mëna xàmmee nataal ci anam wu bees. Vision Transformers bokk na ci liggéey yi ordinatër di def ngir tekki wala defar ay mejaa yuñ mëna gis ngir jàngat, liggéey ak sos lu bees. Ngir tabax xam-xam bu xóot, jàppal Vision Transformers ni xeetu liggéey, du benn man-man: leeral njariñ yi nga bëgg, leeral xalaat yi, ak tàqale li sistem bi mëna def ci anam wu wóor ak li ba leegi soxla àtteb kàngam.

Ci jëf, ekip yu am doole yiy jëfandikoo Vision Transformers dañuy ekilibre njub ak dëggantaanu liggéey lu melni kalite done, faraasu leeral, ak dëppoo ci etiketu. Dañuy bind kritër yu leer ngir am ndam, natt leen ci done yu dëggu ak def liggéey, ba noppi ñu baamtu ci anamu ñàkka mëna seetlu, du ci benn yoon benchmark wins. Mooy barab bi xam-xam theorie bi di soppiku nekk kàttan buy yàgg ci produit yi, ci politik yi ak ci liggéey yi.

Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal. Ci jamano jooju, yelleefi nataal ak nangu mën na nekk risku yoon sudee fimu bawoo leerul. Xeetu jëf bi gëna dëgër mooy boole gaawaayu jàngat ak disipline nguur: doxal pilote, jàpp firnde, siiwal dogal yi, ak wéy di yeesal kaaraange gi ci anam wi ñuy doxalee, li jëfandikukat bi di xaar, ak sàrti sàrt yi di jëm kanam.

njeextalu pexe

Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal.

Visual IA mën na otomatise saytu, gis ak etiketu liggéey ci eskaal. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.

Ekipu kreatif yi mën nañu defar konsept yu gëna gaaw te duñu def lu bari ci loxo.

Ekipu kreatif yi mën nañu defar konsept yu gëna gaaw te duñu def lu bari ci loxo. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.

Liggéeyukaay yi mën nañu jëfandikoo siñaal nataal wala wideo yu jafewoon lool ci liggéey.

Liggéeyukaay yi mën nañu jëfandikoo siñaal nataal wala wideo yu jafewoon lool ci liggéey. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.

Ëlëgu soppi gis-gis

ViTs ak CNN-transformer hybrids leegi ñooy gëna am doole ci sistemu gis-gis yi, te architecture bi dafay jàppale xeetu multimodal yiy boole nataal ak bind, lu melni CLIP ak assistant lakk-gis-gis bu bees. Xaarandi liggéey bu wéy ngir gëna xéewale bàyyi xel ci resolusioŋ bu kawe ak wideo, boole ci tàggat sa bopp (lu melni modeling nataal bu maske) buy wàññi bëgg-bëggu done yu bari yiñ etikete. Lu ordinatër bi di gëna màgg, dig wi dox diggante 'modèlu làkk' ak 'modèlu gis-gis' dafay wéy di gëna fës, transformatër yi di nekk yaxu ndigg buñ bokk ci anam yi, duñu tàqale ay jëmmal.

Doxal ci àdduna dëgg

Google sistemu xaaj nataal ak seetug rang yi jël yaxu ndigg transformatër ginaaw bi ViT wane ni mën na joŋante ak CNNs

CLIP ak yeneen xeeti nataal-tekst yuy jëfandikoo ViT ngir enkode nataal yi suko defee ñu mëna méngale nataal yi ak mbind yi ci barab buñ bokk

Gëstu nataali pajum jëfandikoo ViTs ngir gis motif yi ci scanner bi yépp, du ci textures yu bërëb bi kese

Dawal sa bopp ak robotik gis-gis stack yu boole ViT-style attention ngir xam seen ci barab bi ñuy xoole yépp

Modèlu jëfandikoo

Transformatëri gis-gis ci jëf

Google's sistemu xaaj nataal ak seetug rang yi jël nañu yaxu ndigg transformatër ginaaw bi ViT wane ni mën na joŋante ak CNNs.

Google's nataal buy xaaj ak seetlu sistemu rang yi jël backbones transformateur ginaaw bi ViT wane ni mën na joŋante ak CNNs. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu eskalaasioŋ nit ngir jafe-jafe yi, ak topp error yi ci diir yi.

Transformatëri gis-gis ci jëf

CLIP ak yeneen xeeti nataal-tekst yuy jëfandikoo ViT ngir enkode nataal yi suko defee ñu mëna méngale nataal yi ak mbind yi ci barab buñ bokk.

CLIP ak yeneen xeeti nataal-tekst yuy jëfandikoo ViT ngir enkode nataal yi suko defee ñu mëna méngale nataal yi ak mbind yi ci barab bu ñu bokk. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.

Transformatëri gis-gis ci jëf

Gëstu nataali pajum jëfandikoo ViTs ngir gis motif yi ci scanner bi yépp, du textures yu bërëb yi kese.

Gëstu nataali medsin yi jëfandikoo ViTs ngir gis motif yi ci scanner bi yépp, du ci textures local yi. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee thresholds yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit ak njëgu njuumte ci diir bi.

Transformatëri gis-gis ci jëf

Dawal sa bopp ak gis-gis robotik dañuy boole bàyyi xel ci stilu ViT ngir xam seen ci wàllu gis-gis bi yépp.

Dawal sa bopp ak robotik perception stacks yu boole ViT-style attention ngir xam seen ci barab bi ñuy xoole yépp. Ekip yi dañuy faral di am njariñ yu gëna baax suñu leeralee kalite ci kanam, tëye yoonu eskalaasioŋ nit ngir jafe-jafe yi, ba noppi topp njariñu liggéey ak njëgu njuumte ci diir bi.

Risk yi ak balustrade yi

!

Yelleefi nataal ak nangu mën na nekk risku yoon sudee fi ñu bawoo leerul.

!

Performance model bi mën na wuute ci leeraay bi, demographie bi ak environmaa bi.

!

Njuumteg positive yi mën nañu dem te kenn duko seetlu fileek xool wuñu buntu wóolu sa bopp.

Roadmap ngir samp gi

1

Mandargal kritërium nangug njub, woowaat ak njëgu njuumte.

Mandargal kritërium nangug njub, woowaat ak njëgu njuumte. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.

2

Saytu ak done yu méngoo ak anam yi ñuy liggéeyee dëgg.

Saytu ak done yu méngoo ak anam yi ñuy liggéeyee dëgg. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.

3

Yokk jàngat nit ngir xam fu wóorul dara wala am njeexital yu rëy.

Yokk jàngat nit ngir xam fu wóorul dara wala am njeexital yu rëy. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.

4

Toppal model drift bi nga baaxal ko ginaaw bi kamera bi wala done yi soppeekoo.

Toppal model drift bi nga baaxal ko ginaaw bi kamera bi wala done yi soppeekoo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.

Weyal di banneexu