Lu xew
MarkTechPost dafa wax ni Meta dugal na MetaRoCE, di protokolu dem ak dikk bu bees bu RDMA buñ defar ngir ay liggéeyu IA yuy daw ci reso Ethernet yu mag yi. Rapport bi dafa wax ni MetaRoCE dafay jàppee reso bi ni lu ñàkk, moo gën ñu koy laaj ñu joxe ko ci anam wu ñàkk, ci noonu la kàrtu interfaasu reso biñ mëna prograam di jëfandikoo komàndu paket yi, tànneef yoon yi ak defaraat yiñ tànn.
MarkTechPost dafa wax ni Meta dugal na MetaRoCE muy dem ak dikk bu sell ci RDMA ngir Ethernet bu yam ci IA. Sunu sukkandikoo ci génne gi, protokol bi dafa wër motif jokkoog model-tàggat ak clusters yu mag, fu liggéey yu mbooloo yu melni all-wàññi ak all-to-all laaj accelerator yu bari ngir weccoo done yu bari. Rapport bi dafa wax ni Meta liggéey na ay cluster yuy yegg ba téemeeri junni GPU ci ay santar yu bari ak gox, ndigam loolu dafa wax ni MarkTechPost moo ko jox te firndewul fii.
Design biñ wax wuute na ak RoCEv2 biñ gëna xam ci ni muy jëflante ak congestion, komànd ak ñàkk. MarkTechPost neena MetaRoCE dafay sprey paket ci yoon yu bari te may leen ñu yegsi ci anam wu jaarul yoon. Paquet bu nekk dafay yóbbaale leeral yu doy ngir NIC bi koy jot mëna def ay done ci barabu memory bi mu mujjee, moytu tampon buy komàndewaat ak wàññi head-of-line blocking. Rapport bi dafa wax itam ni lëkkaloo bu nekk mën na am ay stream yu bari yuñ komànde ak ay yooni reso yu bari, loolu mooy tax endpoint bi mëna ekilibrewaat trafik bi te du ubbi ay rang yu bari yu wuute.
Dafay wax ni MetaRoCE dafay jëfandikoo màrku ECN ak yoon ECMP ci tissu Ethernet bi, ci noonu muy toxal yeneen xam-xam ci wàllu dem ak dikk ci NIC bi. Neena ñu dindi nañu soxla njiitu debit ak kadre pause, lu am solo ci jëfandikoo RoCE bu amul perte. Dañu wax ni ab jumtukaayu tanneef bu 256 bit mooy xàmmee paket yi réer ba noppi di def retransmisioŋ biñ tànn. MarkTechPost itam dafay leeral ci wàllu yónnee ECN-based yokkute-yokkum, yokk-wàññi njiitu boole ci jotkat-joxe taxawaayu xaaj bu jaar yoon.
MarkTechPost neena Meta dafa samp protokol bi ci NIC yuñ mëna prograam ci AMD Pensando ba noppi natt ko ci 64 node AMD GPU yuy doxal RCCL. Artikle bi dafa wax ni produit bi dafa gëna rëy ak diir bi gëna néew ci RoCEv2 ci wàññi lépp ak lépp ci méngale. Mu yokk ci ni MetaRoCE denc na lu tollu ci 86% ci produit yi ci 1% ci paquet yi ñuy ñàkk, ba noppi wéy di joxe bandwidth bu am njariñ ci 10% ci perte. Artikle bi joxeewul anam yu doy ngir saytu seen bopp, natt yu ñor wala configuration baseline ngir firndeel resultaa yi.
Planu génne giñ wax mattul. MarkTechPost neena Meta defa bëgga siiwal ay leeral ci projet Open , ab losisel buñ jagleel DPDK, ab suite buy topp ak ab xeetu doxalin libsoftmetaroce. Outlet bi dafay dugal mbiri art yooyu ci 2026 OCP Global Summit ci weeru Oktuubar, waaye dafay jëfandikoo làkk wu xarañ ci waxtu bi. Woykat bi neena itam ni ay yeneen jëfandikoo hardware ñu ngi ci yoon, te kenn waxul turu jaaykat yi wala ñu wax ni mën nañu ko am.
Ay leeral ci cosaan: marktechpost.com ↗
Lu tax mu am solo
Taggat yaram bu mag ak liggéey ci IA a ngi aju ci liggéey yu mbooloo yiy toxal ay done ci biir gaawaaykat yu bari. Ab dem ak dikk bu des am njariñ ci jamonoy ñakk ay paket munna waññi ay stand ak def ay cluster IA yu sukkandiko ci Ethernet di gina dëgër, waaye li ñu xamle ci ay resilta firndewul ci seen bopp te firndewul waajal defar bi.
Jafe-jafe bi am solo mooy jëfandikoo gi. Ci IA buñ séddale, mën nañu yeexal tàggat yaram ndax yoonu jokkoo bi gëna yeex, mu bàyyi gaawaay yu seer yi di xaar. Kontu MarkTechPost dafay wane ni MetaRoCE dafa bëgga wéyal toxal yi su yenn paket wala avion reso yi ñàkkee, moo gën ñu may benn njuumte bu ndaw ngir dakkal mbooloo mu gëna mag. Suñu ko defaree ci boppam, loolu mën na tax Ethernet nekk fondaasioŋ bu gëna yomba jëfandikoo ngir cluster IA te wàññi dependence ci configurations lossless-fabric yuñ saytu bu baax.
Nafar bi mën na indi jafe-jafe ci ni mbootaay yi di tabaxee ak di doxalee seeni reso. Rapport bi dafa wax ni MetaRoCE soxla ECN ak ECMP, kàttan yu bari yu jëm ci coppite Ethernet, waaye soxlawul dagg paket, coppite ci wetu sprey, telemetry ci biir reso wala njiitu debit bu sukkandiko ci leble. Loolu mën na nekk lu am solo ci operatër yiy jëfandikoo jumtukaayi jaaykat yu wuute wala environmaa cloud fu configuration switch bi tënk. Waaye, méngoo ak aparey Ethernet yu bari yi mingi aju ci NIC bi, dawalkat yi, stack losisel bi ak jekkal liggéey bi, te baña yam ci nekkinu ECN ak ECMP kese.
Xeetu xam-xam biñ wax dafay gëna yokk wareef ci njeexte li. Loolu mën na yombal mbir yi, waaye mën na yokk solo gi ci losisel bi NIC, losisel biy jëfandikoo, plasementu mémoire ak seetlu. Gaañ-gaañu yiñ daan gis bu njëkk ci commutateur yi mën nañu nekk jeffin ju jëm ci transport yuy laaj diagnostic yu bees ak test compliance. Artefact OCP yi ñu nara def mën nañu jàppale ci indi interoperabilite, waaye seen njariñ mingi aju ci ni leeral yi mattee ak ni jaaykat yi di natt jëfandikoo gi bu baax.
Tegtale bi ak RoCEv2 mën na am solo ndax dafay wax ci njaayum architecture dëgg: reso bu amul perte mën na moytu retransmissions waaye mën na jëfandikoo mekaniism yu noppalu yuy tasaare congestion, ci noonu la jëmmal muñ perte mën na tëye yoon yu bari ci njëgu trafik ak jafe-jafe ci njeexte. Source bi dafay wane njariñu packet-loss yu MetaRoCE ni firnde ci njubluwaay bu mujj bi. Resultaa yi dañu leen wara jàppee ni ay reklamaasioŋ teknik yu lëkkalook liggéeyukaay bi MarkTechPost siiwal, te bañ leen jàppee ni firnde yu ëpp solo ni dem bi ak dikk biy muñ ñàkk moo gëna baax ci bépp topologie wala liggéey bu bari.
Njexitali askan wi du direct waaye dina am solo sudee xarala yi dañu jëm ca kanam. Lëkkaloo yu gëna dëgër mën nañu am njeexital ci njëg yi, seddaleb gox yi ak njaxasu jaaykat yi ci infrastructure IA yi. Mën nañu indi jafe-jafe ci sarwiisu tàggat yaram yi, flotu inferensi yi ak liggéeyu gëstukat yiy jëfandikoo acceleratër yuñ séddale. Fi ñu tolli nii, amul benn firnde ci lu jëm ci jëfandikoo bu yaatu bi, jëfandikoo kiliyaan bi, siiwal jàngat bu moom boppam wala coppite ci disponibilite IA bi jàkkarloo ak konsomatër yi.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
Which component of an AI application is the machine-learning model itself?
Li nga wara seetaan ci topp
Jéego yi ci topp ñooy ndax Meta siiwal leeral yiñ digoon, jëfandikoo royuwaay ak suite sàmmonte jaaraleko ci Open Project, ndax yeneen jaaykat yi dañu jàppale protocole bi, ak ndax test yi moom seen bopp dañuy génne li ñu xamle. Jenndkat yi dañu wara xool firndé yi bawoo ci génne yi ci liggéey bi, duñu yéem rek ci ay njuumte yuñ defar wala benn platform hardware.
Punt bi njëkk ngir saytu mooy siiwal. Jàngatkat yi war nañu seet xam-xam MetaRoCE bu Meta, losisel royuwaay ak jumtukaayi sàmmonte ci Projet Open . Këyit dañuy leeral xeetu paket yi, li ñuy laaj ci interoperabilite, lisence, tolluwaayu samp gi, xalaati kaaraange ak ndax waxtu oktoobar bi dafa dëgër wala benn proposition bu MarkTechPost joxe.
Benchmarking moomel sa bopp mooy test bu mag bi ci topp. Firnde yu am njariñ ñooy resultaa yi bawoo ci lu ëppu benn jaaykat NIC, platform yu wuute, dayo cluster yu bari ak liggéey yu bari yu weesu RCCL. Test yi dañu wara xamle li ñuy def, latency geen, diir bi ñuy jeexal, retransmission, jëfandikoo CPU ak NIC, doxalin ci suufu njuumte yu méngoo ak defaraat ginaaw bi avion wala yoon nekkul disponible.
Disponibilite hardware ak losisel mooy wane ndax rapoor bi dafay wax ci xarala yuñ mëna jëfandikoo wala projet architecture bu njëkk. MarkTechPost neena Meta wane na MetaRoCE ci AMD Pensando NIC yuñ mëna prograam, te yeneen jëfandikoo ñu ngi ci yoon, waaye xamul benn produit bu ñuy jaay, matrix dawalkat buy jàppale wala génne liggéey. Operatër yi dañu wara xaar amal yiñ wax, këyitu liggéey yi ak ndimbal yi laata ñuy jël protokol bi ni tànneef jënd.
Limu perte yiñ wax itam war nañu ko tekki bu baax. Teg lu tollu ci 86% ci 1% paquet perte ak tëye bandwidth bu am njariñ ci 10% perte mën na nekk lu am solo, waaye balluwaay bi mënul wax ndax perte bi dafa bari wala bursty, ndax dafa laal benn yoon wala ñu bari, naka la produit bi normalisee, wala naka la njëgu retransmission bi méngoo ak RoCEv2. Replication moomel sa bopp war na saytu congestion ak motif de failure yu dëggu yi moo gën ñuy wéeru ci simulation buñ saytu rek.
Fi may jeexalee mooy liggéeyukaay yi dañu wara xool ni MetaRoCE di méngoo ak yeneen jéego yu jëm ci reso IA, lu ci melni liggéeyu Ethernet bu gëna yaatu bu Open Project ak dem ak dikk yu am boroom. Laaj bi am solo mooy ndax jëmmal Meta dafay def lu baax ci benn cluster, waaye ndax jaaykat yi mën nañu ko jëfandikoo ci anam wu gëna neex, operatër yi mën nañu ko saafara, te aplikaasioŋ yi mën nañu ko jëfandikoo te duñu am coppite yu am solo. Bañu tontu laaj yooyu, li ñuy gëna xam mooy yokkute bi mooy proposition infrastructure buñ xamle ak wane hardware bu teel, te baña nekk luy wuutu RoCEv2.