Tillbaka till Nyheter
InnovationAI Understanding genomgång

MarkTechPost rapporterar att Meta introducerade MetaRoCE för AI-skala Ethernet

MarkTechPost rapporterar att Meta introducerade MetaRoCE, en föreslagen RDMA-transport designad för stora AI-kluster som tolererar paketförlust och flyttar beställnings- och återställningsarbete till nätverkskort. Uttaget säger att protokollet testades på AMD Pensando programmerbara NIC, men dess specifikation och bredare ...

6 min readRead the linked source
Source-provided image accompanying MarkTechPost reports Meta introduced MetaRoCE for AI-scale Ethernet
KällhänvisningKälla inspelad
Förläggare
marktechpost.com
Källlänk
marktechpost.comhttps://www.marktechpost.com/2026/08/25/meta-ai-introduces-metaroce-a-clean-sheet-rdma-transport-built-for-ai-scale-ethernet/
Källtyp
Länkad källa – status för primär källa har inte fastställts.
Också citerad

Berättelsen senast reviderad

SammanhangFörstå detta på 60 sekunder

Börja här

Nyckeltermer

Minne (agentminne)
Lagrat sammanhang som en AI-agent använder över steg eller sessioner för att förbättra kontinuiteten.
Slutledning
Körtidsfasen där en tränad modell genererar förutsägelser eller utdata.
Beräkna
Bearbetningsresurserna som krävs för att träna och köra modeller, ofta mätt i FLOPS- eller GPU-timmar.
Testa dig självAI Models Explained Quiz

Vad har förändrats sedan publiceringen

  1. Först publicerad
  2. Denna kandidat avancerar väsentligt exakt samma MetaRoCE-introduktion och rapporterade tekniska utvärdering som redan omfattas av det kvalificerade kanoniska bidraget. Kandidatens fullständiga URL är icke-AMP-versionen, medan arkivposten använder AMP URL; den exakta kanoniska snigeln behålls därför. MarkTechPost rapporterar ytterligare detaljer om leverans i oordning, inbyggd multipathing, selektiv återsändning, kontroll av slutpunktsöverbelastning, AMD Pensando-testning, den rapporterade 86 % genomströmningen vid 1 % paketförlust och den föreslagna OCP-artefaktutgåvan i oktober. Dessa påståenden förblir tillskrivna MarkTechPost och bekräftas inte oberoende av den angivna källan.

Vad hände

MarkTechPost rapporterar att Meta introducerade MetaRoCE, ett nytt RDMA-transportprotokoll designat för AI-arbetsbelastningar som körs över stora Ethernet-nätverk. Rapporten säger att MetaRoCE behandlar nätverket som förlustfritt snarare än att det kräver förlustfri leverans genom prioriterad flödeskontroll, medan programmerbara nätverkskort hanterar paketbeställning, vägval och selektiv återställning.

MarkTechPost rapporterar att Meta introducerade MetaRoCE som en ren RDMA-transport för AI-skala Ethernet. Enligt outlet är protokollet utformat kring kommunikationsmönstren för stora modelltränings- och betjäningskluster, där kollektiva operationer som all-reduce och allt-till-alla kräver många acceleratorer för att utbyta data upprepade gånger. Rapporten säger att Meta har drivit kluster som når hundratusentals GPU:er över flera datacenter och regioner, även om dessa skalanspråk tillskrivs MarkTechPost och inte är oberoende bekräftade här.

Den rapporterade designen skiljer sig från konventionell RoCEv2 i hur den hanterar överbelastning, beställning och förlust. MarkTechPost säger att MetaRoCE sprejar paket över flera vägar och tillåter dem att komma ur funktion. Varje paket innehåller tillräckligt med information för att det mottagande nätverkskortet ska kunna placera data direkt i sin slutliga minnesplats, vilket undviker en omordningsbuffert och minskar head-of-line blockering. Rapporten säger också att varje anslutning kan innehålla flera ordnade strömmar och flera nätverksvägar, vilket gör att slutpunkten kan balansera om trafiken utan att öppna ett stort antal separata köpar.

Outlet rapporterar att MetaRoCE använder ECN-märkning och ECMP-routing från Ethernet-tyget, samtidigt som mer transportintelligens flyttas in i NIC. Det tar enligt uppgift bort behovet av prioriterad flödeskontroll och pausramar, som är centrala för förlustfria RoCE-distributioner. En 256-bitars selektiv bekräftelsestruktur sägs identifiera saknade paket och utlösa riktad återsändning. MarkTechPost beskriver också avsändarsidans ECN-baserad additiv ökning, multiplikativ minskningskontroll kombinerad med mottagare tillhandahållna tips om rättvisa andelar.

MarkTechPost säger att Meta implementerade protokollet på AMD Pensando programmerbara NIC och testade det på ett 64-nods AMD GPU-kluster som kör RCCL-kollektiv. Artikeln rapporterar högre genomströmning och lägre flödesfullbordande tider än RoCEv2 i jämförelser med allt-reducera och allt-till-alla. Den rapporterar vidare att MetaRoCE behöll cirka 86 % genomströmning vid 1 % paketförlust och fortsatte att ge användbar bandbredd med 10 % förlust. Artikeln tillhandahåller inte tillräckligt med oberoende kontrollerbar metodik, råmätningar eller baslinjekonfiguration för att validera dessa resultat.

Den rapporterade releaseplanen är ofullständig. MarkTechPost säger att Meta har för avsikt att publicera en specifikation genom Open Project, en DPDK-optimerad mjukvarureferensimplementering, en efterlevnadssvit och beteendemodellen libsoftmetaroce. Outlet placerar dessa artefakter vid 2026 OCP Global Summit i oktober, men använder kvalificerat språk om tidpunkten. Källan säger också att ytterligare hårdvaruimplementationer är på gång, utan att namnge leverantörer eller förbinda sig till tillgänglighet.

Källinformation: marktechpost.com ↗

Varför det spelar roll

Stora AI-tränings- och servicejobb är beroende av kollektiva operationer som flyttar data mellan många acceleratorer. En transport som förblir användbar under paketförlust kan minska stopp och göra Ethernet-baserade AI-kluster mer motståndskraftiga, men de rapporterade resultaten är inte oberoende bekräftade och etablerar inte produktionsberedskap.

Den praktiska frågan är användningen. I distribuerad AI kan ett träningssteg försenas med den långsammaste kommunikationsvägen, vilket gör att dyra acceleratorer väntar. MarkTechPosts konto antyder att MetaRoCE är avsett att hålla överföringar i rörelse när vissa paket eller nätverksplan misslyckas, snarare än att tillåta ett litet fel att stoppa ett större kollektiv. Om det reproduceras oberoende kan det göra Ethernet till en mer flexibel grund för AI-kluster och minska beroendet av hårt kontrollerade förlustfria tygkonfigurationer.

Designen kan också påverka hur organisationer bygger och driver nätverk. Rapporten säger att MetaRoCE behöver ECN och ECMP, funktioner som är allmänt förknippade med Ethernet-växling, men kräver inte pakettrimning, sprejning på switchsidan, telemetri i nätverket eller kreditbaserad flödeskontroll. Det kan ha betydelse för operatörer som använder blandad leverantörsutrustning eller molnmiljöer där switchkonfigurationen är begränsad. Kompatibilitet med vanlig Ethernet-utrustning skulle dock bero på NIC, drivrutiner, mjukvarustacken och driftsinställningar, inte bara på närvaron av ECN och ECMP.

Det rapporterade tillvägagångssättet lägger mer ansvar vid slutpunkten. Det kan förenkla strukturen, men det kan öka betydelsen av NIC-firmware, värdprogramvara, minnesplacering och observerbarhet. Fel som tidigare var synliga i switchar kan bli beteenden på transportnivå som kräver ny diagnostik och testning av efterlevnad. De föreslagna OCP-artefakterna kan hjälpa till att etablera interoperabilitet, men deras användbarhet kommer att bero på hur komplett specifikationen är och hur noggrant leverantörer testar implementeringar.

Jämförelsen med RoCEv2 är potentiellt viktig eftersom den adresserar en verklig arkitektonisk kompromiss: förlustfritt nätverk kan undvika återsändningar men kan använda pausmekanismer som sprider överbelastning, medan en förlusttolerant design kan bevara vägdiversiteten till bekostnad av återställningstrafik och ändpunktskomplexitet. Källan presenterar MetaRoCE:s paketförlustresultat som bevis för det senare tillvägagångssättet. Dessa resultat bör behandlas som ett företagskopplat tekniskt påstående som rapporterats av MarkTechPost, inte som ett allmänt bevis på att förlusttolerant transport är överlägsen i varje topologi eller arbetsbelastning.

Den offentliga påverkan är indirekt men betydande om tekniken mognar. Mer motståndskraftiga sammankopplingar kan påverka kostnaden, den geografiska fördelningen och leverantörsmixen för AI-infrastruktur. De kan också påverka prestandan för utbildningstjänster, slutledningsflottor och vetenskapliga arbetsbelastningar som använder distribuerade acceleratorer. För närvarande finns det inga bevis för källan till bred distribution, kundantagande, publicerad oberoende granskning eller en förändring i konsumentinriktad AI-tillgänglighet.

Interactive Mechanism

Interaktiv mekanism: hur det faktiskt fungerar

Utforska den underliggande tekniken bakom denna utveckling interaktivt.

Document Size:128K tokens
Needle Placement Depth (Location in document):50% into text
Attention Context Buffer Map:
Target Fact (50%)
Equivalent Pages~320Standard book pages
Retrieval Accuracy99.9%Needle recall score
RAM / KV Cache5.1 GBMemory overhead
Prompt CachingActive~80% discount on reuse
Core takeaway: Million-token context windows allow querying whole codebases or legal archives in one prompt. However, KV cache memory scales with context length, making prompt caching crucial for real-time production.
Interaktiv konceptkontroll+10 Points
AI Models Explained Quiz

Which component of an AI application is the machine-learning model itself?

Vad du ska titta på härnäst

De viktigaste nästa stegen är om Meta publicerar den utlovade specifikationen, referensimplementeringen och efterlevnadssviten genom Open Project, om andra leverantörer stödjer protokollet och om oberoende tester återger de rapporterade resultaten. Köpare bör också se efter bevis från produktionsinstallationer snarare än att bara förlita sig på simulerade fel eller en enda hårdvaruplattform.

Den första verifieringspunkten är publicering. Läsare bör leta efter Meta:s faktiska MetaRoCE-specifikation, referensprogramvara och efterlevnadsmaterial genom Open Project. Dessa dokument skulle klargöra paketformat, interoperabilitetskrav, licensiering, implementeringsstatus, säkerhetsöverväganden och om oktobertimingen är fast eller bara ett förslag som rapporterats av MarkTechPost.

Oberoende benchmarking är nästa stora test. Användbara bevis skulle omfatta resultat från mer än en NIC-leverantör, olika switchplattformar, olika klusterstorlekar och arbetsbelastningar bortom RCCL-kollektiv. Tester bör rapportera genomströmning, svansfördröjning, flödesavslutande tid, omsändningskostnader, CPU- och NIC-användning, beteende vid korrelerade fel och återhämtning efter att ett plan eller en rutt blivit otillgänglig.

Tillgängligheten av hårdvara och mjukvara avgör om rapporten beskriver en implementeringsbar teknik eller ett tidigt arkitekturprojekt. MarkTechPost säger att Meta har demonstrerat MetaRoCE på AMD Pensando programmerbara NIC och att andra implementeringar är på gång, men det identifierar inte en allmän kommersiell produkt, drivrutinsmatris som stöds eller produktionsinstallation. Operatörer bör vänta på namngivna implementeringar, dokumentation och supportåtaganden innan de behandlar protokollet som ett upphandlingsalternativ.

De redovisade förlustsiffrorna behöver också tolkas noggrant. Att behålla cirka 86 % genomströmning vid 1 % paketförlust och bibehålla användbar bandbredd vid 10 % förlust kan vara meningsfullt, men källan fastställer inte om förlusten var slumpmässig eller bursty, om den påverkade en väg eller många, hur genomströmningen normaliserades eller hur återsändningskostnader jämfört med RoCEv2 under motsvarande förhållanden. Oberoende replikering bör testa realistiska trafikstockningar och felmönster snarare än att endast förlita sig på kontrollerad simulering.

Slutligen bör branschen se hur MetaRoCE passar med andra AI-nätverksinitiativ, inklusive Open Projects bredare Ethernet-arbete och konkurrerande proprietära transporter. Den viktiga frågan är inte bara om Meta:s design fungerar bra i ett kluster, utan om leverantörer kan implementera den konsekvent, operatörer kan felsöka den och applikationer kan använda den utan kostsamma förändringar. Tills dessa frågor är besvarade, förstås utvecklingen bäst som ett rapporterat infrastrukturförslag med en tidig hårdvarudemonstration, inte en allmänt tillgänglig ersättning för RoCEv2.

Relaterade guider och frågesporter

AI-modeller förklarasTransformatorerAI utbildningAI:s framtidTesta vad du vet – prova ett gratis AI-quizSlå upp en AI-term i vår ordlistaFölj AI-modellens release tracker

Uppdateringar och korrigeringar

Denna kanoniska berättelse uppdateras på plats när händelsen som utvecklas väsentligt förändras. Dess URL och ursprungliga publiceringsdatum ändras aldrig.

  • Denna kandidat avancerar väsentligt exakt samma MetaRoCE-introduktion och rapporterade tekniska utvärdering som redan omfattas av det kvalificerade kanoniska bidraget. Kandidatens fullständiga URL är icke-AMP-versionen, medan arkivposten använder AMP URL; den exakta kanoniska snigeln behålls därför. MarkTechPost rapporterar ytterligare detaljer om leverans i oordning, inbyggd multipathing, selektiv återsändning, kontroll av slutpunktsöverbelastning, AMD Pensando-testning, den rapporterade 86 % genomströmningen vid 1 % paketförlust och den föreslagna OCP-artefaktutgåvan i oktober. Dessa påståenden förblir tillskrivna MarkTechPost och bekräftas inte oberoende av den angivna källan.
Se den offentliga korrigeringsloggen
Hittade du detta användbart?