Co se stalo
Register hlásí rozšiřující se pohyb směrem k vlastnímu a alternativnímu hardwaru AI. Její účet pokrývá modulární rackový systém Cerebras CS-4, rostoucí roli společnosti Marvell v navrhování vlastních akcelerátorů, pokračující používání specializovaných TPU společností Google a vývoj akcelerátoru strojového učení společnosti Waymo pro autonomní vozidla. Zpráva také popisuje Microsoft obnovení několika funkcí přizpůsobení systému Windows a sledování AI, ale to je samostatné sekundární vlákno.
Zpráva registru z 24. srpna se soustředí na to, co její redaktoři popisují jako posun za dominantní roli Nvidia v datových centrech AI. Dodavatelé stále více rozdělují pracovní zátěž mezi různé druhy křemíku, místo aby se spoléhali na jeden typ urychlovače. Představuje vyvození nebo generování výstupů z trénovaných modelů jako hlavní tlakový bod: poskytovatelé chtějí vysoké tokenové sazby pro asistenty kódování a další interaktivní služby a zároveň mají pod kontrolou náklady na energii a hardware na obsluhu požadavků. Článek registru je přepisem a analýzou podcastu, takže by se měl chápat jako hlášení z této zásuvky, nikoli jako nezávisle ověřená dokumentace každého technického tvrzení.
Registr uvádí, že Cerebras přechází od velkých, monolitických systémů ke svému rackovému designu CS-4. Dřívější systémy Cerebras umístily velký, energeticky náročný čip v měřítku waferu do samostatného, kapalinou chlazeného šasi. Nový přístup umisťuje tři čipy do modulárního uspořádání racku, což umožňuje výměnu počítačových komponent bez výměny souvisejícího napájecího zařízení. Register říká, že konstrukce zdvojnásobuje rychlost hodin, šířku pásma paměti a rychlost vstupu a výstupu, přičemž do racku umístí třikrát více křemíku. Také se uvádí, že Cerebras má partnerství se AWS a AMD a že rychlé generování tokenů přitáhlo zájem o asistenty kódování a další služby odvození.
Zpráva popisuje širší vlastní křemíkový ekosystém kolem hyperscalerů: Google používá své vlastní jednotky Tensor Processing Units přibližně od roku 2015 a spoléhal se na Broadcom pro části vlastního návrhu akcelerátoru, zatímco Marvell se stává konkurentem v zakázkové práci na XPU a konektivitě poté, co vybudoval portfolio duševního vlastnictví prostřednictvím akvizic. Článek to uvádí jako způsob, jak cloudové společnosti porovnat dodavatele nebo snížit závislost na jediném designérském partnerovi, ale nedokládá konkrétní novou smlouvu Google-Marvell; tvrzení o budoucích zákaznických strategiích a cenovém tlaku jsou komentářem, nikoli zavedeným vývojem. Společnost Waymo odhalila vlastní akcelerátor strojového učení určený pro vozidla, protože objem senzoru a nízká latence jsou důležité, když se objeví překážka. Registr uvádí, že Waymo se silně spoléhalo na pole programovatelná hradlová pole a může usilovat o větší výpočetní hustotu a snadnější vývoj integrovaného obvodu specifického pro aplikaci, ale neposkytuje žádné specifikace, výsledky testování, harmonogram výroby nebo bezpečnostní záznamy. Samostatně testuje Microsoft pohyblivé hlavní panely Windows 11, lépe přizpůsobitelné kontextové nabídky a viditelnost Správce úloh v pracovních zátěžích neuronových procesorových jednotek.
Podrobnosti o zdroji: theregister.com ↗
Proč na tom záleží
Posun by mohl učinit infrastrukturu AI méně závislou na jedné třídě GPU Nvidia a klást větší důraz na hardware navržený pro konkrétní pracovní zátěže. Rychlejší doby odezvy, nižší provozní náklady, lepší energetická účinnost a těsnější integrace se senzory jsou praktické cíle popsané v The Register. Zpráva neuvádí, že by jakákoli alternativa v reálném světě výrazně překonala Nvidia.
Praktický význam spočívá v tom, že výkon AI není určen pouze modelem. Hlášení registru ukazují, jak dodavatelé optimalizují hardware podle konkrétních omezení: rychlost generování tokenů pro interaktivní nástroje, napájení a chlazení pro stojany datových center a latence pro ovládání vozidel. Pokud by tyto návrhy fungovaly ve velkém, společnosti by si mohly vybrat různé akcelerátory pro školení, velkoobjemové odvození, prémiové požadavky s nízkou latencí a okrajové pracovní zátěže. Díky tomu by se trh s infrastrukturou AI stal specializovanějším a mohl by zákazníkům poskytnout více alternativ k systémům GPU pro obecné účely.
Redesign stojanu společnosti Cerebras upozorňuje na provozní problém, který lze v hlavních tvrzeních o výkonu přehlédnout. Registr uvádí, že dřívější systémy spotřebovávaly asi 15 kilowattů na čip a svázané výpočty se zařízením pro dodávku energie ve velkém šasi. Modulární stojan by mohl způsobit, že opravy a upgrady budou méně rušivé, i když křemík zůstává neobvykle náročný na energii. Pro provozovatele datových center může být stejně důležitá jako špičková propustnost provozuschopnosti, kabeláže, chlazení a schopnosti nahradit jednu vadnou součást. Zdroj nezávisle neověřuje uváděné hodnoty výkonu nebo výkonu, takže tyto výhody zůstávají tvrzeními vyžadujícími technickou kontrolu.
Širší dodavatelská základna by mohla ovlivnit vyjednávací sílu a investiční rozhodnutí. Registr naznačuje, že cloudové společnosti často využívají externí firmy zabývající se duševním vlastnictvím pro méně výrazné části vlastních čipů, zatímco interní inženýrství se soustředí na funkce relevantní pro jejich služby. Konkurence mezi Broadcomem a Marvellem by mohla dát hyperscalerům další designovou cestu, ale vlastní křemík také vytváří závazky týkající se softwaru a podpory. Čip, který je účinný pro jednu pracovní zátěž, může být obtížné naprogramovat, obtížně obstarat nebo se špatně hodí pro jinou. Zpráva nenabízí žádné srovnání nákladů se systémy Nvidia a žádný důkaz, že zákazníci přecházejí ve velkém měřítku. Příklad společnosti Waymo propojuje vlastní hardware umělé inteligence s nasazením citlivým na bezpečnost, nikoli pouze s ekonomikou datového centra: nízká latence je důležitá, když vozidlo reaguje na vstup senzoru, a vzdálený lidský zásah není ideální náhradou za okamžité zpracování na palubě. To neprokazuje zvýšenou bezpečnost; neexistuje žádné nezávislé hodnocení, srovnání poruchovosti nebo regulační posouzení. Užší závěr je, že autonomní vozidla poskytují důvod navrhnout křemík kolem zpracování senzorů a doby odezvy, zatímco dopad na veřejnost závisí na ověření v reálných provozních podmínkách.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
Na co se dále dívat
Klíčovými testy jsou veřejná technická dokumentace, nezávislé benchmarky a důkazy o škálovaném použití zákazníkem. Sledujte, zda nový design stojanu Cerebras, vlastní akcelerátory podporované Marvell a automobilový křemík Waymo dosahují výroby a zda jejich výhody převažují nad náklady na software, dodavatelský řetězec a údržbu. Změny systému Windows Microsoft by měly být také posuzovány podle dostupnosti veřejnosti a podle toho, zda zlepšují uživatelskou kontrolu spíše než pouze přidávají další monitorování systému.
Nejprve vyhledejte primární technický materiál od Cerebras, Waymo, Google, Marvell nebo jejich zákazníků. Mezi užitečné důkazy patří dokumenty o architektuře, měření spotřeby, softwarová podpora, stav výroby a jasně definované testy zátěže. Zpráva registru poskytuje zajímavou mapu zúčastněných společností, ale nestanovuje dostupnost, ceny, objem zákazníků ani nezávislý výkon. Tyto chybějící detaily určují, zda se jedná o tahy průmyslu nebo především o inženýrské plány.
Za druhé, porovnejte podobné s podobným. Hodnoty tokenů za sekundu se mohou lišit podle velikosti modelu, dávkování, přesnosti, délky kontextu a počtu současných uživatelů. Vlastní akcelerátor může být vynikající pro jeden úzký vzor odvození a méně užitečný pro obecné úlohy. Sledujte nezávislé testy měřící propustnost, latenci odezvy, energii na vygenerovaný token, využití, spolehlivost a celkové náklady na vlastnictví v porovnání se současnými systémy GPU. Bez tohoto kontextu jsou nároky na rychlejší nebo levnější AI těžko hodnotitelné. Za třetí, sledujte obchodní vztahy: Registr uvádí partnerství Cerebras se AWS a AMD a popisuje Marvell jako vstup na pole, které dříve dominovaly týmy Broadcom a interní hyperscaler. Dalším důležitým důkazem bude, zda tyto vztahy produkují obecně dostupné služby, pojmenovaná nasazení nebo opakované objednávky. Očekávání zprávy, že služby AWS nebo AMD mohou používat hardware Cerebras, je výhledový komentář, nikoli potvrzené zavedení a nemělo by se s ním tak zacházet.
Nakonec samostatně sledujte implementaci vozidla Waymo a změny softwaru Microsoft. Pro Waymo jsou smysluplné otázky, zda je akcelerátor instalován ve sériových vozidlech, jak zvládá pracovní zátěž senzorů, jaké existují záložní systémy a jaké bezpečnostní ověření bylo dokončeno. Pro Windows The Register říká, že pohyb hlavního panelu je v kanálu Release Preview a vyvíjí se vylepšená viditelnost procesu NPU, ale veřejné načasování a konečné chování se mohou změnit. Žádné vlákno by nemělo být prezentováno jako úplné, dokud společnosti nezveřejní stabilní dostupnost a nezávislí uživatelé budou moci posoudit výsledky.