Co się stało
Positron AI, firma budująca systemy wnioskowania oparte na pamięci, zebrała 875 milionów dolarów w rundzie finansowania serii C przy wycenie post-moneydalnej wynoszącej 5 miliardów dolarów. Fundusze zostaną wykorzystane na skalowanie systemów wnioskowania bazujących na pamięci firmy, w tym na rampę produkcyjną systemu wnioskowania nowej generacji Titan i rozmieszczenie krzemu nowej generacji Asimov. Asimov połączy architekturę obliczeniową Positron z 288 GB do 2304 GB pamięci na chip, a Titan połączy od czterech do ośmiu chipów Asimov w jeden system, zaprojektowany do obsługi modeli przekraczających 16 bilionów parametrów i okien kontekstowych przekraczających 10 milionów tokenów w jednym węźle.
Positron AI zebrała 875 milionów dolarów w rundzie finansowania serii C przy wycenie post-moneydalnej na 5 miliardów dolarów.
Fundusze zostaną wykorzystane na skalowanie systemów wnioskowania bazujących na pamięci firmy, w tym na rampę produkcyjną systemu wnioskowania nowej generacji Titan i rozmieszczenie krzemu nowej generacji Asimov.
Asimov połączy architekturę obliczeniową Positron z 288 GB do 2304 GB pamięci na chip, a Titan połączy od czterech do ośmiu chipów Asimov w jeden system, zaprojektowany do obsługi modeli przekraczających 16 bilionów parametrów i okien kontekstowych przekraczających 10 milionów tokenów w jednym węźle.
Energooszczędna architektura firmy umożliwia wdrażanie jej systemów w chłodzonych powietrzem lub cieczą centrach danych przy różnej gęstości szaf, bez uzależnienia od ograniczonych łańcuchów dostaw HBM lub CoWoS.
Systemy Positron AI są już wdrażane w skali hiperskalera, a firma współpracuje z kluczowymi partnerami, takimi jak Parasail, Jump Trading i i3d.net, aby usprawnić swoje usługi wnioskowania.
Szczegóły źródła: hpcwire.com ↗
Dlaczego to ma znaczenie
Dofinansowanie umożliwi Positron AI skalowanie systemów wnioskowania wykorzystujących przede wszystkim pamięć, które zaprojektowano tak, aby wnioskowanie AI było znacznie tańsze i bardziej energooszczędne. Jest to szczególnie ważne, ponieważ środek ciężkości w sztucznej inteligencji przesuwa się z modeli szkoleniowych na ich uruchamianie, a zaspokajanie tego zapotrzebowania na dużą skalę jest w coraz większym stopniu ograniczane przez pojemność pamięci, jej przepustowość i moc.
Dofinansowanie umożliwi Positron AI skalowanie systemów wnioskowania wykorzystujących przede wszystkim pamięć, które zaprojektowano tak, aby wnioskowanie AI było znacznie tańsze i bardziej energooszczędne.
Jest to szczególnie ważne, ponieważ środek ciężkości w sztucznej inteligencji przesuwa się z modeli szkoleniowych na ich uruchamianie, a zaspokajanie tego zapotrzebowania na dużą skalę jest w coraz większym stopniu ograniczane przez pojemność pamięci, jej przepustowość i moc.
Technologia Positron AI może mieć wpływ na różne branże, w tym między innymi na branżę sztucznej inteligencji, branżę centrów danych i branżę przetwarzania w chmurze.
Zdolność firmy do skalowania produkcji i zaspokojenia popytu na swoje systemy będzie miała kluczowe znaczenie dla powodzenia jej systemów wnioskowania wykorzystujących przede wszystkim pamięć.
Potencjalne zastosowania technologii Positron AI w różnych gałęziach przemysłu będą ważnym czynnikiem przy określaniu jej wpływu na branżę AI.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Co obejrzeć dalej
Wpływ systemów wnioskowania opartych na pamięci Positron AI na branżę sztucznej inteligencji, zdolność firmy do skalowania produkcji i zaspokojenia popytu na swoje systemy oraz potencjalne zastosowania jej technologii w różnych gałęziach przemysłu.
Wpływ systemów wnioskowania opartych na pamięci Positron AI na branżę sztucznej inteligencji.
Zdolność firmy do skalowania produkcji i zaspokojenia zapotrzebowania na swoje systemy.
Potencjalne zastosowania technologii Positron AI w różnych gałęziach przemysłu.
Zdolność firmy do wdrażania swoich systemów w centrach danych chłodzonych powietrzem lub cieczą przy różnej gęstości szaf serwerowych.
Zdolność firmy do współpracy z kluczowymi partnerami, takimi jak Parasail, Jump Trading i i3d.net, w celu wspierania ich usług wnioskowania.