Co się stało
CRN donosi, że dyrektor generalny Nutanix, Rajiv Ramaswami, powiedział, że firma rozwija swoją platformę chmury hybrydowej, aby wspierać wnioskowanie AI na procesorach graficznych AMD, a także procesorach graficznych Nvidia. Ramaswami powiedział, że Nutanix spodziewa się pierwszych rozwiązań opartych na AMD do końca roku kalendarzowego i określił te prace jako wspólny wysiłek rozwojowy wspierany przez inwestycję AMD w Nutanix o wartości 250 milionów dolarów.
CRN donosi, że Ramaswami opisał Nutanix jako osobę, która wyszła poza swoje początki w infrastrukturze hiperkonwergentnej w kierunku szerszej platformy oprogramowania dla maszyn wirtualnych, kontenerów, chmur publicznych, pamięci zewnętrznej i aplikacji AI. Według raportu oprogramowanie Nutanix może działać na infrastrukturze bare-metal dostarczanej przez AWS, Microsoft Azure i Google Cloud, a także na neocloudach skupiających się na GPU. Firma nie sprzedaje sprzętu w oparciu o zapasy, chociaż klienci mogą wybrać urządzenie lub serwery Supermicro od takich dostawców, jak Dell, HPE, Lenovo i Cisco.
Specyficzne dla AI rozwiązanie opisane w raporcie to plan Nutanix mający na celu rozszerzenie stosu wnioskowań z procesorów graficznych Nvidia na procesory graficzne AMD. Ramaswami powiedział CRN, że Nutanix obecnie korzysta ze swojego stosu oprogramowania na sprzęcie Nvidia i spodziewa się, że pierwsze rozwiązania AMD zostaną wprowadzone do końca roku kalendarzowego. Powiedział, że inwestycja AMD w Nutanix o wartości 250 milionów dolarów wspiera wspólny rozwój, wcześniejszy dostęp do procesorów graficznych AMD i wspólny marketing. He explicitly declined to say that Nutanix receives first access, saying only that the company gets early access.
Ramaswami powiedział, że platforma AI firmy Nutanix ma zapewniać punkty końcowe wnioskowania, które mogą obsługiwać otwarte modele wybrane przez klientów, w tym modele dużych i mniejszych modeli językowych. CRN podaje, że opisał także bramę pomiędzy aplikacjami i modelami, z których korzystają. Bramka ma zapewniać wgląd w koszty i dostęp, stosować kontrolę użytkowania i pomagać w określeniu, kiedy aplikacja powinna używać modelu granicznego lub tańszego modelu otwartego. Źródło nie podaje konkretnych modeli procesorów graficznych AMD, wyników testów porównawczych, wdrożeń u klientów ani cen tych funkcji.
Wywiad umieścił także pracę nad procesorem graficznym w ramach szerszego wysiłku, aby uczynić Nutanix użytecznym, gdy klienci nie mogą łatwo uzyskać nowych serwerów lub pamięci masowej. CRN podaje, że obsługa pamięci zewnętrznych pozostaje niewielką, ale szybko rosnącą częścią wdrożeń. Ramaswami wspomniał o wsparciu dla Dell PowerFlex, Dell PowerStore i Everpure, a obsługę NetApp opisano jako dostępną online. Powiedział, że takie podejście może pozwolić niektórym klientom na korzystanie z istniejących serwerów i macierzy pamięci masowej zamiast kupować nowy sprzęt, chociaż raport nie zawiera niezależnych pomiarów częstotliwości występowania takich sytuacji ani ilości zaoszczędzonych przez klientów pieniędzy.
Dlaczego to ma znaczenie
Zgłaszana ekspansja zapewni klientom korporacyjnym kolejną opcję sprzętową do uruchamiania wnioskowania AI, podczas gdy Nutanix pozycjonuje swoje oprogramowanie jako warstwę, która może działać w lokalnych centrach danych, chmurach publicznych i neochmurach skoncentrowanych na GPU. Wartość praktyczna będzie zależeć od kompatybilności, wydajności, dostępności i kosztów, których CRN niezależnie nie przetestowała w raporcie.
Wdrożenia sztucznej inteligencji w przedsiębiorstwach w coraz większym stopniu wiążą się z wyborem między wykorzystaniem modelu granicznego zewnętrznego dostawcy a bezpośrednią obsługą infrastruktury wnioskowania. CRN donosi, że Nutanix stara się obsługiwać obie ścieżki: klienci mogą korzystać z modeli od dostawców takich jak OpenAI lub Anthropic lub uruchamiać modele otwarte za pośrednictwem infrastruktury zarządzanej przez Nutanix. Platforma łącząca aplikacje, modele, procesory graficzne i elementy sterujące może uprościć operacje organizacjom zarządzającym połączeniem zasobów chmurowych i lokalnych.
Wsparcie AMD również mogłoby mieć znaczenie, ponieważ daje klientom dodatkowego dostawcę akceleratorów. Zgodnie z charakterystyką Ramaswamiego cytowaną przez CRN, Nvidia pozostaje liderem na rynku, ale przedsiębiorstwa mogą szukać alternatyw ze względu na cenę, dostępność, ograniczenia w zakresie zamówień lub preferencje strategiczne. Raport potwierdza istnienie planowanej przez Nutanix integracji AMD i inwestycji AMD; nie ustala, że sprzęt AMD dorówna Nvidia pod względem wydajności, wsparcia oprogramowania, dostępności lub całkowitego kosztu posiadania.
Nacisk na wnioskowanie, a nie na szkolenie modeli, jest konsekwentny dla firm, które chcą wykorzystywać ustalone modele w produkcji. Obciążenia wnioskowania mogą działać w sposób ciągły i mogą obejmować wrażliwe dane przedsiębiorstwa, kontrolę użytkowania i powtarzające się koszty tokenów. Deklarowane podejście Nutanix do bramek zasadniczo rozwiązuje te problemy operacyjne, w tym wgląd w to, kto uzyskuje dostęp do modeli i jakie są koszty użytkowania. Jednakże CRN nie weryfikuje niezależnie możliwości bramy, kontroli bezpieczeństwa, opóźnień, obsługiwanych modeli ani wyników w środowiskach produkcyjnych.
Zgłoszona strategia dotycząca pamięci zewnętrznej poszerza kwestię infrastruktury poza procesory graficzne. Jeśli klientom uda się umieścić oprogramowanie Nutanix na istniejących serwerach i podłączyć obsługiwane macierze pamięci masowej, być może uda im się zmodernizować oprogramowanie bez wymiany każdego komponentu sprzętowego. Może to być przydatne w przypadku niedoborów komponentów, ale stwarza również wymagania dotyczące certyfikacji, wsparcia i integracji. Źródło zawiera opis strategii Ramaswamiego i cytowane platformy, a nie niezależne testy niezawodności, złożoności wdrożenia lub wyników klientów.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Which component of an AI application is the machine-learning model itself?
Co obejrzeć dalej
Kluczowymi kamieniami milowymi jest to, czy Nutanix dostarcza obiecane rozwiązania AMD zgodnie z harmonogramem, jakie akceleratory AMD i konfiguracje serwerów są obsługiwane oraz czy klienci mogą uzyskać wymierne korzyści w zakresie kosztów i wydajności. Warto również obserwować, jak bramka wnioskowania Nutanix, obsługa pamięci zewnętrznej i strategia kanału rozwijają się poza twierdzeniami opisanymi w wywiadzie.
Najbardziej bezpośrednim testem jest dostawa. Ramaswami powiedział CRN, że Nutanix spodziewa się wprowadzenia pierwszych rozwiązań GPU AMD do końca roku kalendarzowego, jednak w raporcie nie określono daty premiery, rodziny obsługiwanych akceleratorów, dostępności geograficznej ani stanu ogólnej dostępności. W sprawozdaniach uzupełniających należy ustalić, czy pierwsza wersja jest szeroko dostępna, ograniczona do wybranych klientów, czy też stanowi przede wszystkim integrację techniczną.
O tym, czy ogłoszenie zmieni decyzje zakupowe, zadecydują szczegóły techniczne. Do ważnych niewiadomych zalicza się przepustowość wnioskowania, opóźnienia, pojemność pamięci, wymagania dotyczące zasilania, obsługiwane platformy, formaty modeli, certyfikacja serwerów i względny koszt wdrożeń AMD i Nvidia. Źródło nie zapewnia porównawczych testów porównawczych, niezależnej walidacji ani referencji klientów w zakresie wnioskowania Nutanix opartego na AMD, więc te pytania pozostają otwarte.
Kontrole oprogramowania Nutanix również wymagają kontroli. Firma twierdzi, że jej brama może śledzić koszty, zarządzać dostępem i użytkowaniem oraz kierować aplikacje do różnych modeli. Użytkownicy powinni szukać dokumentacji pokazującej, jakie dane są rejestrowane, w jaki sposób egzekwowane są uprawnienia, czy administratorzy mogą ustalać zasady dotyczące wydatków lub modeli oraz jak system radzi sobie z awariami lub niedokładnymi wynikami modelu. Raport CRN nie zawiera żadnych szczegółów dotyczących wdrożenia.
Wreszcie strategia kanału może określić, jak szeroko zostanie przyjęta platforma. Ramaswami powiedział, że oczekuje się, że partnerzy rozszerzą działalność poza sprzedaż HCI na usługi migracji, kontenerów, chmury i sztucznej inteligencji, natomiast Nutanix planuje dodać więcej platform pamięci zewnętrznej i kontynuować rozwój oferty Kubernetes i sztucznej inteligencji. Praktyczne pytanie brzmi, czy partnerzy otrzymają wystarczającą liczbę szkoleń, certyfikatów i zachęt do realizacji tych projektów oraz czy klienci mogą uzyskać wsparcie w mieszanych środowiskach sprzętowych, chmurowych i modelowych. CRN raportuje priorytety kierownictwa, ale nie potwierdza niezależnie wyników przyjęcia lub wdrożenia przez partnerów.