ምን ተፈጠረ
eTeknix እንደዘገበው Nvidia ከAmazon's Annapurna Labs ጋር የተነደፈውን ከፍተኛ ባንድዊድዝ ማህደረ ትውስታን NVHBM አስተዋወቀ። መውጫው ዲዛይኑ የማስታወሻ መቆጣጠሪያውን ከዋናው አፋጣኝ ወደ ማህደረ ትውስታ ፓኬጅ መሰረት ያንቀሳቅሰዋል እና በጣም ትልቅ ሞዴሎች ላሏቸው AI ስርዓቶች የታሰበ ነው.
eTeknix እንደዘገበው Nvidia NVHBM አስተዋውቋል የራሱ ባለ ከፍተኛ ባንድዊድዝ ማህደረ ትውስታ አርቴፊሻል ኢንተለጀንስ የስራ ጫናዎች። ጽሑፉ Nvidia ዲዛይኑን ከአናፑርና ላብስ፣ ከAmazon ቺፕ ክፍል ጋር እንዳዘጋጀ ይናገራል። የተዘገበው ኢላማ ሞዴሎቹ በትሪሊዮን የሚቆጠሩ መለኪያዎችን የያዙ የ AI ሲስተሞች ክፍል ሲሆን መረጃን በአቀነባባሪዎች እና ማህደረ ትውስታ መካከል በፍጥነት ማንቀሳቀስ አፈፃፀምን የሚገድብ እና የኃይል ፍጆታን ይጨምራል። ምንጩ NVHBM እንደ አጠቃላይ ዓላማ የሸማች ማህደረ ትውስታ ምርት ሳይሆን ለ AI accelerators እንደ የመሠረተ ልማት ቴክኖሎጂ ያቀርባል። የምርት ዋጋ, የመላኪያ ቀን ወይም የተሟላ ቴክኒካዊ መግለጫ አይሰጥም.
እንደ eTeknix ገለጻ፣ ልዩ የሆነው የንድፍ ምርጫ የማህደረ ትውስታ መቆጣጠሪያውን በቀጥታ በዋናው ፕሮሰሰር ውስጥ ከማቆየት ይልቅ በከፍተኛ ባንድዊድዝ ማህደረ ትውስታ ውስጥ ማስቀመጥ ነው፣ ጽሑፉ XPU ብሎ ይጠራዋል። ሪፖርቱ ተቆጣጣሪውን በመሠረት ዳይ ውስጥ ማስገባት ለNvidia ልዩ እንዳልሆነ አምኗል እና Samsung, SK Hynix እና Micron ተመሳሳይ አቀራረቦችን እየፈለጉ ነው. የ Nvidia የይገባኛል ጥያቄ አተገባበር ግን በአፋጣኝ ላይ የሚያስፈልገውን የመቆጣጠሪያ አመክንዮ መጠን ለመቀነስ እና የአካላዊ ማህደረ ትውስታ በይነገጽን ለማጥበብ መንገድ ሆኖ ቀርቧል። ምንጩ ይህ ኢንተርፖሰርን፣ ፕሮሰሰሩን እና ማህደረ ትውስታን የሚያገናኘውን የጥቅል አካል ቀላል ያደርገዋል ብሏል።
መውጫው ለNvidia የተሰጡ በርካታ አሃዞችን ሪፖርት አድርጓል፡ ከ 30% በላይ ተጨማሪ የመተላለፊያ ይዘት እና 15% ዝቅተኛ የኃይል አጠቃቀም ከHBM4E ጋር ሲነጻጸር። በተጨማሪም መቆጣጠሪያውን ማንቀሳቀስ ከዋናው ቺፕ ሲሊኮን አካባቢ እስከ 25% የሚሆነውን ነፃ ማውጣት ይችላል ፣ የበይነገጽ ስፋትን በመቀነስ በጥቅሉ ውስጥ እስከ 80% ጥቅም ላይ የሚውል ሲሊኮን ያገግማል ይላል። እነዚህ አሃዞች በ eTeknix እንደዘገበው የኩባንያ የይገባኛል ጥያቄዎች ናቸው; የቀረበው ቁሳቁስ ምንም ገለልተኛ መለኪያ ፣ የሙከራ ዘዴ ፣ የምርት ናሙና ወይም የሶስተኛ ወገን ማረጋገጫ የለውም። eTeknix በተጨማሪ እንደዘገበው Nvidia በNVLink Fusion ስነ-ምህዳሩ ውስጥ ያሉ አጋሮች ብጁ አፋጣኞችን በቀላሉ እንዲፈትሹ እና እንዲያዋህዱ ዝርዝሮቹን በበርካታ ማህደረ ትውስታ ሰሪዎች ላይ መደበኛ ማድረግ ይፈልጋል።
eTeknix Amazon NVHBM ለመቀበል ካቀዱ የመጀመሪያዎቹ ኩባንያዎች መካከል አንዱ እንደሆነ ይናገራል። ጽሁፉ Amazon የማስታወሻ አርክቴክቸርን ከ Nvidia's NVLink interconnect በወደፊት AWS Trainium4 ፕሮሰሰር በማዋሃድ የ Amazon ቺፖችን እና Nvidia ጂፒዩዎችን አንድ ላይ የሚያመጣ የራክ-ደረጃ አርክቴክቸር መፍጠር እንዳሰበ ዘግቧል። በNvidia በኩል፣ ሪፖርቱ NVHBM በFeynman GPU architecture ይጀምራል ተብሎ ይጠበቃል፣ እሱም ለ 2028 የታቀደው። ሪፖርቱ የዛሬን ተገኝነት፣ የተጠናቀቀ ሃርድዌር፣ የደንበኛ ማሰማራት ወይም ጽኑ የንግድ ማስጀመሪያ መርሐግብርን አላስቀመጠም።
ለምን አስፈላጊ ነው።
የተዘገበው ንድፍ በ AI ውስጥ ማዕከላዊ የመሠረተ ልማት ውስንነትን ያነጣጠረ ነው፡ መረጃን በማህደረ ትውስታ እና በአቀነባባሪዎች መካከል በብቃት ማንቀሳቀስ። የተዘገበው ትርፍ በምርት ላይ ከተደረሰ፣ NVHBM ለተፋጣኝ ዲዛይነሮች ተጨማሪ የመተላለፊያ ይዘት፣ ዝቅተኛ የኃይል አጠቃቀም እና ተጨማሪ የሲሊኮን አካባቢ ለኮምፒዩተር ግብዓቶች ሊሰጥ ይችላል።
ማህደረ ትውስታ የ AI አፋጣኝ ዲዛይን ገዳቢ አካል ሆኗል ምክንያቱም ፕሮሰሰሮች በብቃት ሊሰሩ የሚችሉት የሚያስፈልጋቸው መረጃዎች በፍጥነት በበቂ ሁኔታ ሲደርሱ ብቻ ነው። የ eTeknix ሪፖርት NVHBM ያንን ችግር በጥቅል ደረጃ ለመፍታት እንደ ሙከራ አድርጎ ያስቀምጣል። ከፍተኛ የመተላለፊያ ይዘት ያለው ጥምረት እና ዝቅተኛ የኃይል አጠቃቀም በጣም አስፈላጊ የሚሆነው ብዙ ፍጥነቶች በአንድ ላይ በሚሰሩበት እና የማስታወስ እንቅስቃሴ ከፍተኛ ሀብቶችን በሚበላበት መጠነ ሰፊ የሥልጠና እና የማጣቀሻ ስርዓቶች ውስጥ ነው። ምንጩ እነዚህ ማሻሻያዎች ወደ ፈጣን የሞዴል ስልጠና፣ ዝቅተኛ የስራ ማስኬጃ ወጪዎች ወይም የተሻለ ተጠቃሚ አገልግሎቶች እንዴት እንደሚተረጎሙ በቁጥር አይገልጽም።
ሪፖርት የተደረገው የሲሊኮን ቁጠባ የወደፊት ማፍጠኛዎች እንዴት እንደተዘጋጁም ተጽዕኖ ሊያሳድር ይችላል። እስከ 25% የሚሆነው የፕሮሰሰር ቦታ ለማህደረ ትውስታ መቆጣጠሪያ የማይፈለግ ከሆነ፣ ዲዛይነሮች ያንን ቦታ ለተጨማሪ የኮምፒዩተር ግብዓቶች ሊሰጡ ይችላሉ፣ ምንም እንኳን eTeknix ይህን የሚያደርግ የተወሰነ ቺፕ ሪፖርት ባያደርግም። እስከ 80% የሚደርሰውን ጥቅም ላይ የሚውል የሲሊኮን ጥቅል ማግኘት ይቻላል የሚለውም የንድፍ ዋና ክፍልን እንጂ የአፈጻጸም ውጤትን አይገልጽም። ተግባራዊ እሴቱ የተገኘው ከተገኘው ቦታ ምን ያህል ጥቅም ላይ እንደሚውል፣ ጥቅሉ በተመጣጣኝ ዋጋ እንደቀጠለ እና ማህደረ ትውስታው በሚፈለገው መጠን ሊመረት ይችል እንደሆነ ይወሰናል።
የስታንዳርድራይዜሽን እቅድ አስፈላጊ ነው ምክንያቱም የላቀ ማህደረ ትውስታ ጠቃሚ የሚሆነው ፕሮሰሰሮች፣ ማሸጊያዎች፣ ፈርምዌር እና የማምረቻ ሂደቶች አንድ ላይ ሲሰሩ ብቻ ነው። eTeknix እንደዘገበው Nvidia ብዙ የማስታወሻ ሰሪዎች የጋራ የ NVHBM ዝርዝር መግለጫን እንዲደግፉ ይፈልጋሉ፣ ይህም በ NVLink Fusion በኩል ብጁ ማፍጠኛዎችን ለሚገነቡ ኩባንያዎች የውህደት ስራን ሊቀንስ ይችላል። የታቀደው የAmazon ግንኙነት Trainium4 በመጨረሻ ከNvidia አውታረመረብ ወይም አፋጣኝ መሠረተ ልማት ጋር ከተጣመረ ከNvidia የራሱ ጂፒዩዎች በላይ ያለውን ጠቀሜታ ያራዝመዋል። አሁንም፣ የቀረበው ሪፖርት ከሚገልጸው የወደፊት Amazon ጉዲፈቻ ባለፈ ከተሰየሙ የማህደረ ትውስታ አቅራቢዎች፣ ከተጠናቀቀ የተግባቦት ሙከራ ወይም ከደመና ደንበኞች ቃል ኪዳኖችን አይመዘግብም።
ስለዚህ ታሪኩ ከአዲስ የማስታወሻ መለያ የበለጠ ያሳስባል። ንብርብሩን ከተያያዘው ምህዳር እና ከAmazon ፕሮሰሰር ፍኖተ ካርታ ጋር በማገናኘት አስፈላጊ የሆነውን የ AI ሃርድዌር ቁልል ለመቅረጽ መሞከሩን Nvidia ይገልጻል። ያ ብጁ AI ሲስተሞች እንዴት እንደተገነቡ እና Nvidia ምን ያህል ቁጥጥር በዙሪያው ባሉ ክፍሎች ላይ እንደሚቆይ ላይ ተጽእኖ ሊያሳድር ይችላል። የህዝቡ ተጽእኖ የሚጠበቅ ነው፡ ጽሑፉ NVHBM የሚገኘውን የደመና አቅም፣ የአፋጣኝ ዋጋ፣ የሃይል ፍጆታ ወይም የ AI አገልግሎቶችን ተደራሽነት እንደለወጠ ምንም ማረጋገጫ አይሰጥም።
በይነተገናኝ ሜካኒዝም፡ በትክክል እንዴት እንደሚሰራ
ከዚህ ልማት በስተጀርባ ያለውን ቴክኖሎጂ በይነተገናኝ ያስሱ።
Which component of an AI application is the machine-learning model itself?
ቀጥሎ ምን እንደሚታይ
ዋነኞቹ የማይታወቁት የንግድ መገኘት፣ የአምራች አጋሮች፣ ገለልተኛ የአፈጻጸም ሙከራ እና የማሰማራቱ ጊዜ ናቸው። eTeknix Amazon ወደፊት Trainium4 ውህደት አቅዷል እና Nvidia 2028 Feynman የመጀመሪያ ይጠብቃል ይላል ነገር ግን የቀረበው ሪፖርት ወይ ምርት እየተላከ ነው ወይም የይገባኛል ጥያቄው ጥቅማጥቅሞች በተናጥል መረጋገጡን አያረጋግጥም።
መታየት ያለበት የመጀመሪያው እትም Nvidia ሙሉ የNVHBM መግለጫ ያትማል እና ገለልተኛ የሃርድዌር ተንታኞች ወይም ደንበኞች ሪፖርት የተደረገውን የመተላለፊያ ይዘት እና የሃይል አሃዞችን ይሞክራሉ። የቀረበው ሪፖርት ከHBM4E ጋር ንፅፅሮችን ይሰጣል ነገር ግን የስራ ጫናን፣ የማስታወስ ችሎታዎችን፣ የስራ ሁኔታዎችን ወይም የመለኪያ ዘዴዎችን አይገልጽም። እነዚያ ዝርዝሮች ከሌሉ፣ መቶኛዎቹ ለተወሰነ ሞዴል ወይም የውሂብ ማዕከል የገሃዱ ዓለም ትርፍን ለመተንበይ ጥቅም ላይ ሊውሉ አይችሉም። ገለልተኛ ሙከራ ማሻሻያዎቹ በሰፊው ተፈጻሚ መሆናቸውን ወይም በጥንቃቄ ለተመረጡ ውቅሮች ብቻ ያብራራል።
ሁለተኛው ጉዳይ የአቅርቦት እና የመተጋገዝ ሁኔታ ነው. በ eTeknix እንደተዘገበው የNvidia የተገለጸው ዕቅድ NVHBMን በተለያዩ የማህደረ ትውስታ ሰሪዎች ላይ ደረጃውን የጠበቀ እንዲሆን ማድረግ ነው፣ ነገር ግን ጽሑፉ ተሳታፊ አቅራቢዎችን ስም አይገልጽም ወይም የምርት ጊዜን አይለይም። የወደፊት ጉዲፈቻ እነዚያ ኩባንያዎች ተኳሃኝ ክፍሎችን በድምጽ በማምረት እና የማሸግ አቅሙ ከ AI አፋጣኝ ፍላጎት ጋር መጣጣም ይችላል በሚለው ላይ ይወሰናል። እንዲሁም ብጁ-አፋጣኝ አጋሮች በNvidia-ተኮር በይነገጽ ወይም የምስክር ወረቀት ሂደቶች ላይ የበለጠ ጥገኛ ሳይሆኑ ዲዛይኑን መጠቀም ይችሉ እንደሆነ ለማየት አስፈላጊ ይሆናል።
ሦስተኛው ጉዳይ የተዘገበው የምርት ፍኖተ ካርታ ጊዜ ነው። eTeknix Amazon NVHBM እና NVLink ከወደፊት Trainium4 ፕሮሰሰር ጋር ለማዋሃድ እቅድ እንዳለው እና Nvidia ቴክኖሎጂው ከFeynman GPUs ጋር በ2028 እንዲታይ ይጠብቃል።ሪፖርቱ Trainium4 መቼ እንደሚጀመር አይገልጽም፣ የሁለቱ ኩባንያዎች ምርቶች በአንድ ላይ እንደሚገኙ ወይም 202 ተቋሙ 202 እንደሆነ ይጠበቃል። እነዚያ ቀኖች አሁን ካለው ተገኝነት ይልቅ ወደፊት የሚመለከቱ ዕቅዶች ሆነው መወሰድ አለባቸው።
በመጨረሻም፣ አንባቢዎች ለትክክለኛው የማሰማራት ውጤቶች ማስረጃዎችን መመልከት አለባቸው፡ በስርአት ደረጃ ዝቅተኛ የሃይል አጠቃቀም፣ ለተወሰኑ የኤአይአይ የስራ ጫናዎች ከፍተኛ ፍሰት፣ የፍጥነት መጠጋጋት ለውጦች ወይም የጥቅል ውስብስብነት መቀነስ። ከእነዚህ ውጤቶች ውስጥ አንዳቸውም በዚህ ጽሑፍ አልተመሰረቱም። ትርጉም ያለው የማይታወቁ ነገሮች ዋጋን፣ ምርትን፣ የሙቀት ባህሪን፣ የማስታወስ አቅምን፣ ከነባር ስርዓቶች ጋር መጣጣምን እና የሌሎች አቅራቢዎች ተፎካካሪ መሰረት-ዳይ ዲዛይኖች ገበያ ላይ የሚደርሱበትን መጠን ያካትታሉ። እነዚያ ጥያቄዎች እስኪመለሱ ድረስ፣ NVHBM የዘገበው የሃርድዌር አቅጣጫ ነው፣ ነገር ግን ተግባራዊ ጥቅሙ ያልተረጋገጠ ነው።