Înapoi la Știri
ProdusAI Understanding briefing

Positron AI a strâns 875 de milioane de dolari seria C pentru a scala sistemele de inferență pe primul loc în memorie

Positron AI a anunțat o finanțare în Seria C de 875 de milioane de dolari, la o evaluare post-bani de 5 miliarde de dolari, pentru a-și extinde sistemele de inferență de memorie.

4 min readRead the linked source
Source-page capture accompanying Positron AI Raises $875M Series C to Scale Memory-First Inference Systems
Referință la sursăSursa înregistrată
Editor
hpcwire.com
Link sursă
hpcwire.comhttps://www.hpcwire.com/off-the-wire/positron-ai-raises-875m-series-c-to-scale-memory-first-inference-systems/
Tip sursă
Sursă conectată — starea sursei primare nu a fost stabilită.
ContextÎnțelege asta în 60 de secunde

Începeți de aici

Termeni cheie

Memorie (Memorie agent)
Context stocat pe care un agent AI îl folosește în pași sau sesiuni pentru a îmbunătăți continuitatea.
Inferență
Faza de rulare în care un model antrenat generează predicții sau rezultate.
Calcula
Resursele de procesare necesare pentru antrenarea și rularea modelelor, adesea măsurate în ore FLOPS sau GPU.
Testează-teCe este AI? Test

Ce sa întâmplat

Positron AI, o companie care construiește sisteme de inferență pentru memorie, a strâns 875 de milioane de dolari într-o rundă de finanțare din seria C, la o evaluare post-bani de 5 miliarde de dolari. Finanțarea va fi folosită pentru a scala sistemele de inferență ale companiei care folosesc mai întâi memoria, inclusiv rampa de producție a sistemului său de inferență de ultimă generație, Titan, și apariția siliciului de generație următoare, Asimov. Asimov va împerechea arhitectura de calcul a lui Positron cu 288 GB până la 2.304 GB de memorie per cip, iar Titan va combina patru până la opt cipuri Asimov într-un singur sistem, conceput pentru a servi modele dincolo de 16 trilioane de parametri și ferestre de context dincolo de 10 milioane de jetoane într-un singur nod.

Positron AI a strâns 875 de milioane de dolari într-o rundă de finanțare din seria C, la o evaluare post-bani de 5 miliarde de dolari.

Finanțarea va fi folosită pentru a scala sistemele de inferență ale companiei care folosesc mai întâi memoria, inclusiv rampa de producție a sistemului său de inferență de ultimă generație, Titan, și apariția siliciului de generație următoare, Asimov.

Asimov va împerechea arhitectura de calcul a lui Positron cu 288 GB până la 2.304 GB de memorie per cip, iar Titan va combina patru până la opt cipuri Asimov într-un singur sistem, conceput pentru a servi modele dincolo de 16 trilioane de parametri și ferestre de context dincolo de 10 milioane de jetoane într-un singur nod.

Arhitectura eficientă din punct de vedere energetic a companiei permite ca sistemele sale să fie implementate în centre de date răcite cu aer sau răcite cu lichid la densități diferite de rack, fără a depinde de lanțurile de aprovizionare HBM sau CoWoS constrânse.

Sistemele Positron AI sunt deja implementate la scară hiperscaler astăzi, iar compania lucrează cu parteneri cheie precum Parasail, Jump Trading și i3d.net pentru a-și alimenta serviciile de inferență.

Detalii sursa: hpcwire.com ↗

De ce contează

Finanțarea va permite Positron AI să-și scaleze sistemele de inferență de memorie, care sunt concepute pentru a face inferența AI dramatic mai ieftină și mai eficientă din punct de vedere energetic. Acest lucru este deosebit de important, deoarece centrul de greutate al AI se mută de la modelele de antrenament la rularea acestora, iar satisfacerea acestei cereri la scară este din ce în ce mai restrânsă de capacitatea memoriei, lățimea de bandă a memoriei și puterea.

Finanțarea va permite Positron AI să-și scaleze sistemele de inferență de memorie, care sunt concepute pentru a face inferența AI dramatic mai ieftină și mai eficientă din punct de vedere energetic.

Acest lucru este deosebit de important, deoarece centrul de greutate al AI se mută de la modelele de antrenament la rularea acestora, iar satisfacerea acestei cereri la scară este din ce în ce mai restrânsă de capacitatea memoriei, lățimea de bandă a memoriei și puterea.

Tehnologia Positron AI are potențialul de a afecta diverse industrii, inclusiv, dar fără a se limita la, industria AI, industria centrelor de date și industria cloud computing.

Capacitatea companiei de a-și scala producția și de a satisface cererea pentru sistemele sale va fi crucială în determinarea succesului sistemelor sale de inferență care folosesc mai întâi memoria.

Aplicațiile potențiale ale tehnologiei Positron AI în diverse industrii vor fi un factor important în determinarea impactului acesteia asupra industriei AI.

Interactive Mechanism

Mecanism interactiv: cum funcționează de fapt

Explorați tehnologia care stau la baza acestei dezvoltări în mod interactiv.

Document Size:128K tokens
Needle Placement Depth (Location in document):50% into text
Attention Context Buffer Map:
Target Fact (50%)
Equivalent Pages~320Standard book pages
Retrieval Accuracy99.9%Needle recall score
RAM / KV Cache5.1 GBMemory overhead
Prompt CachingActive~80% discount on reuse
Core takeaway: Million-token context windows allow querying whole codebases or legal archives in one prompt. However, KV cache memory scales with context length, making prompt caching crucial for real-time production.
Verificare interactivă a conceptului+10 Points
What is AI? Quiz

A route planner searches possible journeys using explicit rules. What does this illustrate about AI?

Ce să urmărești în continuare

Impactul sistemelor de inferență ale memoriei Positron AI asupra industriei AI, capacitatea companiei de a-și scala producția și de a satisface cererea pentru sistemele sale și potențialele aplicații ale tehnologiei sale în diverse industrii.

Impactul sistemelor de inferență ale memoriei Positron AI asupra industriei AI.

Capacitatea companiei de a-și scala producția și de a satisface cererea pentru sistemele sale.

Aplicațiile potențiale ale tehnologiei Positron AI în diverse industrii.

Capacitatea companiei de a-și implementa sistemele în centre de date răcite cu aer sau răcite cu lichid la densități diferite de rack.

Capacitatea companiei de a lucra cu parteneri cheie precum Parasail, Jump Trading și i3d.net pentru a-și alimenta serviciile de inferență.

Ghiduri și chestionare conexe

Ce este AI?ChatGPT și LLMEtica IAAgenți AIModelele AI explicateTransformatoareViitorul IAAntrenament AIPrompt EngineeringTestați ceea ce știți — încercați un test AI gratuitCăutați un termen AI în glosarul nostruUrmați instrumentul de urmărire a lansării modelului AI
Ai găsit asta util?