Cosa è successo
Positron AI, una società che costruisce sistemi di inferenza basati sulla memoria, ha raccolto 875 milioni di dollari in un round di finanziamento di serie C con una valutazione post-money di 5 miliardi di dollari. Il finanziamento verrà utilizzato per ampliare i sistemi di inferenza memory-first dell'azienda, compresa la rampa di produzione del suo sistema di inferenza di prossima generazione, Titan, e il tapeout del suo silicio di prossima generazione, Asimov. Asimov abbinerà l'architettura di calcolo di Positron con da 288 GB a 2.304 GB di memoria per chip, mentre Titan combinerà da quattro a otto chip Asimov in un unico sistema, progettato per servire modelli oltre 16 trilioni di parametri e finestre di contesto oltre 10 milioni di token in un singolo nodo.
Positron AI ha raccolto 875 milioni di dollari in un round di finanziamento di serie C con una valutazione post-money di 5 miliardi di dollari.
Il finanziamento verrà utilizzato per ampliare i sistemi di inferenza memory-first dell'azienda, compresa la rampa di produzione del suo sistema di inferenza di prossima generazione, Titan, e il tapeout del suo silicio di prossima generazione, Asimov.
Asimov abbinerà l'architettura di calcolo di Positron con da 288 GB a 2.304 GB di memoria per chip, mentre Titan combinerà da quattro a otto chip Asimov in un unico sistema, progettato per servire modelli oltre 16 trilioni di parametri e finestre di contesto oltre 10 milioni di token in un singolo nodo.
L'architettura ad alta efficienza energetica dell'azienda consente l'implementazione dei suoi sistemi in data center raffreddati ad aria o a liquido a diverse densità di rack, senza dipendere dalle catene di fornitura HBM o CoWoS vincolate.
I sistemi di Positron AI sono già implementati su scala hyperscaler oggi e l'azienda sta lavorando con partner chiave come Parasail, Jump Trading e i3d.net per potenziare i propri servizi di inferenza.
Dettagli della fonte: hpcwire.com ↗
Perché è importante
Il finanziamento consentirà a Positron AI di ampliare i suoi sistemi di inferenza basati sulla memoria, progettati per rendere l’inferenza dell’intelligenza artificiale notevolmente più economica ed efficiente dal punto di vista energetico. Ciò è particolarmente importante in quanto il centro di gravità dell’intelligenza artificiale si sta spostando dai modelli di addestramento alla loro esecuzione, e soddisfare tale domanda su larga scala è sempre più limitato dalla capacità di memoria, dalla larghezza di banda della memoria e dalla potenza.
Il finanziamento consentirà a Positron AI di ampliare i suoi sistemi di inferenza basati sulla memoria, progettati per rendere l’inferenza dell’intelligenza artificiale notevolmente più economica ed efficiente dal punto di vista energetico.
Ciò è particolarmente importante in quanto il centro di gravità dell’intelligenza artificiale si sta spostando dai modelli di addestramento alla loro esecuzione, e soddisfare tale domanda su larga scala è sempre più limitato dalla capacità di memoria, dalla larghezza di banda della memoria e dalla potenza.
La tecnologia di Positron AI ha il potenziale per avere un impatto su vari settori, inclusi ma non limitati a, il settore dell'intelligenza artificiale, il settore dei data center e il settore del cloud computing.
La capacità dell'azienda di scalare la propria produzione e soddisfare la domanda dei suoi sistemi sarà cruciale nel determinare il successo dei suoi sistemi di inferenza basati sulla memoria.
Le potenziali applicazioni della tecnologia di Positron AI in vari settori costituiranno un fattore importante nel determinare il suo impatto sul settore dell'intelligenza artificiale.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Cosa guardare dopo
L'impatto dei sistemi di inferenza memory-first di Positron AI sul settore dell'intelligenza artificiale, la capacità dell'azienda di ridimensionare la propria produzione e soddisfare la domanda dei suoi sistemi e le potenziali applicazioni della sua tecnologia in vari settori.
L'impatto dei sistemi di inferenza memory-first di Positron AI sul settore dell'intelligenza artificiale.
La capacità dell'azienda di ampliare la propria produzione e soddisfare la domanda dei suoi sistemi.
Le potenziali applicazioni della tecnologia Positron AI in vari settori.
La capacità dell'azienda di implementare i propri sistemi in data center raffreddati ad aria o a liquido a diverse densità di rack.
La capacità dell'azienda di collaborare con partner chiave come Parasail, Jump Trading e i3d.net per potenziare i propri servizi di inferenza.