Que s'est-il passé
Positron AI, une société qui construit des systèmes d'inférence axés sur la mémoire, a levé 875 millions de dollars lors d'un cycle de financement de série C pour une valorisation post-financement de 5 milliards de dollars. Le financement sera utilisé pour faire évoluer les systèmes d'inférence axés sur la mémoire de l'entreprise, y compris la rampe de production de son système d'inférence de nouvelle génération, Titan, et l'enregistrement de son silicium de nouvelle génération, Asimov. Asimov associera l'architecture de calcul de Positron à 288 Go à 2 304 Go de mémoire par puce, et Titan combinera quatre à huit puces Asimov en un seul système, conçu pour servir des modèles au-delà de 16 000 milliards de paramètres et des fenêtres de contexte au-delà de 10 millions de jetons dans un seul nœud.
Positron AI a levé 875 millions de dollars lors d'un cycle de financement de série C pour une valorisation post-money de 5 milliards de dollars.
Le financement sera utilisé pour faire évoluer les systèmes d'inférence axés sur la mémoire de l'entreprise, y compris la rampe de production de son système d'inférence de nouvelle génération, Titan, et l'enregistrement de son silicium de nouvelle génération, Asimov.
Asimov associera l'architecture de calcul de Positron à 288 Go à 2 304 Go de mémoire par puce, et Titan combinera quatre à huit puces Asimov en un seul système, conçu pour servir des modèles au-delà de 16 000 milliards de paramètres et des fenêtres de contexte au-delà de 10 millions de jetons dans un seul nœud.
L'architecture économe en énergie de l'entreprise permet à ses systèmes d'être déployés dans des centres de données refroidis par air ou par liquide dans différentes densités de racks, sans dépendre des chaînes d'approvisionnement limitées de HBM ou CoWoS.
Les systèmes de Positron AI sont déjà déployés à l'échelle hyperscale aujourd'hui, et la société travaille avec des partenaires clés tels que Parasail, Jump Trading et i3d.net pour alimenter leurs services d'inférence.
Détails de la source: hpcwire.com ↗
Pourquoi c'est important
Le financement permettra à Positron AI de faire évoluer ses systèmes d'inférence axés sur la mémoire, conçus pour rendre l'inférence de l'IA considérablement moins chère et plus économe en énergie. Ceci est particulièrement important dans la mesure où le centre de gravité de l’IA se déplace des modèles de formation vers leur exécution, et répondre à cette demande à grande échelle est de plus en plus limité par la capacité de mémoire, la bande passante mémoire et la puissance.
Le financement permettra à Positron AI de faire évoluer ses systèmes d'inférence axés sur la mémoire, conçus pour rendre l'inférence de l'IA considérablement moins chère et plus économe en énergie.
Ceci est particulièrement important dans la mesure où le centre de gravité de l’IA se déplace des modèles de formation vers leur exécution, et répondre à cette demande à grande échelle est de plus en plus limité par la capacité de mémoire, la bande passante mémoire et la puissance.
La technologie de Positron AI a le potentiel d'avoir un impact sur diverses industries, notamment, mais sans s'y limiter, l'industrie de l'IA, l'industrie des centres de données et l'industrie du cloud computing.
La capacité de l'entreprise à faire évoluer sa production et à répondre à la demande pour ses systèmes sera cruciale pour déterminer le succès de ses systèmes d'inférence axés sur la mémoire.
Les applications potentielles de la technologie Positron AI dans diverses industries constitueront un facteur important pour déterminer son impact sur l’industrie de l’IA.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Que regarder ensuite
L'impact des systèmes d'inférence axés sur la mémoire de Positron AI sur l'industrie de l'IA, la capacité de l'entreprise à faire évoluer sa production et à répondre à la demande pour ses systèmes, ainsi que les applications potentielles de sa technologie dans diverses industries.
L'impact des systèmes d'inférence axés sur la mémoire de Positron AI sur l'industrie de l'IA.
La capacité de l'entreprise à augmenter sa production et à répondre à la demande pour ses systèmes.
Les applications potentielles de la technologie Positron AI dans diverses industries.
La capacité de l'entreprise à déployer ses systèmes dans des centres de données refroidis par air ou par liquide avec différentes densités de racks.
La capacité de l'entreprise à travailler avec des partenaires clés tels que Parasail, Jump Trading et i3d.net pour alimenter leurs services d'inférence.