返回新聞
產業AI Understanding 簡報

AWS和NVIDIA計畫為代理和實體AI增加200萬個GPU

AWS和NVIDIA表示,他們計劃在2027年和2028年在AWS基礎設施上額外部署200萬個NVIDIA GPU,同時擴大在CPU、網路、開放模型、資料處理和機器人的合作。

5 min readRead the primary source
Primary-source image accompanying AWS and NVIDIA plan 2 million more GPUs for agentic and physical AI
主要來源文件來源記錄
出版商
nvidianews.nvidia.com
來源連結
nvidianews.nvidia.comhttps://nvidianews.nvidia.com/news/aws-and-nvidia-to-deliver-2-million-additional-gpus-and-next-generation-infrastructure-for-agentic-and-physical-ai
來源類型
主要文件-我們直接閱讀的官方公告、文件、文件或第一方頁面。
背景60 秒內了解這一點

從這裡開始

關鍵術語

RAG(檢索增強生成)
一種檢索外部知識並在推理時輸入生成的方法。
記憶體(代理記憶體)
AI 代理程式跨步驟或會話使用儲存的上下文來提高連續性。
語意搜尋
通常使用嵌入來匹配含義而不是精確關鍵字重疊的搜尋。
測試一下自己AI 代理測驗

發生了什麼事

AWS和NVIDIA宣布擴大策略合作,專注於提升人工智慧運算能力,並將更多NVIDIA的硬體和軟體與AWS服務整合。兩家公司表示,AWS 計劃於 2027 年和 2028 年在其全球基礎設施中額外部署 200 萬個 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU,包括人工智慧工廠以及代理人工智慧、科學發現、企業自動化和物理人工智慧工作負載的能力。

AWS 和 NVIDIA 表示,他們正在擴大長達 16 年的合作,以滿足他們所謂的人工智慧基礎設施不斷增長的需求。其核心承諾是,AWS 計劃在 2027 年和 2028 年期間在其全球基礎設施中額外部署 200 萬個 NVIDIA GPU。計劃中的系統包括 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU,其容量適用於涉及 AI 代理、科學發現、企業自動化和實體 AI 的工作負載。由於該公告使用將來時語言,因此它描述的是計劃的部署,而不是已完成的安裝或當前可用的庫存。

兩家公司也表示,AWS 將擴大其 NVIDIA Blackwell 容量,包括用於 Amazon EC2 G7 執行個體的 RTX PRO 4500 Blackwell 伺服器版 GPU。 NVIDIA和AWS表示,G7實例的AI推理效能是上一代G6實例的4.6倍,圖形效能是上一代G6實例的2.1倍。這些是公司新聞稿中的聲明;消息來源沒有指明比較背後的測試條件、工作負載、定價或獨立驗證。據該新聞稿稱,AWS 被描述為第一家提供由 RTX PRO 4500 加速的實例的主要雲端提供者。

更廣泛的合作涵蓋了人工智慧堆疊的多個層面。 AWS和NVIDIA表示,他們正在努力將基於NVIDIA Vera CPU的基礎設施引入AWS,與記憶體供應商合作使用NVIDIA的客製化高頻寬記憶體技術擴展、Fall Fusion,並將基於XXQAIU0QXZZric的平台與組合。他們還計劃繼續透過 Amazon Bedrock 和 Amazon SageMaker 提供 NVIDIA Nemotron 開放模型,透過 Amazon EMR 和 Amazon OpenSearchSearch 上的 NVIDIA CUDA-X 資料庫加速資料處理和索引,使用NVIDIA的實體AI平台。

來源詳情: nvidianews.nvidia.com ↗

為什麼這很重要

該公告將擴展可用於大規模人工智慧開發和部署的雲端基礎設施,但這主要是一個前瞻性計劃,而不是證明能力已經交付的證據。它還將人工智慧基礎設施與政府工作負載、企業資料處理和機器人技術聯繫起來,將合作夥伴關係擴展到 GPU 實例之外。

如果交付的話,額外的容量可能會影響組織將人工智慧專案從實驗轉向生產的速度。該版本特別圍繞代理系統和實體人工智慧進行了擴展,代理系統可能需要重複的模型來呼叫和支援資料基礎設施,而實體人工智慧可能需要模擬、培訓和驗證工作負載。它還指出了科學和企業用途,表明目標受眾超越了少數前沿實驗室。消息人士沒有確定有多少計劃容量將可供普通雲端客戶使用,也沒有確定存取權限將如何分配。

這項公告意義重大,因為它將硬體供應、雲端部署和軟體整合結合在一個商業安排中。原則上,AWS 客戶將能夠將 NVIDIA GPU 與 AWS 客製化晶片和 NVIDIA Vera CPU 一起使用,而 NVLink Fusion 可以在通用機架規模架構中連接 NVIDIA 和 Trainium 元件。兩家公司將其描述為支援異質人工智慧基礎設施的一種方式。這可能為開發人員提供更多選擇,將不同的工作負載與不同的處理器相匹配,但該來源沒有提供將混合配置與替代方案進行比較的獨立基準,也沒有解釋在它們之間移動工作負載的工程限制。

政府部分提高了公共利益的風險。 AWS和NVIDIA表示,他們計劃為美國政府建造人工智慧工廠,包括在安全的AWS基礎設施上建造10萬個GPU,用於影響等級6及以上的聯邦和國家安全工作負載。新聞稿並未提及機構、專案、部署地點、預算、時間表或這些系統將執行的具體任務。因此,它建立了明確的基礎設施承諾,而不是特定國家安全部署的證據或對其後果的評估。計劃的用途也使安全、採購監督和敏感工作負載的處理成為進一步報告的重要領域。

Interactive Mechanism

互動機制:它實際上是如何運作的

以互動方式探索這項發展背後的基礎技術。

Agent Lifecycle Stage:
1
User Intent & Planning: "Audit customer refund request #4092 and settle payment."
2
Tool Calling: Emits structured JSON call crm_get_transaction(id='4092').
3
Guardrail & Verification:🛡️ Paused: High-value action requires human operator sign-off.
4
Final Settlement: Refund recorded, email receipt dispatched, and audit log stored.
Core takeaway: An AI agent is not just a language model—it is a closed loop of planning, tool invocation, and environment feedback. Production systems require self-healing retries and strict human approval guardrails.
互動式概念檢查+10 Points
AI Agents Quiz

An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?

接下來看什麼

關鍵問題是計畫的 GPU 容量是否按計畫到達、部署在哪裡、客戶可以存取哪些內容以及成本是多少,以及公司的效能和效率主張在獨立生產使用中是否成立。該版本沒有提供詳細的實施時間表、客戶承諾、電力要求或具體的聯邦計劃。

首先,觀察 2027-2028 年目標的執行情況。除了 Blackwell Ultra、Rubin 和 Rubin Ultra 系列的名稱外,消息人士並未將 200 萬個 GPU 分解為年度里程碑、區域、資料中心網站或特定產品數量。它還沒有透露已為客戶訂購、融資、安裝或預留了多少容量。製造、包裝、網路、電力可用性以及監管或出口管制的變化可能會影響最終規模,但新聞稿沒有提供有關這些問題的項目級證據。

其次,檢查所聲稱的效率和效能是否轉換為實際工作負載。 AWS 和 NVIDIA 報告稱,某些 GPU 加速的 Amazon EMR 配置的資料處理速度提高了 3.7 倍,性價比提高了 30%,向量索引速度提高了 9 倍,而 Amazon OpenSearch 的成本僅為 ZXSearchIU 的成本。消息來源未指定資料集、基準、工作負載形狀、利用率或總營運成本。需要進行獨立測試來確定這些數字對於運行檢索增強生成、語義搜尋、大規模分析或其他生產應用程式的客戶的代表性。

最後,觀看模型、安全性和機器人零件的實際展示。新聞稿稱 Nemotron 型號將透過 Bedrock 和 SageMaker 提供,但沒有給出新型號名稱、發布日期、定價或區域可用性。據稱,Amazon Robotics 和 NVIDIA 將在仿真、合成資料生成、機器人訓練、路線優化、功能安全和真實到模擬驗證方面開展工作,但沒有公佈具體的機器人、設施、部署結果或安全評估。最重要的未知數是這些整合是否能夠按照公司描述的規模產生可衡量的客戶利益和可驗證的保障措施。

相關指引和測驗

人工智慧代理人工智慧模型解釋人工智慧培訓AI 的未來測試你所知道的—嘗試免費的人工智慧測驗在我們的詞彙表中尋找人工智慧術語關注 AI 資金追蹤器
覺得有用嗎?