技術指南

GPU 記憶體管理和碎片

AI 框架如何分配、重用和回收 GPU 上的有限內存,以及為什麼即使技術上還有大量內存,剩餘間隙(碎片)也會導致內存不足錯誤。

聆聽此指南AI 語音敘述 · ~2 min

本頁閱讀時間約2分鐘
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. GPU 記憶體管理和碎片的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

理解它是擬合大型模型和避免神秘崩潰的關鍵。

深入探討

GPU 記憶體是固定且寶貴的:一張卡可能總共有 24、80 或 192 GB,由模型權重、啟動、梯度、最佳化器狀態和臨時緩衝區共享。呼叫驅動程式在每個操作上分配記憶體會很慢,因此像 PyTorch 這樣的框架使用快取分配器,預先獲取大塊並分發子塊,然後將釋放的區塊保留在池中以供重用。問題是碎片:當分配和釋放不同大小的張量時,可用空間會分成分散的區塊。您總共可以有 5 GB 空閒空間,但無法分配連續的 2 GB 張量,因為沒有一個間隙足夠大。這就是為什麼儘管看似有可用空間,訓練仍可能因記憶體不足錯誤而崩潰。

現實世界的實施

培訓團隊在測試可變批次工作負載的可擴展段之前檢查分配器統計資料。

開發人員使用 memory_summary 和記憶體快照來研究活動張量和非活動分割區塊。

推理團隊使用 vLLM 的分頁 KV 快取管理來減少快取分配浪費。

在確認即時張量記憶體是限制因素後,訓練團隊會降低大量大小或檢查點啟動。

GPU 記憶體管理和碎片的未來

受作業系統的啟發,記憶體管理變得更加智慧和分頁。虛擬記憶體式分配器和分頁注意力(用於在推理過程中管理 KV 快取)等技術可顯著減少浪費和碎片。期望框架預設使用可擴展、碎片整理的分配器,透過內建分析器獲得更好的可見性,以及與卸載和重新計算的更緊密耦合,以便系統自動處理 GPU、CPU 和磁碟內存,以保持高利用率並很少發生崩潰。

付諸實踐

為什麼這很重要

  • 成本與預算. 多年來,架構決策決定著效能和營運成本。
  • 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
  • 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。

留意

  • 優化一項基準測試可以隱藏更廣泛的系統弱點。
  • 基礎設施和維護成本常常被低估。
  • 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。

後續步驟

  1. 在實施之前定義延遲、品質和成本目標。
  2. 在實際負載和資料條件下進行基準測試。
  3. 儀器監控錯誤、漂移和使用者影響。
  4. 在擴展之前準備回滾和事件回應路徑。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the GPU Memory Management and Fragmentation quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是 GPU 記憶體管理和碎片?

AI 框架如何分配、重用和回收 GPU 上的有限內存,以及為什麼即使技術上還有大量內存,剩餘間隙(碎片)也會導致內存不足錯誤。理解它是擬合大型模型和避免神秘崩潰的關鍵。

什麼是 GPU 記憶體碎片?

碎片意味著總的可用記憶體是足夠的,但是它被分成了碎片,因此沒有一個間隙對於大張量來說足夠大。

為什麼像 PyTorch 這樣的框架使用快取記憶體分配器?

為每個操作呼叫 cudaMalloc/cudaFree 的速度很慢,因此快取分配器會抓取大塊並重複使用池中釋放的區塊。

儘管明顯未使用保留內存,但 CUDA 分配仍失敗。開發商該調查什麼?

分配器統計資訊和快照有助於區分碎片與即時張量或其他分配。錯誤本身並不能證明單一原因。

可以測試哪個 PyTorch 分配器選項來測試大小變化的工作負載,從而留下未使用的記憶體?

可擴展的段可以減少所選分配模式的浪費。可用性和效益取決於分配器配置和工作負載。

vLLM 的 PagedAttention 如何減少推理過程中的記憶浪費?

PagedAttention 將 KV 快取儲存在固定大小的頁面(如作業系統虛擬記憶體)中,從而減少碎片並有效地服務許多請求。