CPU記憶體與GPU記憶體在AI系統中的功能差異，為何前者可減半而後者需維持？

Question

## AI系統記憶體配置的關鍵在於計算任務的本質，而非單純的成本考量

Accepted Answer

輝達Vera Rubin NVL72系統將CPU側的系統記憶體（SOCAMM）直接砍半，同時維持GPU側的顯示記憶體（HBM4）不變，這並非偶然的成本調控，而是深刻反映了AI模型，特別是混合專家模型（MoE）在訓練與推理階段對不同類型記憶體的計算需求差異。這種配置調整的背後，是AI算力核心從通用計算轉向極致並行處理的轉型。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

CPU記憶體與GPU記憶體在AI系統中的功能差異，為何前者可減半而後者需維持？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友