AI代理工作負載若持續擴大，記憶體與HDD短缺將延續多久？

Question

Accepted Answer

AI代理工作負載擴大將引發記憶體與HDD長達五年的供應短缺

戴爾科技副總裁暨營運長Jeff Clarke預警，若AI代理工作負載持續快速成長，記憶體與硬碟（HDD）等關鍵零組件的供應短缺，可能延續超過五年。此預期與過去硬體供應緊張通常僅維持數個季度的情形截然不同，顯示AI基礎設施需求已進入一個更長期的結構性擴張階段。
AI代理推升長期硬體需求，顛覆傳統硬體循環

過往的硬體循環多半由設備更新與資本支出驅動，需求週期相對短期，通常在數個季度內恢復平衡。然而，AI代理的出現正改變這一邏輯。AI代理能夠讓認知產出與人力投入脫鉤，大幅提升企業生產力，進而持續消耗龐大的計算資源。戴爾預估，到2030年，資料中心算力將新增200吉瓦，推理Token生成量更可能增加87倍。這種由AI代理引發的指數級算力需求，將使基礎設施的整體可服務市場（TAM）持續擴大，而非僅是短期的補庫存行為。
混合部署模式擴大本地與雲端基礎設施需求

AI工作負載的擴散並非僅集中於公有雲，而是呈現混合部署的趨勢。企業將根據安全性與成本效益，在公有雲與本地環境間動態調整部署位置。以戴爾自身為例，內容相關工作負載可部署於公有雲，但專有原始碼與遙測資料則留存在自有基礎設施。開源權重模型的普及，也可能促使企業投資本地基礎設施以優化模型輸出成本。因此，AI代理帶來的龐大Token需求，將同時推動雲端與本地基礎設施的雙重擴張。
伺服器效能密度提升，但長期需求仍看漲

儘管目前傳統伺服器出貨量呈現年減，這並非代表整體需求轉弱，而是伺服器效能密度大幅提升的結果。新款伺服器運算能力已能取代多台舊型伺服器。然而，若長期推理Token需求如預期般爆炸性成長，傳統伺服器出貨量反而可能出現顯著增長。此外，AI代理在執行任務時，如保存記憶、產生工作成果等，都會持續產生龐大的資料儲存需求，尤其隨著KV快取大規模應用，儲存容量需求預期將進一步增加，記憶體與HDD的供應緊張將成為結構性問題。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI代理工作負載若持續擴大，記憶體與HDD短缺將延續多久？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

3

0

0

分享給好友