AI 推理需求增長，CPU 在其中扮演哪些被低估的角色？

Question

Accepted Answer

AI 推理需求增長時，CPU 在資料處理、工作流協調與強化學習等環節扮演關鍵但被低估的角色

隨著 Agentic AI 興起，企業對 CPU 的需求顯著上升，英特爾執行長陳立武指出過去四週多位企業執行長「親自打電話來要更多貨」，且部分產品供貨已出現緊張。這種需求回流並非只為了大模型訓練而來，而是因為 AI 應用逐步轉向推理、自動化任務編排與多智能體協同後，CPU 在資料處理與流程控制層面的價值被重新放大。
資料處理不只在 GPU，Agentic AI 把 CPU 變成前端與中樞

陳立武明確點出，市場過去兩年聚焦在用於大模型訓練的 GPU，但在推理與自動化任務編排階段，CPU 的「資料處理」與「工作流協調」角色更容易被忽略。當系統需要把輸入資料轉成可用狀態、在不同任務之間搬運與整合上下文時，CPU 便成為承接資料流與狀態管理的主要運算資源，這解釋了為何推理端的需求也能帶動 CPU。
工作流協調與任務編排，決定了推理系統的節奏與可靠性

Agentic AI 的任務不是單次推理就結束，而是要在強化學習與任務編排過程中持續調度資源。陳立武指出，Agentic AI 在強化學習與任務編排過程中「高度依賴 CPU 資源」，因此 CPU 不只是跑某段計算，更是負責協調流程、安排執行順序，讓多智能體在同一套工作流中協同運作。
強化學習與多智能體協同把 CPU 拉進核心路徑

在強化學習情境中，系統必須反覆評估狀態、更新策略並觸發下一步任務；陳立武直接表示 CPU 在這個過程中重要性正在上升。當多智能體協同需要頻繁的狀態切換與任務重排，CPU 對工作流的支撐就會更貼近核心路徑，從而讓「AI＝GPU」的既定印象被迫讓位給 CPU、GPU、ASIC 的異質運算分工。
異質運算時代下，CPU 的地位會被放大成系統架構問題

陳立武強調未來 AI 基礎設施不會由單一晶片主導，而將進入 CPU、GPU、ASIC 協同運作的異質運算時代。這意味著 CPU 的被低估並不只是市場認知落差，而是系統架構正在重配：推理與 Agentic AI 的運作節奏，會把更多時間花在資料處理、流程協調與訓練後的決策迭代上，從而讓 CPU 需求在推理端持續成長。與此同時，IDC 預估到 2030 年全球每 10 台新部署伺服器中有 8 台基於 x86 平台運行，也讓 CPU 在資料中心的長期角色更具結構性。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI 推理需求增長，CPU 在其中扮演哪些被低估的角色？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友