Google TPU 架構演進為何從算力擴張轉向協作？

Question

Accepted Answer

Google TPU 架構演進聚焦系統級協作，以優化 AI 工作負載效率

Google TPU 架構已從過往純粹的算力擴張，轉型為強調系統級協作的新趨勢。此演進旨在更有效地應對 Agentic AI 等日益複雜的工作負載，透過硬體架構的重新定義與 CPU 角色的提升，來達成更高的效率與彈性。

最新的 TPU v8 家族展現了這種趨勢，其進一步細分為專注於高吞吐量訓練的 v8t，以及著重於低延遲與高利用率推理的 v8。在這種分工下，CPU 的角色被顯著強化，從單純的處理器轉變為系統級的協調者。它負責跨 TPU 叢集的任務調度與動態資料路由，這意味著 TPU 雖然決定了潛在的效能上限，但 CPU 的能力則直接影響了整體資源的利用率。這種架構的改變，不僅優化了 TPU 之間的互聯（ICI）設計，也大幅提升了邊緣推理與 I/O 整合的技術價值。
CPU 躍升為系統協調者，主導任務調度與路由

過往 AI 基礎設施的演進，主要聚焦於算力與記憶體的線性擴張。然而，全新的 TPU v8 家族則依據不同的工作負載需求，重新定義了硬體架構。在此新 AI 框架下，Axion CPU 的地位顯著提升，不再僅是輔助角色，而是轉變為系統級的協調者。其核心職責在於管理跨越整個 TPU 叢集的任務調度與資料路由，確保不同 TPU 單元能協同作業，最大化運算效率。
TPU 與 CPU 分工明確，決定效能上限與利用率

TPU 的設計決定了 AI 運算的效能天花板，代表其能處理的峰值運算能力。然而，在複雜且動態變化的 AI 工作負載中，CPU 的角色則變得至關重要，它決定了 TPU 資源的實際利用率。透過 CPU 的智慧調度與動態路由，能夠確保運算資源被最有效地分配給最需要的任務，避免閒置並提升整體系統的反應速度與效率。
Agentic AI 驅動硬體重塑，邊緣推理與 I/O 價值凸顯

Agentic AI 的興起，其工作負載特性要求更精細的任務分配與更即時的資料處理。這促使 Google TPU 架構進行了根本性的變革，將重心從單純的算力堆疊轉向系統級的協作與調度。此架構的演進，不僅優化了 TPU 之間的互聯（ICI）設計，更讓邊緣推理（Edge Inference）與 I/O 整合的技術價值大幅提高，以滿足分散式運算與低延遲的應用需求。
供應鏈合作深化，台廠受惠於客製化與系統整合趨勢

在此波架構演進中，台廠供應鏈扮演了關鍵角色。聯發科透過 COT（客戶擁有工具）模式，深度參與了 TPU 平台的 SerDes I/O 晶片設計，預計在 v8i 專案的帶動下，其 AI ASIC 業務將在 2026 年第四季後加速成長。創意則因應 CPU 角色的提升，成功承接了 Axion CPU 的後段設計服務專案，並鎖定了未來兩年的次世代訂單，預期在台積電先進製程的支援下，營收將迎來實質增長。
伺服器管理晶片需求擴張，信驊迎結構性成長

隨著 CPU 從單純的控制層處理器演進為系統協調者，每個伺服器節點與 TPU 托盤對於獨立管理與控制的需求急遽上升。為了確保系統的穩定性、故障隔離以及遠端除錯能力，BMC（遠端控制晶片）的部署規模正隨著系統複雜度的同步擴張。信驊作為 BMC 領域的領導廠商，受惠於出貨量與產品平均單價的雙重提升，迎來了結構性的價值增長。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Google TPU 架構演進為何從算力擴張轉向協作？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友