Token消耗量預計暴增10萬倍，哪些基礎設施將面臨升級挑戰？

Question

Accepted Answer

Agentic AI時代將引爆Token海嘯，現有基礎設施面臨顛覆性重塑

華為預測，至2035年，全球年度Token消耗量將激增10萬倍，其中智慧體（Agentic AI）流量將佔比逾九成。這預示著數位世界將從「以應用為中心」轉型為「以智能體為中心」，智能體將持續感知、推理、決策並與人互動，每一次任務執行都會產生龐大的Token生成與流轉。此趨勢將對現有的AI基礎設施，包括算力、網路、儲存及雲端架構，帶來前所未有的全面升級壓力。
算力架構須從單晶片走向以「超節點」為核心的高效率Token運算體系

面對指數級增長的Token需求，現有的算力架構亟需轉型。華為提出的「生產—運載—應用—防護」全鏈路智慧基礎設施，核心在於提升Token的生產與處理效率。報告指出，未來算力叢集的規模預計將擴大百倍，而智能體任務的成本預計下降千倍。關鍵的轉變在於運算架構，將從過去側重「單晶片算力」的模式，轉向以「超節點」為核心的高Token轉換效率體系。這種架構的演進旨在實現更高效的Token生成與處理，以滿足Agentic AI時代對大規模、低成本運算的龐大需求。
儲存與通訊架構需演進以支撐知識化、智慧化數據流轉

除了算力，儲存與通訊架構也將面臨嚴峻的升級挑戰。為應對Agentic AI持續推理與決策的需求，未來的儲存與記憶系統不僅要處理海量資料，更需具備因果準確與可信任的溯源能力，推動資料從單純的數據向知識與記憶層級演進。在通訊領域，AI將深度融入通訊系統，打造以使用者體驗為核心的智慧連結底座。這將支撐起大量智能體之間、以及人與智能體之間複雜且高頻的互動，確保Token能夠高效、可靠地流轉，從而實現Agentic AI的無縫運作。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Token消耗量預計暴增10萬倍，哪些基礎設施將面臨升級挑戰？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友