AI晶片需求龐大，為何多家企業能同時受益？

Question

Accepted Answer

AI 晶片產業的結構性增長，造就多贏局面

AI 運算需求的爆炸性增長，並非單一廠商獨佔的市場，而是由多層次、多面向的需求所驅動，因此包括輝達 (Nvidia) 與博通 (Broadcom) 在內的多家企業，皆能在這波浪潮中尋求成長空間。以 OpenAI 的 Astra 模型為例，其訓練階段就已動用十萬顆輝達 Blackwell GPU，且預計將有更多 GPU 投入，這顯示了模型訓練對高效能運算硬體的龐大需求。
訓練與推論的區隔，劃分出不同供應商的戰場

AI 晶片的市場區隔，主要可分為模型訓練與模型推論兩大階段，而這兩階段對晶片的需求特性與規格有所不同。輝達的 GPU 在訓練階段展現出強大的並行處理能力，成為建構大型模型不可或缺的基礎設施；另一方面，博通則透過與 OpenAI、Anthropic 等客戶合作開發客製化晶片 Jalapeno，專注於 AI 推論階段的優化，這能顯著提升模型在日常運作時的能效與成本效益。例如，Anthropic 預計將在 2027 會計年度成為博通最大的客製化晶片客戶，而 OpenAI 也將成為其第二大客戶，這說明了推論市場的龐大潛力正吸引著眾多廠商投入。
龐大的基礎設施投資，創造了持續且多元的需求

OpenAI 等領先的 AI 研究機構，為維持其在技術前沿的地位，正投入巨額資金建構與擴充其運算基礎設施。這不僅包括了訓練所需的大規模 GPU 集群，也涵蓋了推論所需的龐大硬體部署。這種對基礎設施的持續性、大規模投資，意味著市場對高效能運算元件的需求將長期存在且持續擴大。根據輝達執行長黃仁勳的說法，除了目前已投入的 GPU 外，還有額外的 40 萬顆 GPU 正在陸續部署至 OpenAI 的運算環境。這種規模化的部署，正是多個供應商得以同時受益的結構性原因。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI晶片需求龐大，為何多家企業能同時受益？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友