黃仁勳為何認為AI運算體系正經歷IBM System/360以來首次「重新發明」？

Question

Accepted Answer

AI 運算體系正經歷 IBM System/360 以來首次「重新發明」

輝達執行長黃仁勳指出，人工智慧（AI）的崛起並非僅是電腦中的一項新應用，而是促使整個運算體系進行根本性重塑，這堪比 IBM System/360 問世以來最重大的變革。過去數十年，運算模式的核心邏輯並未被網際網路或雲端運算撼動，但神經網路的出現徹底打破了這一格局。
神經網路顛覆傳統指令執行模式

傳統運算仰賴程式設計師編寫固定指令，處理器依序執行。此模式歷經網際網路、雲端運算及行動裝置的演進，其底層邏輯始終未曾改變。然而，神經網路的出現，讓機器不再僅是被動執行預設規則，而是能從海量資料中學習模式，並即時生成答案、影像、動作甚至程式碼。這標誌著運算從「一次性回應」轉向「持續不斷的自主工作」，例如自駕車必須即時處理複雜環境資訊並做出決策。
系統級協同設計成為效能提升的關鍵

隨著運算模式轉向 AI，單純依賴傳統晶片架構已難以提升效能。黃仁勳強調，「協同設計」（co-design）成為未來競爭的核心。這意味著演算法、AI 模型、編譯器、晶片、網路、儲存及資料中心等所有環節，必須圍繞特定工作負載進行整體最佳化。此理念將硬體與軟體深度整合，例如輝達透過跨軟硬體的協同設計，在過去十年讓部分 AI 工作負載的運算能力提升了約一百萬倍，遠超摩爾定律的增長幅度。
評估 AI 價值應聚焦實際產出，而非硬體利用率

黃仁勳質疑過度追求模型浮點運算利用率（MFU）的指標。他認為，AI 運算平台的效能受多重因素影響，包括顯示記憶體頻寬、容量、網路互連與儲存系統等。單純追求高 MFU 可能忽略了系統瓶頸，反而降低整體任務效率。因此，評估 AI 基礎設施的關鍵，不應是設備的使用率，而是其在特定能耗下能產生多少有價值的 AI 成果，例如「每瓦可生成的 Token 數」，這更能貼近實際業務效益。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

黃仁勳為何認為AI運算體系正經歷IBM System/360以來首次「重新發明」？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友