輝達為何認為傳統電訊號在銅纜中傳輸會對AI基礎設施構成瓶頸？

Question

Accepted Answer

傳統資料中心傳輸方案的局限性

傳統資料中心仰賴大量的銅纜和可插拔光模組進行數據傳輸。然而，隨著人工智慧模型規模持續擴大，高效能運算需求急遽增加，傳統方案在傳輸距離、延遲和能源效率等方面的局限性日益顯著，已難以滿足AI基礎設施的需求。因此，輝達積極尋求更先進的解決方案，以突破這些瓶頸。

AI運算對資料傳輸速度的需求提升

AI運算對資料傳輸速度和效率有著極高的要求。傳統的電訊號在銅纜中傳輸方式，在長距離傳輸時會產生訊號衰減和延遲，進而影響整體系統效能。此外，隨著數據中心規模不斷擴大，銅纜的使用量也隨之增加，導致能源消耗和散熱問題更加嚴重。為了解決這些問題，輝達大力投資光學與互連技術，期望透過光訊號傳輸來提升資料傳輸效率，降低延遲並提高能源效率。

CPO技術縮短訊號傳輸距離的優勢

輝達積極發展共封裝光學元件（CPO）技術，其核心優勢在於將光學元件直接整合到GPU封裝中。這種設計大幅縮短了訊號傳輸距離，從而顯著降低延遲並提高能源效率。相較於傳統的可插拔光學元件主要透過電訊號傳輸，CPO技術能夠更有效地處理大規模AI模型所需的高速數據傳輸，為AI基礎設施提供更強大的支持。

供應鏈需協同發展以應對技術挑戰

輝達要實現其光子算力帝國的願景，需要與供應鏈夥伴緊密合作，共同推動技術創新。這包括在材料、設計、製造和封裝等各個環節的協同發展。例如，輝達可能會與晶片製造商合作，共同開發適用於CPO的GPU晶片；與封裝測試廠合作，優化CPO的封裝工藝；與材料供應商合作，開發更高性能的光學材料。這種協同發展模式，有助於加快技術的成熟和應用，同時也能確保供應鏈的穩定性和可靠性。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

輝達為何認為傳統電訊號在銅纜中傳輸會對AI基礎設施構成瓶頸？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友