電力不足下，雲端業者如何串聯分散GPU運算？

Question

Accepted Answer

雲端業者透過高速光纖與長距離光模組串聯分散式GPU運算

面對單一資料中心園區電力供應不足的挑戰，雲端服務提供者正採取將GPU算力分散部署於不同園區，並藉由高速光纖網路與先進光學傳輸模組將這些分散的運算資源整合為單一高效能系統。此趨勢已將光通訊的需求從機櫃內數公尺的短距離連接，大幅推升至跨越數百公里、連接不同園區甚至城市的長距離傳輸。
相干光模組成跨園區連接關鍵

隨著AI模型訓練對算力需求日益龐大，單一資料中心園區已難以滿足其龐大的電力與空間需求。為克服此瓶頸，雲端業者開始尋求已具備電力供應的工業用地、比特幣礦場或現有資料中心，將GPU伺服器分散部署。FS.COM推出的800G相干光模組，特別是傳輸距離可達500公里的產品，正是為了解決這種跨園區、跨城市資料中心互連（Data Center Interconnect, DCI）的需求而設計。這些模組採用OSFP及QSFP-DD封裝，支援乙太網路、RoCE及InfiniBand等通訊協定，能有效串聯不同地點的GPU伺服器、網路介面卡與交換器，將分散的算力整合成一個連貫的運算叢集。
長距離傳輸需求推升光網升級

分散式AI運算架構催生了對長距離光纖傳輸的龐大需求，這也讓長距離光纖、相干光模組及光傳輸設備成為AI基礎建設的新興瓶頸。根據Ciena的調查，高達95%的受訪電信業者預期，連接分散式AI運算叢集的服務將成為其重要的批發網路收入來源。更值得注意的是，88%的業者認為現有光網路亟需升級，其中有39%預計在未來12至18個月內必須完成，這顯示出市場對更高速、更長距離傳輸解決方案的迫切需求。當大型AI模型需要跨資料中心進行同步訓練時，所需的連接容量可能達到每秒數十Pb（Petabits），並同時需要數百對光纖來支撐，這進一步凸顯了長距離光纖建置及高效能光模組的重要性。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

電力不足下，雲端業者如何串聯分散GPU運算？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友