OpenAI為何不再將所有AI運算需求全數押寶在輝達(Nvidia)？

Question

Accepted Answer

OpenAI策略轉變：分散AI運算資源

OpenAI不再將所有AI運算需求全數押寶在輝達(Nvidia)，主因在於現有輝達晶片在特定應用情境下的反應速度未達理想。儘管輝達在AI模型訓練晶片市場佔據領導地位，但OpenAI對AI推論運算的需求快速增加，促使他們開始評估AMD、Cerebras和Groq等其他晶片供應商的方案。OpenAI尋求更多元的晶片供應，以支撐約一成的推論運算需求，並特別關注採用大量內嵌SRAM記憶體的晶片架構，旨在降低資料存取延遲，提升反應速度。
推論運算成為關鍵競爭力

推論運算是AI模型在實際回應用戶提問與指令時的運算過程，與模型訓練不同。OpenAI發現，輝達的硬體在軟體開發及AI與其他系統互動等需求上，反應速度不夠理想。相較之下，Anthropic與Google等競爭對手，因較多採用自家開發、專為推論設計的晶片架構，已在部分應用上展現效能優勢。因此，OpenAI亟需提升推論運算效能，以保持競爭力。
OpenAI與輝達的競合關係

OpenAI在尋找替代方案的同時，也正與輝達進行投資談判。輝達曾計畫向OpenAI投入高達1,000億美元，藉此取得股權，並協助OpenAI籌措購買先進晶片的資金。然而，OpenAI產品路線的持續調整，改變了其對運算資源的需求，進而影響與輝達的協商進度。儘管如此，輝達執行長黃仁勳否認雙方存在緊張關係，並重申輝達仍計畫對OpenAI進行大規模投資。OpenAI也表示，目前其推論運算叢集的絕大多數仍由輝達提供支援。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

OpenAI為何不再將所有AI運算需求全數押寶在輝達(Nvidia)？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友