AI模型成本降幅比摩爾定律快，真正限制將是什麼？

Question

Accepted Answer

AI 產業轉向多元廉價模型，能源與算力將成發展瓶頸

AI 模型推理成本的急遽下降，正促使產業生態朝向「多模型並存」的格局演進，預期在未來 12 至 18 個月內，高達八成的 AI 工作負載將轉移至成本效益更高的模型。此趨勢顯示，相較於模型能力的精進，能源供應與算力基礎設施的擴張，將成為限制 AI 技術發展的關鍵因素。
廉價模型崛起，顛覆高成本 AI 應用

過往由科技巨頭補貼的「固定訂閱制」AI 服務正在退場，取而代之的是以實際用量計費的新商業模式。GitHub Copilot 等服務的定價轉型，已讓部分重度用戶的月費從數十美元飆升至數百美元，凸顯了 AI 推理算力的真實成本。Coinbase 執行長 Brian Armstrong 預估，高達 99% 的成本降幅將驅動八成 AI 工作負載轉向廉價模型，僅剩對極致智能要求極高的任務，如科學突破或複雜智能體編排，才會繼續使用最新的前沿模型。這與消費性電子市場的發展軌跡相似，頂級規格的產品終究是少數人的選擇。
開源模型效能躍升，加速成本結構重塑

開源模型在準確度與效率上的顯著提升，正從根本上挑戰大型閉源模型的定價能力。史丹佛大學的研究顯示，本地化、開源的小型模型在對話與推理上的準確度已從 23.2% 躍升至 71.3%，其成本與能耗卻僅為大型前沿 API 的極小部分。DeepSeek 等實驗室推出的高性能開源模型，在程式設計等基準測試中已能媲美一線大廠，但價格卻僅為其三十分之一或百分之一。這種「多模型並存」的趨勢，意味著企業除非別無選擇，否則將優先調用更經濟實惠的選項，這將加速整個 AI 產業成本格局的重塑。
能源與算力成為新賽道，考驗產業基礎建設

AI 算力成本的快速下降，促使企業積極尋求更具成本效益的替代方案，並開始採取如 Coinbase 的「提示詞路由策略」，動態將請求分配至最適合且成本最低的模型。此舉能在 Token 使用量呈指數級增長的同時，有效控制整體成本。然而，當模型本身不再是主要限制時，支撐龐大 AI 運算的能源供應與算力基礎設施，將成為下一階段發展的關鍵瓶頸。如同摩爾定律的物理極限，AI 的未來擴張將高度仰賴能源效率的提升與算力基礎設施的持續革新。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI模型成本降幅比摩爾定律快，真正限制將是什麼？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友