Coinbase執行長預計哪些AI工作將轉向廉價模型？

Question

Accepted Answer

Coinbase執行長預期絕大多數AI工作負載將轉向成本更低的模型

Coinbase執行長Brian Armstrong預測，在未來12至18個月內，高達80%的人工智慧（AI）工作負載將遷移至成本大幅降低的模型。他將此趨勢比喻為消費電子市場的發展，認為AI領域的價格下降速度甚至可能超越摩爾定律，而能源與算力將成為未來發展的關鍵瓶頸，而非模型本身的先進程度。
絕大多數工作負載轉向低成本模型

Armstrong的預測指出，AI應用將會出現明顯的市場分化。佔比重達80%的工作負載，其核心需求在於實現特定任務，而非追求極致的智能上限。這些工作負載將會被遷移至成本低99%的模型上。這意味著，隨著技術的成熟和規模化部署，AI服務的邊際成本將顯著下降，使得更廣泛的應用得以實現。這種轉變將極大程度地影響AI服務的定價和可及性，讓更多企業和個人能夠負擔和使用AI技術。
極致智能需求仍依賴前沿模型

相對地，剩餘20%對智能上限有著極致要求的任務，例如在科學研究領域尋求突破性進展，或是需要高層級的智能體協調與編排，這些高度複雜且對結果精確度要求極高的應用，仍將繼續運行在最前沿、最先進的模型上。這些模型雖然成本較高，但其提供的強大推理能力和對複雜問題的解決能力是目前低成本模型所無法比擬的，因此它們將在特定高端應用場景中扮演關鍵角色，推動AI技術的極限發展。
提示詞路由策略以控制成本

為了應對AI模型推理成本的指數級增長，Coinbase本身也在積極實踐其成本控制策略。公司正大力推動「提示詞路由」（prompt routing）策略，這是一種將用戶發出的AI請求，智慧地分配給最適合且成本最低的模型。透過精確的路由機制，Coinbase能夠在保持服務質量的同時，有效控制總體營運成本，即使在處理大量請求和指數級增長的Token用量情況下，也能維持相對穩定的支出。這種策略顯示出企業在AI應用落地時，對成本效益的重視與積極的應對措施。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Coinbase執行長預計哪些AI工作將轉向廉價模型？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友