黃仁勳與OpenAI的AGI論點，DeepMind為何認為言之過早？

Question

Accepted Answer

DeepMind駁斥AGI已至論點，指出當前模型距離廣泛經濟價值仍有差距

Google DeepMind共同創辦人Shane Legg明確反駁輝達執行長黃仁勳與OpenAI總裁Greg Brockman關於「通用人工智慧（AGI）已經到來」的論斷，認為儘管最新的AI模型如Astra展現了令人矚目的能力，但其是否能執行大多數具經濟價值的認知工作，這項關鍵指標，仍有待驗證。Legg指出，根據OpenAI自身對AGI的定義，即系統具備執行廣泛經濟價值認知工作的能力，Astra的表現尚未完全符合此標準，因此現階段宣布進入AGI時代尚屬過早。
模型能力與AGI定義的落差

黃仁勳以Astra處理特定任務的表現作為AGI已誕生的證據，而Brockman也將最新模型的發布視為進入AGI時代的標誌。然而，Legg進一步闡述，Astra雖能完成「令人驚嘆」的任務，但其是否具備廣泛執行「具經濟價值認知工作」的能力，這正是OpenAI自己設定的AGI核心門檻，目前仍不明朗。DeepMind對AGI的定義更為宏觀，認為AGI應具備人類大腦的所有認知能力，這意味著其應用潛力與通用性必須達到相當高的水平，而非僅限於特定領域的突破。
安全性與透明度成為關鍵考量

Legg同時強調，儘管他認為AGI尚未實現，但AI能力的飛速提升已構成潛在風險，安全機制的發展絕不能落後於技術進步。他提及Anthropic執行長Dario Amodei提出的放慢前沿模型發布節奏的建議，認為此方向值得深入探討，尤其是在激烈的市場競爭下，業者可能缺乏提升模型透明度的誘因。DeepMind的研究員Rohin Shah與Anca Dragan便批評OpenAI快速推出GPT-6 Astra，暴露了模型推理過程透明度下降的趨勢，這可能需要透過監管來加以改善，確保AI技術朝向更安全、可理解的方向發展。
DeepMind Institute的成立與對AGI的長遠觀點

為應對AGI帶來的深遠影響，Legg宣布成立DeepMind Institute，旨在深入研究AGI對科學、教育、社會、政策、哲學以及人類福祉的潛在衝擊。此舉顯示DeepMind著眼於AGI的長期發展與社會整合，而非僅追求技術上的率先突破。Legg個人對實現「最低限度AGI」的預測，仍維持在2028年前有約50%的機率，這反映了他對AGI發展路徑的謹慎態度，並將焦點置於確保技術朝向正確且有益於人類的方向前進，而非僅僅是誰能第一個宣稱AGI的到來。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

黃仁勳與OpenAI的AGI論點，DeepMind為何認為言之過早？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友