為何楊立昆認為 ChatGPT 這類大型語言模型缺乏對物理世界的實質理解？

Question

Accepted Answer

大型語言模型缺乏物理世界理解，源於其核心預測機制

楊立昆認為，ChatGPT 等大型語言模型 (LLM) 僅能預測下一個單詞或像素，這使其缺乏對物理世界運作規律的實質理解，因而無法構成真正意義上的全能智慧體。AMI 公司正是為了解決這一根本性問題，致力於開發能夠在複雜現實環境中進行推理與規劃的「世界模型」。
預測性學習的局限性

LLM 的訓練方式主要是基於海量文本數據，通過識別詞語之間的統計關聯性來預測序列中的下一個元素。這種模式使其擅長處理語言任務，例如生成文本、回答問題或翻譯，但這種能力本質上是模式識別與機率推斷，而非對因果關係、空間邏輯或物體交互的深刻認知。例如，LLM 可能知道「水是濕的」，但它並不理解「濕」的物理成因，或是水在重力作用下會向下流動的動力學原理。
「世界模型」的必要性

與 LLM 不同，「世界模型」的目標是構建一個能夠模擬現實世界運作的內部表徵。這意味著 AI 需要理解物體的屬性、它們之間的互動方式，以及物理定律如何約束這些互動。例如，一個具備世界模型能力的 AI，不僅知道「球會滾動」，還能理解滾動的條件（如斜坡、推力），預測滾動的軌跡，甚至推斷出如果用不同的材質製作球，其滾動特性會如何改變。這種基於對物理世界因果關係的理解，是 LLM 所欠缺的。
常識是通往真實理解的關鍵

楊立昆強調，未來的 AI 必須具備「常識」，這正是「世界模型」的核心目標之一。常識包含了大量關於世界如何運作的隱性知識，是人類在與環境互動中自然習得的。例如，我們知道玻璃杯掉到地上會碎，知道火是熱的，知道人需要呼吸。這些常識性的理解，對於 AI 在現實世界中進行有效的推理、規劃和行動至關重要。僅僅依靠語言模式學習的 LLM，難以內化這些對物理世界的基礎認知，進而限制了它們在複雜、非結構化環境中的應用潛力。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

為何楊立昆認為 ChatGPT 這類大型語言模型缺乏對物理世界的實質理解？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友