古特雷斯將失控AI列為生存威脅，呼籲建立何種機制？

Question

Accepted Answer

古特雷斯呼籲建立AI溝通機制與共同護欄，以防安全標準逐底競爭

聯合國秘書長古特雷斯將失控的人工智慧（AI）列為與氣候危機、不平等擴大並列的人類三大生存威脅之首，並明確呼籲具備前沿AI能力的國家，應積極建立國際性的溝通機制與「共同護欄」，其核心目標在於避免AI安全標準的「逐底競爭」，確保技術發展的同時，能有效管控潛在風險，維護全球穩定。
AI安全標準的「逐底競爭」意涵深遠

古特雷斯所指的「逐底競爭」，意即各國或各企業在發展AI技術時，可能為了追求領先地位或經濟利益，而放寬甚至忽略了嚴格的安全規範與倫理準則。這種情況一旦發生，將導致AI系統的安全性不斷下降，風險累積，最終可能引發難以預測的災難性後果。例如，在自主武器的開發上，若缺乏統一且嚴格的標準，可能導致誤判與衝突升級；在深度偽造（Deepfake）技術的應用上，若無有效監管，可能被用於操縱輿論、破壞信任，甚至干擾選舉。
溝通機制與共同護欄是應對AI挑戰的關鍵

為避免上述風險，古特雷斯提出的「溝通機制」旨在促進AI領域的國家間對話與資訊共享，理解彼此的發展動態與潛在擔憂。而「共同護欄」則代表著建立一套普遍認可的、最低標準的安全與倫理規範，涵蓋AI的設計、開發、部署及監管等各個環節。這不僅能為各國提供清晰的指引，也能在國際層級形成約束力，引導AI朝向負責任且有益於人類的方向發展。儘管美國傾向於鬆綁監管、鼓勵創新，但聯合國此舉顯示了對AI潛在風險的高度重視，並試圖在自由創新與風險管控之間尋求平衡。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

古特雷斯將失控AI列為生存威脅，呼籲建立何種機制？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友