Anthropic研究員的辭職信如何引爆AI安全爭議？

Question

Accepted Answer

Anthropic研究員的辭職信揭示了AI發展與潛在風險間的巨大鴻溝

Anthropic研究員Jacob Coxon的辭職信，如同一記警鐘，不僅引爆了矽谷內部關於AI安全性的激烈爭議，更將長期以來僅在實驗室內部發酵的擔憂，赤裸裸地推向了公眾視野。Coxon在信中直指OpenAI和Anthropic兩家公司並未負責任地行事，正朝著可能自我改進的超級智慧（superintelligent AI）狂奔，並將人類的生命視為賭注。他強調，實驗室內部人員普遍相信AI可能在十年內導致全人類滅絕，這絕非公關辭令，而是真實的憂慮。
內部擔憂的公開化與「暫停派」的形成

Coxon的辭職信隨即引發了Anthropic負責對齊科學（AI Alignment Science）的Evan Hubinger的公開回應，後者證實了Coxon的擔憂，並估計AI在十年內殺死人類的機率可能超過10%。這一連串的內部擔憂公開化，迫使Anthropic創辦人兼CEO Dario Amodei系統性地提出了「放緩先進研究」的主張。Amodei不再僅是呼籲增加安全投入，而是明確要求主動控制AI能力躍升的速度，為安全機制的發展爭取時間。他的三步走策略，包括引入獨立評估者、推動跨公司安全標準，以及最終尋求全球協調，迅速獲得了OpenAI的Sam Altman、Elon Musk以及DeepMind的Demis Hassabis等人的響應，形成了所謂的「暫停派」。
「加速派」的反駁與監管的猶豫

與「暫停派」的謹慎態度形成鮮明對比的，是NVIDIA的CEO Jensen Huang，他堅定地站在「加速派」一邊，批評「AI末日論」缺乏科學依據。黃仁勳認為，速度與安全並非零和關係，企業應在快速推進模型開發的同時，確保產品的安全；若出現失控或安全問題，再行暫停解決。他主張企業應自行探索並共享解決方案，而非要求整個行業同步減速。這種觀點得到了部分科技公司管理層的認同，他們認為，對於負有信義義務的上市公司而言，要求全行業停滯不前，在財務和商業邏輯上都難以成立。同時，華盛頓方面，如副總統Kamala Harris，對「暫停」的呼聲也表達了質疑，認為這可能具有「特洛伊木馬」的意味，意在為部分企業製造競爭壁壘，而非純粹出於安全考量。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Anthropic研究員的辭職信如何引爆AI安全爭議？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友