黃仁勳支持吹哨者，但為何不認同AI毀滅人類預測？

Question

Accepted Answer

黃仁勳區分內部警示與末日預言，強調AI發展的務實風險管理

黃仁勳對於AI發展抱持務實態度，他明確區分了企業內部揭露潛在技術失控的警示，與AI將導致人類滅亡的預測。他支持「吹哨者」提出警告，認為這顯示了AI公司內部對技術風險的嚴肅思考，這種內部警示若導致公司暫停或放慢開發腳步，是負責任的表現；然而，他認為將AI發展與「人類滅亡」直接掛鉤的預測，缺乏足夠的科學證據支持，更像是科幻小說的想像。
吹哨者揭露的是可控風險，末日預言則是難以驗證的極端情境

黃仁勳讚揚了如前Anthropic研究員Jacob Coxon這類願意發聲的內部人士，因為他們所揭露的問題，是AI公司在轉型為工程組織過程中，實際可能遭遇的技術挑戰與風險。這類風險，儘管艱難，但仍有機會透過放慢開發步調來加以管控。相反地，像Coxon聲稱的「AI可能在2030年前毀滅全人類」的預測，黃仁勳認為這與揭露公司內部實際面臨的技術失控問題是兩回事。他坦言自己並不清楚Coxon在Anthropic內部究竟看到了什麼具體情況，但對於未經科學驗證、預設極端災難性後果的預測，他持保留態度。
預測災難可能阻礙AI安全技術的市場發展

黃仁勳更進一步指出，過度渲染AI末日論，可能產生意想不到的市場後果。他曾在高盛會議上暗示，這種對AI潛在風險的廣泛擔憂，反而可能為資安產業創造龐大的市場需求。當公眾對AI安全感到極度恐懼時，對能夠「解決」這些問題的資安產品便會趨之若鶩，形成市場狂熱。然而，黃仁勳的擔憂在於，這種因恐懼而生的需求，可能分散了對真正能讓AI變得更安全的技術的投資與關注，甚至阻礙了這些必要技術的市場化發展。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

黃仁勳支持吹哨者，但為何不認同AI毀滅人類預測？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

2

0

0

分享給好友