Anthropic為何會被五角大廈列為「供應鏈風險」？其AI模型有哪些特點引起疑慮？

Question

Accepted Answer

五角大廈將 Anthropic 列為「供應鏈風險」的核心在於技術約束與潛在的監管真空

五角大廈將 AI 公司 Anthropic 列為「供應鏈風險」並封鎖其模型，主因並非技術上的缺陷，而是 Anthropic 堅持不讓其 AI 技術用於大規模監控或全自動武器，這與國防部現有的採購考量產生了根本性的衝突。這種由公司主動設下的倫理限制，反而被視為潛在的不可控因素，進而引發了所謂的「風險」認定。
技術約束成為國防採購的潛在障礙

Anthropic 的 AI 模型，例如 Claude 系列，其核心優勢在於「憲法 AI」(Constitutional AI) 的訓練方法。這種方法透過內建的一系列原則來約束 AI 的行為，使其避免生成有害、歧視性或違法的內容。然而，當這些原則明確排除了用於大規模監控或開發全自動武器時，這便直接挑戰了部分軍事應用場景的需求。國防部在評估供應商時，通常會考量技術的全面適用性與彈性，而 Anthropic 的倫理紅線，卻可能被解讀為限制了技術的潛在軍事用途，成為一種「不確定性」或「風險」。
潛在的監管真空與「護欄」的爭議

科技圈近 900 名員工的連署，以及 Google 首席科學家 Jeff Dean 的聲明，都指向了對軍方濫用 AI 的擔憂。員工們批評國防部對 Anthropic 的行動，認為這是試圖在公司間製造恐懼與分裂，阻止其劃定倫理界線。這種擔憂並非空穴來風，過往 Google 參與「Project Maven」及「Project Nimbus」的爭議，顯示了 AI 技術在軍事應用上的敏感性。尤其當有報導指出，部分軍方計畫如部署 xAI 的 Grok 模型時，可能「幾乎沒有護欄機制」，這加劇了業界對 AI 技術在不受約束的環境下，可能被濫用於大規模監控或侵犯公民權利的疑慮。美國政府將 Anthropic 列為「供應鏈風險」後數小時，伊朗境內爆發軍事行動的巧合，也讓這類爭議更添複雜性。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Anthropic為何會被五角大廈列為「供應鏈風險」？其AI模型有哪些特點引起疑慮？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友