Claude Fable 5 模型，為何會將高風險領域問題轉給 Claude Opus 4.8 回應？

Question

Accepted Answer

Claude Fable 5 模型安全機制旨在防止潛在濫用

Claude Fable 5 模型在處理網路安全和生物科技等「高風險領域」的問題時，會自動切換至 Claude Opus 4.8 模型進行回應。此一安全措施的設計初衷，是為了防止其「Mythos 級」模型，例如 Claude Fable 5 本身，被惡意利用來攻擊關鍵基礎設施，進而造成廣泛的社會危害。
預防關鍵基礎設施遭受攻擊

Anthropic 公司為應對「Mythos 級」模型潛在的風險，特別啟動了「Project Glasswing」計畫，並與亞馬遜 AWS、蘋果、Alphabet、思科、微軟及摩根大通等科技與金融巨頭展開合作。透過向這些夥伴提供 Mythos Preview 的早期存取權，旨在共同識別並修補潛在的軟體漏洞。Claude Fable 5 模型在回應網路安全和生物科技等敏感議題時，若偵測到相關的查詢，便會將處理權轉移至 Claude Opus 4.8 模型，此舉是為了確保高風險資訊的處理符合安全規範，避免模型能力被用於不當用途，進而影響到關鍵基礎設施的穩定性。
嚴謹的安全測試與漏洞懸賞計畫

為確保此安全機制的有效性，Anthropic 公司進行了大規模的內部測試，以驗證使用者是否能成功誘使 Fable 5 模型提供不應發布的內容。此外，公司還舉辦了外部漏洞懸賞計畫，投入超過 1,000 小時的測試時間，並邀請外部機構嘗試繞過模型防護機制。儘管這些測試旨在尋找通用的越獄方法，但迄今為止，並未發現能全面破解模型安全限制的有效途徑，顯示出該安全機制的堅固性。
Mythos 級模型定位與風險控管

Claude Fable 5 模型被歸類為 Anthropic 的首款「Mythos 級」系列模型，這意味著其潛在能力可能較為強大，但也伴隨著更高的風險。與僅限特定機構使用的 Mythos Preview 不同，Claude Fable 5 的開放大眾使用，使得其安全機制的設計尤為重要。透過將高風險領域的查詢轉移至 Claude Opus 4.8 模型，Anthropic 旨在達成商業化應用與風險控管之間的平衡，確保其先進 AI 技術能被負責任地使用，避免對社會造成潛在的負面影響。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Claude Fable 5 模型，為何會將高風險領域問題轉給 Claude Opus 4.8 回應？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友