Project Glasswing 計劃，如何與 AWS、蘋果等巨頭合作防堵 AI 漏洞？

Question

Accepted Answer

Project Glasswing 計劃透過共享 AI 模型預覽與協作測試，強化與科技巨頭合作防堵 AI 漏洞

Project Glasswing 計劃是 Anthropic 為防止其高階 AI 模型（如 Mythos 等級模型）被濫用於攻擊關鍵基礎設施而發起的合作倡議。此計劃的核心合作夥伴包括亞馬遜 (AWS)、蘋果、Alphabet、思科、微軟以及摩根大通等業界領導者。Anthropic 在此計劃下，向這些合作夥伴提供其 Mythos Preview 版本的早期存取權限，藉此讓它們能夠先行測試模型，協助找出並修補潛在的軟體漏洞，從源頭上降低 AI 被惡意利用的風險。
聚焦於高階模型的安全防護與漏洞挖掘

該計劃特別關注於 Anthropic 最具潛力的 AI 模型，例如 Mythos 等級模型。這些模型儘管非專門為資安設計，卻展現出在尋找作業系統及網頁瀏覽器中漏洞的強大能力。透過 Project Glasswing，Anthropic 積極與 AWS、蘋果等夥伴合作，共同探索這些模型的安全邊界。這種合作模式促成了對 AI 模型安全性的深度檢視，確保其在廣泛應用前已具備足夠的防護能力，以應對複雜的潛在威脅。
Claude Fable 5 的推出與安全機制的整合

Claude Fable 5 的推出，標誌著 Anthropic 在安全考量下的模型開放策略。與僅限特定機構使用的 Mythos Preview 不同，Fable 5 向一般大眾開放，但內建了嚴格的安全機制。此模型被限制回答「高風險領域」的問題，例如網路安全和生物科技。當使用者觸及這些敏感主題時，系統會自動切換至 Claude Opus 4.8 模型進行回應，確保敏感資訊的傳遞受到控制，並防止 Fable 5 被用於獲取不當的技術知識。
嚴格的測試驗證與廣泛的漏洞懸賞

為了確保 Fable 5 的安全機制有效，Anthropic 進行了大規模的測試，包括舉辦外部漏洞懸賞計畫。該計畫累計超過 1,000 小時的測試時間，旨在誘使使用者尋找可繞過模型限制的方法。然而，測試結果顯示，並未發現任何能夠全面破解模型防禦的通用越獄方法。此外，Anthropic 也與外部機構合作進行繞過防護機制的嘗試，同樣未能成功，這進一步證實了 Fable 5 在安全上的堅固性。
合作夥伴的升級與商業定價策略

藉由 Project Glasswing 計劃，先前獲得 Mythos Preview 使用權的客戶，將直接升級至更先進的 Mythos 5 版本。在商業化方面，Anthropic 為 Claude Fable 5 和 Mythos 5 設定了明確的定價標準：每 100 萬個輸入 Token 收費 10 美元，每 100 萬個輸出 Token 收費 50 美元。此定價策略反映了這些高階模型所提供的價值，同時也與其嚴謹的安全防護措施相輔相成，共同構建一個負責任的 AI 生態系統。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

Project Glasswing 計劃，如何與 AWS、蘋果等巨頭合作防堵 AI 漏洞？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

1

0

0

分享給好友