AI是否正在形成「打造下一代自己」的循環？

Question

Accepted Answer

AI正加速形成「打造下一代自己」的遞迴式自我改進循環

Anthropic的最新數據顯示，AI已從單純的協作者快速演進為下一代AI模型研發的主導者，截至2026年8月，Claude已主導公司內部26%的AI研發工作，較半年前的不到1%大幅躍升。此趨勢暗示著AI在自我演進方面的潛力正被逐步釋放，儘管目前仍需人類在關鍵決策與目標設定上扮演監督角色。
AI研發主導權的指數級增長

Anthropic建立的「Anthropic R&D Automation Index」量化了AI在研發過程中的參與程度，並將其分為六個層級。其中，「AI主導」定義為AI能根據高階指令，在人類監督下自行完成工作流程的多數環節。數據顯示，此類工作的比例在短短六個月內從不到1%飆升至26%，若此趨勢延續，預計在2025年底可能接近80%。這不僅體現在程式碼撰寫上，截至2026年5月，超過80%的合併程式碼由Claude撰寫，且工程師每天合併的程式碼量較2024年增長八倍，顯示AI已成為研發流程中的核心驅動力。
遞迴式自我改進的潛在路徑已現

AI協助研究、設計、測試乃至訓練新模型的循環正逐漸成形，這為「遞迴式自我改進」鋪平了道路。例如，在實驗中，Claude Mythos Preview能將用於訓練小型AI模型的程式碼最佳化，達到約52倍的速度提升。此外，AI代理人已能自行提出假設、設計實驗並分享發現，這表明AI在科研探索中的自主性正逐步增強。然而，人類研究人員仍需負責選擇研究問題與制定評分標準，顯示目前AI的自主性仍受限於既定框架，距離完全獨立的遞迴式自我改進尚有差距。
人類監督與AI自主性之間的平衡

儘管AI在研發中的參與度與主導權顯著提升，但Anthropic強調，目前距離AI完全自主地設計、訓練並推出下一代模型仍有明顯距離。Claude尚未在任何經衡量的AI研發工作中達到「完全自主」的層級，所有「主導」的工作仍有人類監督。Anthropic內部建立了嚴謹的線上及線下監控機制，分析超過10億次AI代理人決策，並將最高優先級的案例升級至人工審查，這體現了在AI快速發展的同時，對其安全與可控性的高度重視。

閱讀紀錄

隱藏 →

此記錄會在頁面關閉後消失

AI是否正在形成「打造下一代自己」的循環？

Loading

你覺得這篇文章有幫助嗎？

有幫助

沒幫助

回報問題

3

0

0

分享給好友