RSI 成為新的 AGI，同樣難以明確定義

「遞迴」一詞已成為人工智慧領域的最新熱門詞彙。 已有兩家截然不同的新創公司以此作為公司名稱，而許多其他公司現在也將「遞迴自我提升」（Recursive Self-Improvement, RSI）納入其開發計畫中。就像之前的「通用人工智慧」（AGI）一樣，RSI 已成為代表人工智慧重大突破的三字縮寫——即使其確切定義仍引發一些爭議。

從本質上來說，RSI 描述的是一種能夠持續自我升級的人工智慧系統。一旦這些系統能比人類更有效地處理自我提升週期，該過程便會形成一個閉環，僅受限於可用的運算能力，而人類的介入將變得不再必要，甚至可能適得其反。

無論這是否令人不安，許多人工智慧實驗室都熱切追求著這個願景。

本月稍早，知名人工智慧研究員理查德·索徹（Richard Socher）創立了一家名為「Recursive Superintelligence」的公司，其明確使命正是 RSI。 「我們的首要目標是大規模打造真正具有遞迴性、能自我提升的超級智慧，」索徹在公司成立時向 TechCrunch 表示。「這意味著生成、實施和驗證研究構想的整個過程都將實現自動化。」

其他幾位知名研究人員也正追尋相同目標，期盼能取得突破，讓遞迴式自我提升成為現實。

其中最引人注目的是亞歷克斯·卡帕西（Alex Karpathy）——這位曾任職於特斯拉（Tesla）和 OpenAI 的傳奇人物，正透過「代理群」（agent swarms）在名為「Auto-Research」的專案中，訓練大型語言模型（LLMs）執行簡單任務。卡帕西對該專案的公開程度極高，不僅定期在推特上發布里程碑進度，更透過公開的 GitHub 儲存庫釋出基礎組件。 到目前為止，這項工作主要集中於對 GPT-2 規模的模型進行微幅改進——正如卡帕西在今年三月所指出的：「這（目前）還不是什麼新穎、突破性的『研究』」——但這已足以說服許多其他研究人員追尋 RSI 的夢想。 隨著卡帕西目前在 Anthropic 從事預訓練工作，他將有充裕的機會在更大規模上應用此概念。

由 Cohere 及 Google 前員工 Sara Hooker 共同創辦的 Adaption，近期推出了一款名為 AutoScientist 的類似工具，用於自動化前沿模型的訓練。 與卡帕西的「自動研究員」類似，該系統訓練代理以實現漸進式改進，但 Adaption 的目標是簡化全規模前沿模型的訓練流程。若這些研究人員開始推動技術前沿向前發展，該系統便可能迅速演變為與 RSI 極為接近的系統。

Disarray 創辦人 Doris Xin 的自訓練機器學習代理人在最近一場 Kaggle 競賽中斬獲 28 面獎牌，表現優於許多由人類訓練的代理人，因而引起 RSI 社群更具體的關注。在她看來，主要挑戰在於可靠性。

「我認為，若擁有無限的運算資源和無限的時間跨度，我們其實已經達到了那個境界，」辛對我說。「我想強調，這其實並非一項創新的努力，而主要是扎實的工程工作。」

尚未達標

此外，也有大量證據顯示，人工智慧產業距離真正有意義的遞迴系統（RSI）還很遙遠——且仍在努力向持懷疑態度的公眾傳達其進展。Google 執行長桑達爾·皮查伊（Sundar Pichai）在最近的一場播客訪談中，實質上也承認了這一點。

「這是一個連續體，我們確實都在取得進展，」皮查伊表示。「但人們所描述的『自我改進系統』（R.S.I.），將代表著加速發展的下一階段，並帶來諸多影響，而我們目前尚未完全達到那個境界。」

然而，這個連續體中包含了大量能夠自我改進的人工智慧系統。今年一月，Anthropic 公司負責 Claude Code 專案的首席程式設計師之一估計，其團隊「近 100%」的程式碼是由該工具撰寫的——這坦率地承認了 Claude Code 實際上是在「自行編寫」程式碼。

工程師使用 AI 工具，並不代表該工具就能取代他們——但 Anthropic 似乎也正逐漸接近取代工程師的階段。 在近期一項與 Mythos 預覽版相關的調查中，18 位 Anthropic 工程師中有 5 位認為，隨著系統的改進，此版本的 Mythos 很快就能取代 L4 級工程師——即無需監督即可處理複雜專案的中階程式設計師。

儘管如此，仍存在一些預期的弱點。

報告中寫道：「相較於 L4 級工程師，Claude 目前被報告的主要弱點包括：自主管理為期一週的模糊任務、理解組織優先順序、品味判斷、事實驗證、遵循指示，以及認識論。」

換言之，其弱點涵蓋了與自主導向相關的一切，而這正是 RSI 的基礎。但在其他所有方面，Claude 都已準備好接手。

就像之前的「通用人工智慧（AGI）」一詞一樣，人工智慧產業同樣無法告訴我們，距離展示一個具有實質意義的遞迴系統還有多遠。 去年，當喬治城大學安全與新興技術中心（CSET）召集專家小組研究 RSI 時，該小組發現評估結果存在重大分歧——有些人預測「超級智能」即將爆發，而另一些人則預期進展會較為緩慢，並最終趨於平穩。但所有人都同意，遞迴性使得未來特別難以預測。

CSET 主任、OpenAI 前董事會成員海倫·托納（Helen Toner）向 TechCrunch 表示，單純使用 AI 工具進行 AI 研究，並不足以被歸類為 RSI。「他們只是盡可能多地使用 AI 罷了，」托納告訴 TechCrunch。 「我認為這與『人工智慧自我研究』（RSI）的經典定義不同，後者真正意味著完全不需要人類介入。」

托納援引了 METR 的阿傑亞·科特拉（Ajeya Cotra）最近的一篇貼文，該文區分了 AI 接管研究之路上的不同里程碑。其中一個階段，科特拉稱為「適足性」（adequacy），將發生在所有人類都被移除後，系統仍能進行研究——即使由此產生的研究成果價值較低或效率較低。 「平起平坐」是指純人工智慧系統在研究表現上與純人類系統不相上下。「至高無上」則是最後階段，指純人工智慧系統的表現超越人類與人工智慧協作系統。

最終，科特拉總結指出，人工智慧已非常接近「適足性」門檻，能夠自行產出某些成果——這與卡帕西（Karpathy）的「自動研究」（Auto-Research）系統所帶來的漸進式變化相似。 「若你告訴我這個里程碑已經達成，我也不會太驚訝，而且我預期這將在未來幾年內發生，」科特拉寫道。

對於「平起平坐」何時會實現，她雖不甚確定，但她相信一旦達成，將「大幅加速人工智慧的進展步伐，並在一年內實現人工智慧研究上的「至高無上」。」

前路坎坷

鑒於人工智慧有很大一部分是建立在擴展定律之上的，人們往往傾向於假設 RSI 也會遵循相同的曲線。托納認為，許多透過 RSI 進行人工智慧研發的人「將其視為一座相當平滑的梯子，可以不斷向上攀登。」

但即使人工智慧研究人員能像卡帕西（Karpathy）的自動研究系統那樣實現漸進式改進，在將整個研究流程交由系統接管方面，仍面臨更大的挑戰。托納從計算機發展史的角度來闡述這一點：人類在將越來越多的流程交由系統處理的同時，仍從高層進行總體指導。

「我們從機器語言發展到匯編語言，再到編譯語言；你與電腦核心的距離越來越遠，」托納表示。「但在某種直覺層面上，人類仍然主導著全局。」

要突破這個範式，無論在工程技術還是價值觀對齊方面，都將面臨重大挑戰。但即使投入巨額資金，也無法獲得無限的運算能力——而人類勞動與機器智慧之間的根本權衡，將難以克服。

至於那些被描繪為世界末日般景象的完全遞迴式人工智慧系統？研究人員普遍認同的唯一一點是：就像通用人工智慧（AGI）一樣，它尚未問世。