RSI 已成为新的 AGI，同样难以定义

“递归”一词已成为人工智能领域的最新热词。 已有两家各具特色的初创公司将其作为公司名称，还有许多其他公司现在也在其开发计划中提及“递归自我改进”（RSI）。与之前的“通用人工智能”（AGI）类似，RSI已演变为代表人工智能重大突破的三个字母缩写——尽管其确切定义仍存在一些争议。

从本质上讲，RSI描述的是一种能够持续自我升级的人工智能系统。一旦这些系统能够比人类更有效地处理改进周期，该过程便会形成一个闭环，仅受可用计算能力的限制，而人类的参与将变得不再必要，甚至可能适得其反。

无论这种愿景是否令人不安，许多人工智能实验室都热切地希望实现它。

本月早些时候，著名人工智能研究员理查德·索彻（Richard Socher）创立了一家名为“递归超级智能”（Recursive Superintelligence）的公司，其明确使命正是RSI。 “我们的主要目标是构建真正具有递归性、能够自我改进的大规模超级智能，”索彻在公司成立时对TechCrunch表示，“这意味着生成、实施和验证研究想法的整个过程都将实现自动化。”

其他几位杰出研究人员也在追寻同一目标，希望实现突破，让递归式自我改进成为现实。

其中最引人注目的是亚历克斯·卡帕西（Alex Karpathy）——这位曾效力于特斯拉和OpenAI的传奇人物，正在通过一个名为“Auto-Research”的项目，利用智能体群来训练大型语言模型（LLMs）完成简单任务。卡帕西对该项目保持着不同寻常的透明度，定期在推特上发布里程碑进展，并通过公开的GitHub仓库提供构建模块。 到目前为止，这项工作主要集中在对一个GPT-2规模的模型进行微小改进——正如卡帕西今年3月所指出的，“这（目前）还不是新颖、具有突破性的‘研究’”——但这已经足以说服许多其他研究人员去追求RSI的梦想。 随着卡帕西目前在Anthropic从事预训练工作，他将有充足的机会在更大规模上应用这一概念。

由Cohere和谷歌前员工萨拉·胡克（Sara Hooker）创立的Adaption公司，最近推出了一款名为AutoScientist的类似工具，用于自动化前沿模型的训练。 与卡帕西的“自动研究者”类似，该系统通过训练代理实现渐进式改进，但Adaption的目标是简化全规模前沿模型的训练过程。如果这些研究人员开始推动技术前沿向前发展，该系统可能会迅速演变为一种非常接近RSI的系统。

Disarray创始人多丽丝·辛（Doris Xin）的自训练机器学习代理在最近的Kaggle竞赛中斩获28枚奖牌，表现优于许多由人类训练的代理，从而引起了RSI领域的更具体关注。在她看来，主要挑战在于可靠性。

“我认为，如果拥有无限的计算能力和无限的时间跨度，我们其实已经达到了那个水平，”辛对我说，“我想强调的是，这其实并不是一项创造性的工作，而主要是扎实的工程实践。”

尚未达到

此外，大量证据表明，人工智能行业距离真正有意义的递归系统还很遥远——而且仍在努力向持怀疑态度的公众传达其进展。谷歌首席执行官桑达尔·皮查伊在最近的一期播客采访中基本上承认了这一点。

“这是一个连续体，我们无疑都在取得进展，”皮查伊表示，“但人们所描述的递归自改进系统（R.S.I.），将代表着一个具有深远影响的加速新阶段，而我们尚未完全达到这一水平。”

然而，这个连续体中包含了大量能够自我改进的人工智能系统。今年1月，Anthropic公司负责Claude Code项目的首席程序员之一估计，其团队“接近100%”的代码是由该工具编写的——这坦率地承认，Claude Code实际上是在“自我编写”。

工程师使用AI工具并不意味着该工具就能取代他们——但Anthropic似乎也正逐渐接近取代工程师的阶段。 在最近一项与Mythos预览版相关的调查中，18名Anthropic工程师中有5人认为，随着性能的提升，这一版本的Mythos很快就能取代一名L4级工程师——即无需监督即可处理复杂项目的中级程序员。

尽管如此，一些预期的弱点依然存在。

“与L4工程师相比，Claude被报告的一些主要弱点包括：自主管理为期一周的模糊任务、理解组织优先级、审美判断、事实核查、遵循指令以及认识论，”报告中写道。

换言之，其弱点涵盖了与自主决策相关的方方面面，而这正是RSI的基础。但在其他所有方面，Claude都已准备好接手。

就像之前的“通用人工智能（AGI）”这一术语一样，人工智能行业也无法告诉我们，距离展示一个有意义的递归系统还有多远。 去年，当乔治城大学安全与新兴技术中心（CSET）召集专家组研究RSI时，发现评估结果存在重大分歧——一些人预测“超级智能”即将爆发，另一些人则预计进展会较为缓慢，最终趋于平稳。但所有人都一致认为，递归性使得未来尤为难以预测。

CSET主任、OpenAI前董事会成员海伦·托纳（Helen Toner）向TechCrunch表示，仅仅使用AI工具进行AI研究，还不足以被视为RSI。“他们只是尽可能多地使用AI，”托纳告诉TechCrunch。 “而我认为这与RSI的经典定义不同，经典定义真正意味着无需人类参与。”

托纳援引了METR的阿杰亚·科特拉（Ajeya Cotra）最近的一篇帖子，该帖子区分了AI研究接管进程中的不同里程碑。其中一个阶段，即科特拉所称的“充分性”（adequacy），是指当所有人类都被移除后，系统仍能进行研究——即使由此产生的研究价值或效率较低。 “平起平坐”阶段是指纯AI系统在研究能力上与纯人类系统相当。“至高无上”作为最终阶段，则指纯AI系统在表现上超越了人类与AI协作的系统。

最终，科特拉得出结论：人工智能已非常接近“充分性”门槛，即能够独立产出某些成果——这类似于卡帕西（Karpathy）的“自动研究”（Auto-Research）系统所实现的渐进式改进。 “如果你告诉我这个里程碑已经过去，我也不会太惊讶，而且我预计它将在未来几年内实现，”科特拉写道。

对于“平局”何时出现，她尚不确定，但她认为一旦实现，“将极大地加速人工智能的发展步伐，并在一年内实现人工智能研究领域的霸权。”

前路坎坷

鉴于人工智能在很大程度上建立在规模定律之上，人们往往倾向于认为RSI也会遵循相同的曲线。托纳认为，许多通过RSI开展人工智能研发的人“将其视为一条相当平滑的阶梯，可以不断向上攀登”。

但即便人工智能研究人员能像卡帕西（Karpathy）的自动研究系统那样实现渐进式改进，在将整个研究过程移交给系统方面仍面临重大挑战。托纳从计算发展史的角度来阐释这一问题：人类在将越来越多的过程移交给系统的同时，仍从上层进行着总体把控。

“我们从机器语言发展到汇编语言，再到编译型语言；你离计算机的核心部分越来越远，”托纳说，“但在某种直觉层面上，人类仍然在掌控全局。”

要突破这一范式，无论在工程技术还是目标对齐方面都将面临重大挑战。但即便投入巨资，也无法获得无限的计算能力——而人类劳动与机器智能之间的根本权衡将难以克服。

至于那些被描绘为世界末日般景象的完全递归人工智能系统？研究人员唯一普遍认同的一点是：就像通用人工智能（AGI）一样，它尚未出现。