人工智能开始自我构建

理查德·索彻（Richard Socher）长期以来一直是人工智能领域的杰出人物，因创立早期聊天机器人初创公司You.com而广受认可，在此之前，他还因在ImageNet项目中的工作而闻名。 如今，他正加入新一波以研究为驱动的人工智能初创企业行列，加入总部位于旧金山的Recursive Superintelligence公司。该公司于本周三正式亮相，并宣布已获得6.5亿美元融资。

索彻在此次新创企业中与一群知名人工智能研究人员携手合作，其中包括彼得·诺维格（Peter Norvig）和Cresta联合创始人蒂姆·施（Tim Shi）。他们共同致力于构建一种递归式自我改进的人工智能模型——该模型能够自主发现自身的不足，并重新设计自身以解决这些问题，而无需人类干预。 这一目标长期以来被视为现代人工智能研究中的“圣杯”。

发布活动结束后，我通过Zoom与他进行了对话，深入探讨了Recursive独特的技术方法，以及他为何不将这个新项目视为“新实验室”（neolab）——这是一个非正式术语，指代新一代优先考虑研究而非产品开发的人工智能初创公司。

为使内容更清晰，本次访谈已进行压缩和编辑。

如今我们经常听到“递归”这个词——这似乎是许多实验室的共同目标。你们的方法有何独特之处？

我们独特的方法依赖于开放性来实现递归式自我改进——这是迄今为止无人能及的。对许多人来说，这是一个难以企及的目标。 很多人认为，这种能力会随着自动研究自然而然地出现——你可以让人工智能改进其他东西，比如机器学习系统或你写的一封信等等。但这并非递归式自我改进，而仅仅是改进而已。

我们的主要目标是构建一个真正具有递归性、能够自我改进的大规模超级智能——这意味着从生成、实施到验证研究思路的整个过程都将实现自动化。

起初，它将自动化生成人工智能研究思路，最终将涵盖任何类型的研究思路——包括物理领域的研究。但当人工智能致力于自我完善，并针对自身的局限性发展出一种新的自我意识时，其威力尤为显著。

你提到了“开放式”这个术语——它有特定的技术含义吗？

是的，有。事实上，我们的联合创始人之一蒂姆·罗克塔舍尔（Tim Rocktäschel）曾领导谷歌DeepMind的开放式与自我改进团队，并专门参与了世界模型Genie 3的研发，该模型正是开放性的绝佳范例。 你可以向它输入任何概念、任何世界、任何智能体，它都能生成一个交互版本。

在生物进化中，动物会适应环境，而其他生物则会对这些适应进行反适应。这是一个可以持续数十亿年的过程，其中不断涌现出有趣的发展。这就是我们[头部]长出眼睛的原因。

另一个例子是“彩虹团队”（rainbow teaming），出自蒂姆的另一篇论文。你听说过“红队”（red teaming）吗？

在网络安全领域，它的含义是——

因此，“红队测试”同样适用于大型语言模型（LLM）的场景。本质上，你要尝试让LLM告诉你如何制造炸弹，并确保它拒绝这样做。

人类可能需要花费很长时间来构思AI不该说的话。但如果用第二个AI来测试第一个AI，而第二个AI的任务是让第一个AI[尝试]说出所有可能的有害内容呢？这样它们就可以进行数百万次的迭代交互。

实际上，你可以让两个AI共同进化。其中一个持续攻击另一个，探索的不仅是一个角度，而是许多不同的角度——因此有了“彩虹”的比喻。然后，你可以对第一个AI进行“免疫”，使其变得越来越安全。这个想法来自蒂姆·罗克塔舍尔（Tim Rocktäschel），现在已被所有主要实验室采用。

你怎么知道什么时候完成了？我想这永远不会真正完成。

其中一些工作永远无法完成。智能总能变得更强，编程、数学等能力总能不断提升。智能确实存在理论上的极限——我目前正在尝试将其形式化——但这些极限高得惊人。我们离这些极限还非常遥远。

作为一家新锐实验室，似乎大家期待你们去探索大型实验室未曾涉足的领域。这意味着你认为大型实验室无法通过当前的方法实现RSI（递归自我改进）。这种评估准确吗？

我无法对他们的具体工作置评，但我确实认为我们的切入角度不同。我们完全拥抱“开放性”这一理念，整个团队都致力于实现这一愿景。 过去十年间，团队一直在该领域开展研究并发表论文，不仅推动了该领域的发展，还成功推出了实际产品。例如，Tim Shi 将 Cresta 打造为独角兽企业；Josh Tobin 曾是 OpenAI 的早期成员，后来领导了该公司的 Codex 和深度研究团队。

其实，我有时对“Neolab”这个标签有些纠结。我觉得我们不仅仅是一个实验室。我希望我们能成为一家真正有生命力的公司，推出令人爱不释手且对人类产生积极影响的卓越产品。

那么，你们计划何时发布首款产品？

我对此思考良多。团队取得了巨大进展，我们甚至可能比最初预期的进度更快。但没错，产品一定会面世——而且大家只需等待几个季度，而不是几年。

“递归自我改进”理念背后的核心思想之一是：一旦拥有这样的系统，计算能力就将成为唯一的关键资源。系统运行得越快，改进速度就越快，而任何外部的人为干预都无法真正产生实质性影响。因此，竞争的焦点就变成了：我们能为它投入多少计算能力？ 你认为这就是我们正在迈向的世界吗？

计算能力不容小觑。我认为未来的一个关键问题将是：人类愿意为解决哪些问题分配多少计算资源？这里有这种癌症，那里有那种病毒——你想先攻克哪一个？ 你愿意分配多少计算资源？这最终将变成一个资源分配的问题。这将成为世界上最重要的问题之一。