山姆·奥特曼引发关于人工智能减速的辩论

OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）最近表示，现在可能是时候“控制人工智能的发展速度”，以便社会“在这些新的能力水平周围加固自身”。

在TechCrunch《Equity》播客的最新一期中，Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发，该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出，虽然由AI代理执行的黑客攻击是前所未有的，但攻击本身并非“某种新的先进事物”。

“这更像尼克松的人闯入水门事件，而不是某种真正的隐蔽网络行动，因为它不需要如此，也没有被指示要如此，”Sean说。“希望这是一个信号，表明这些公司将推进此事，并对这些问题更加谨慎。”

阿尔特曼的言论也促使我质疑加速主义与减速主义辩论的有用性，因为（是的，我即将引用自己）这种框架“某种程度上暗示只有一条路径”，以及“我们所能决定的——如果我们能决定的话——只是，我们是加速还是减速？”

继续阅读以获取我们对话的预览，已编辑以简化篇幅和清晰度。

Sean O’Kane： 也许我们终于在这里达到了一个转折点。我认为，这背后的一个主要驱动因素是我们上周讨论的内容，即OpenAI的一个模型入侵了Hugging Face的数据，并似乎还突破了互联网上的其他一些东西。

[阿尔特曼]并没有呼吁暂停，就像我们过去看到科技行业中的一些人试图做的那样。他对自己的措辞非常谨慎，说的是“控制节奏”。我们将拭目以待这是否能持续。我们看到的这些实验室抛出的任何谨慎言论，往往会在推动它们继续全速前进的激励措施面前被逆转。所以，我仍然持怀疑态度，这并不令人惊讶。

Kirsten Korosec： 现在我要说的是，[阿尔特曼]的措辞可能很谨慎，但OpenAI和Anthropic确实[支持]了一份请愿书，该请愿书反映了他所谈论的内容。

我同意你的观点，我认为这一切很大程度上是由Hugging Face触发的。这可能让他感到震惊，也肯定让行业中的许多人感到震惊。这里的难点在于：你如何小心翼翼地处理，或者OpenAI如何小心翼翼地处理，既要继续产生收入、筹集资金或进行所谓的“首次公开募股（IPO）”，又要“控制发展速度”。

我不知道他们是否能做到这一点。我很想知道他们是否能兼顾两者。

Anthony Ha： 我一直在纠结的另一个问题也是：加速[与]减速是否是思考这个问题的正确框架？因为这暗示只有一条路径，我们都困在这条路径上。我们所能决定的——如果我们能决定的话——只是，我们是加速还是减速？而不是——再次，我要非常折磨这个比喻——但我们是否建立不同的护栏？我们是否选择不同的路径？

我对这种框架非常抵触。而不是说，“好吧，如果我们对模型目前的表现不满意，我们还能做什么？减速、暂停或停止是唯一的选择吗？”我认为并非如此。

我想再次强调的一件事是，看到围绕此事的警报级别非常有趣——这种“如果我们拥有这些自主代理和模型，它们只是在四处黑客攻击、试图防止黑客攻击，这一切都超出了我们的控制”的感觉，导致了关于对齐问题的所有更广泛的辩论，Rebecca Bellan对此做了一篇很好的文章。

但值得回到我们在TechCrunch上写过的一个观点，即这次特定的黑客攻击——是的，它是由OpenAI模型引起的，但听起来他们只是没有妥善保护测试网站。理论上，该模型本不应能够上网。当然，如果你有一个强大的未对齐AI，这种人为错误的风险会急剧上升。但它确实始于这样一个事实，即他们没有以应有的方式保护事物。

Sean： 我认为这是对的。我认为你的观点很有道理，即我们不应该以某种线性方式思考这个问题，以及事物是在加速还是减速。关于这些公司有多么负责任，还有很多可以也应该说的话。Lorenzo，我们的一位同事，也写了一篇很好的文章，详细说明了关注此事的严肃安全研究人员认为这次黑客攻击究竟是什么样的。看起来确实如此，在这次黑客攻击的双方，都采取了一些可能本可以防止它的步骤。

在这个故事中，我发现最有趣的一点是，一些研究人员指出，该模型所做的并不是什么新的先进事物。它在试图入侵Hugging Face时的思维方式非常人性化——不是为了拟人化，而是它思考如何入侵Hugging Face的方式，而且它也非常吵闹和混乱，并没有真正试图掩盖自己的踪迹。这更像尼克松的人闯入水门事件，而不是某种真正的隐蔽网络行动，因为它不需要如此，也没有被指示要如此。

这本来更容易预防。希望这是一个信号，表明这些公司将推进此事，并对这些问题更加谨慎。

关于加速与减速[辩论]，我还要说一件事。我不知道这是否是动机，但你提到了IPO，Kirsten。我认为阿尔特曼能够利用他们目前的优势是明智的，即[OpenAI]下个月或两个月内不会[去]市场。他甚至提出了在2027年上市的想法，他们只提交了保密文件，以便在准备好时拥有该选项。

所以，如果你相信所有这些，他有能力以Anthropic无法做到的方式谈论这一点，因为Anthropic已经与许多银行家进行了对话，并正朝着更近期的IPO迈进，因此在它可以说什么、应该如何说以及市场将如何反应方面受到更多限制。