研究人员以低于50美元的价格开发了OpenAI $ 50“推理”模型的开源竞争对手

上周五，来自斯坦福大学和华盛顿大学的AI专家发表了一篇突破性的研究论文，揭示他们以不到50美元的云端计算费用开发出了一种名为s1的AI“推理”模型。这一发现震撼了AI界，因为s1在应对数学和编码挑战时能与OpenAI的o1和DeepSeek的R1等顶级模型相抗衡。

s1模型及其训练数据和代码的全部细节现已在GitHub上公开。团队从一个普通的基准模型开始，然后通过一种名为蒸馏的技术对其进行强化。这一过程通过训练另一个AI模型的响应来提取“推理”能力。在s1的案例中，其智能来源于Google的Gemini 2.0 Flash Thinking Experimental模型。这一策略与伯克利研究人员上个月以约450美元打造自己的AI推理模型时所用的方法类似。

对一些人来说，一支小型研究团队无需巨额预算就能在AI领域掀起波澜，这令人兴奋。但s1的出现也引发了关于AI模型开发未来的严肃问题。如果一个能与耗资数百万打造的模型匹敌的模型可以以极低成本复制，还有什么能阻止所有人效仿呢？

不出所料，AI领域的大玩家对此并不高兴。例如，OpenAI曾指责DeepSeek使用其API数据进行模型蒸馏。与此同时，s1团队专注于寻找最直接的方式来实现强大的推理性能以及一种称为“测试时扩展”的技术，即AI模型在回答前有更多时间思考。这些创新与OpenAI的o1模型所带来的功能相同，而DeepSeek等其他公司也试图通过自己的方法加以模仿。

s1论文表明，可以通过一种称为监督微调（SFT）的技术，使用相对较小的数据集来蒸馏推理模型。这涉及训练AI模型从数据集中复制特定行为，且比DeepSeek用于其R1模型（与OpenAI的o1竞争）的大规模强化学习成本更低。

Google通过其Google AI Studio平台免费提供Gemini 2.0 Flash Thinking Experimental，但有每日使用限制。然而，有一个问题——Google的条款不允许逆向工程其模型以创建竞争服务。我们正在等待Google对此的回应。

s1模型本身起源于阿里巴巴Qwen实验室的一个普通现成AI模型，任何人都可以免费下载。为了训练s1，研究人员整理了一个仅包含1000个精心挑选的问题的数据集，附带答案和每个问题背后的“思考”过程，这些都来自Google的Gemini 2.0。整个训练过程在16个Nvidia H100 GPU上耗时不到30分钟。据参与该项目的斯坦福研究人员Niklas Muennighoff称，如今只需约20美元的计算成本即可完成这一过程。

研究人员还采用了一个巧妙的办法，让s1检查自己的工作并延长其“思考”时间——他们只需告诉它“等待”。论文指出，在s1的推理过程中加入这个词有助于它得出稍更准确的答案。

展望2025年，Meta、Google和Microsoft等科技巨头计划投入数千亿美元用于AI基础设施，其中大部分将用于训练下一波AI模型。虽然蒸馏被证明是廉价重现AI能力的有效方式，但它短期内无法催生全新、突破性的AI模型。