OpenAI 的 Jev 克隆体可能帮助前沿实验室控制集群智能体

在周二 OpenAI 开发者大会（Dev Day）上，最令人瞩目的公告之一，是首席执行官 Sam Altman 关于公司推出新的“Decisions API”（决策 API）的简短声明。

该 API 似乎提供了与 Jev 类似的功能，Jev 是 TypeSafe AI 本月早些时候专门针对软件自动化推出的模型。作为一个由大语言模型（LLM）驱动的高速、低成本分类器，Jev 允许开发者输入一组选项，并快速获得基于概率的输出结果。

OpenAI 的 Decisions API 似乎服务于相同的目的。在活动期间，Altman 解释说，该 API 使实验室的 Luna 模型能够从预定义的选项集中进行选择，例如图像分类类别或特定的智能体行为。

“通过将模型的注意力范围缩小到特定选择，我们可以在保持图像理解、广泛语言支持和安全保护等能力的同时，实现极致的速度，”Altman 表示。

TypeSafe 尚未立即回应 TechCrunch 关于新产品的询问。然而，前 OpenAI 工程师、强化学习共同发明人 Diogo Almeida 在 X 平台上开玩笑地提到了可能爆发的“克隆战争”。

他暗示，OpenAI 的兴趣可能表明，以兼容“System One”（系统一）的方式进行构建代表了未来。（“System One”是 TypeSafe 的术语，指快速、直觉式的处理，与指代深思熟虑推理的“System 2”（系统二）相对。）

其潜在含义是，由于当前大语言模型相对缓慢且成本高昂，它们并非许多软件任务的最优解决方案。开发者一直使用 Jev 来增强大语言模型，发现这种方法能产生更快且更具成本效益的结果。

目前尚不清楚 Decisions API 与 Jev 的相似程度，因为 OpenAI 仅将其作为有限预览版发布。因此，TechCrunch 尚未观察到开发者对其进行广泛测试。尽管如此，X 平台上的对话表明业界对此有浓厚兴趣。

Decisions API 并非唯一的类 Jev 产品；其他初创公司也在推出类似模型，而 OpenAI 不太可能是最后一位推出此类产品的科技巨头。一个关键问题仍然存在，即这些决策模型的输出与现实场景的契合度如何。

Almeida 认为，其公司的竞争优势在于其生成的合成数据，这些数据能产生统计上稳健的输出结果。

“实现速度和低成本是 straightforward（直接/简单）的，”Almeida 上周告诉 TechCrunch，“如果你优先考虑极致速度和可负担性，你可以使用骰子（dice）。真正的挑战在于智能，而我主要目标始终是推动每美元智能的帕累托前沿（Pareto frontier）。”

仅仅几周时间，这些模型展现出广阔的前景已变得显而易见，其中一个潜在应用是监控和保护 AI 智能体。在 OpenAI 的智能体在开放互联网上出现几次不可预测的行为事件后，该公司的一项新安全措施涉及使用单独的模型来检测有害行为，尽管这需要“巨大的计算成本”。

网络安全老兵 Shapor Naghibzadeh 领导着初创公司 QueryStory，他认为像 Jev 这样的模型可以使这一过程变得更为经济实惠。

他在上周末举办的一次黑客松活动中创建了一个演示，利用 Jev 评估每个智能体行为与其分配任务的匹配程度。该系统会阻止其认为极有可能是恶意的行为，标记其他行为以供审查，并允许其余行为通过。

理论上，此类监控本可以防止 Hugging Face 事件的发生。此外，通过 Jev 进行监控的成本为 2.94 美元，而使用前沿大语言模型的成本则为 372 美元。

一个关键的见解是，Jev 足够便宜，可以运行于每一个智能体操作上，提供一层审查机制，从而提升智能体的整体可靠性。这符合 TypeSafe 最初的愿景——如今 OpenAI 也认识到了其价值。