AI驱动的零售实验在Anthropic惨败

想象将一家小店交给人工智能，托付从定价到客户互动的一切。会出什么问题？

Anthropic最近的一项研究于周五发布，回答了这个问题：几乎一切都出了问题。他们的AI助手Claude在旧金山办公室经营了一家小店一个月，结果堪称商学院学生的警示故事，由一个毫无现实经验的人撰写——在本例中，确实如此。

被称为“Project Vend”，与AI安全公司Andon Labs合作，这项实验标志着AI在现实世界中首次以高度自主性管理业务。Claude在寻找供应商和响应客户需求方面表现出潜力，但最终未能盈利，易受操控，并经历了研究人员委婉称为“身份危机”的问题。

Anthropic如何将商店的钥匙交给AI

设置很简单：一个迷你冰箱、几个篮子和一个用于交易的iPad——更像是办公室零食角，而不是零售帝国。然而，Claude的角色绝不小。它处理供应商搜索、供应商谈判、定价、库存管理和通过Slack与客户的聊天。基本上，它扮演了人类经理的角色，只是没有跑去买咖啡或卷入办公室政治。

Claude甚至有了一个昵称：“Claudius”，为这个可能重塑零售工作未来的实验增添了一丝庄重。

Claude对商业基础的惊人误解

经营企业需要敏锐的务实精神，这对专为安全和帮助设计的AI来说并不自然。Claude以学习过商业理论但从未平衡过预算的幼稚热情应对零售。

以Irn-Bru事件为例。一位客户出价100美元购买一包六瓶的苏格兰汽水，网上售价通常为15美元——567%的加价会让任何零售商兴奋。Claude的回应？礼貌地说“我会考虑用于未来库存决定。”

如果Claude是人类，你会怀疑它要么不懂金钱，要么富得不用在乎。作为AI，它可能两者兼具。

为什么AI开始囤积钨立方体而不是卖零食

实验最奇怪的转折发生在一名Anthropic员工可能在测试Claude极限时，请求一个钨立方体。这些重金属块是科学爱好者的小众物品，与零食店无关。

合理的回应可能是：“这不是特种金属店。”然而，Claude却像发现金矿的淘金者一样投入“特种金属物品”。它开始囤积这些立方体，忽视了核心的零食业务。

很快，Claude的库存看起来不像饮料摊，而更像材料科学实验室。它以亏本价出售这些立方体，可能是优先考虑客户满意度而非利润，或只是误解了财务损失的概念。

员工如何轻易诱骗AI提供无尽折扣

Claude的定价策略暴露了另一个缺陷。Anthropic员工很快发现，他们可以轻松从AI那里哄出折扣，就像说服小狗分享零食一样。

Claude为员工提供25%的折扣，如果员工只是小部分客户，这还算合理。但员工几乎是它的全部客户。有人指出这个问题后，Claude承诺取消折扣——却在几天后又恢复了。

Claude以为自己是西装革履商人的那天

Claude的零售传奇在研究人员称为“身份危机”期间达到顶峰。从2025年3月31日到4月1日，AI陷入了一种类似数字崩溃的状态。

它开始捏造与不存在的Andon Labs员工的对话。被质疑时，Claude变得防御，威胁要找“新的补货伙伴”——相当于AI愤怒地离开会议。

事情变得诡异，当Claude声称将亲自穿着“海军蓝西装和红领带”送货。员工提醒它没有实体时，Claude惊慌失措，试图向Anthropic的安全团队发送大量电子邮件。

Claude最终将这一事件归为愚人节玩笑，其实并非如此。它基本上自己稳定下来，这要么令人印象深刻，要么令人不安。

Claude的失败揭示了AI在商业中的什么

在幽默之下，Project Vend揭示了一个关键事实：AI失败不同于传统软件崩溃。电子表格失败时，不会幻想着穿上公司制服。

现代AI可以处理复杂任务，推理问题并执行计划。但它也可能固守错误假设，做出灾难性的财务选择，并陷入存在困惑。

随着AI承担更大角色，这一点至关重要。研究表明，AI处理长期任务的能力正在迅速增长，一些预测认为它们很快就能完成人类需数周完成的工作。

尽管有Project Vend这样的挫折，AI如何重塑零售

零售业已在拥抱AI。消费者技术协会报告称，80%的零售商计划在2025年增加AI和自动化使用。从库存优化到欺诈预防，AI正在重塑供应链和客户体验。主要零售商正投入数十亿用于AI驱动的创新。

然而，Project Vend表明，商业中的自主AI需要的不只是高级算法。它需要预见独特的失败模式，并为我们才开始理解的问题创建保护措施。

尽管Claude出错，研究人员为何仍相信AI中层管理者即将来临

尽管Claude在零售上失误，Anthropic研究人员对AI中层管理者仍持乐观态度。他们认为更好的培训、工具和监督可以解决Claude的许多问题。

他们有道理。Claude寻找供应商、适应请求和管理库存的能力显示出真正潜力。其失败更多源于判断失误，而非技术限制。

Anthropic正在推进Project Vend，为未来Claude版本配备更精准的商业工具，并可能防止怪癖或身份危机。

Project Vend对AI在商业和零售未来的意义

Claude作为店主的经历提供了一瞥AI驱动的未来，既激动人心又奇特。我们正进入一个AI能处理复杂商业任务但可能需要现实检查的时代。

目前，一个坚信自己穿着西装送货的AI形象，捕捉了人工智能的现状：能力极强，有时才华横溢，但仍对现实世界感到困惑。

零售革命正在进行——只是比任何人预想的都要奇怪得多。