Meta的AI模型基准:误导性?

Meta 在周末发布了他们的新 AI 模型 Maverick,它已经在 LM Arena 上掀起波澜,夺得了第二名的位置。你知道的,那个地方是人类扮演法官和陪审团的角色,比较不同的 AI 模型并挑选他们喜欢的。不过,等等,有个转折!结果发现,在 LM Arena 上展示风采的 Maverick 版本,与开发者可以下载和使用的版本并不完全相同。
一些敏锐的 AI 研究者在 X(是的,那个以前叫 Twitter 的平台)上发现,Meta 将 LM Arena 版本称为“实验性聊天版本”。如果你去 Llama 网站上看,有一张图表透露了细节,称测试使用的是“为对话优化设计的 Llama 4 Maverick”。我们之前讨论过这个,但 LM Arena 并不是衡量 AI 性能的黄金标准。大多数 AI 公司不会为了在这个测试中得分更高而专门调整模型——或者至少,他们不会承认这样做。
问题是,当你调整一个模型以在基准测试中表现出色,但随后向公众发布一个不同的“普通”版本时,开发者很难弄清楚这个模型在现实场景中的实际表现如何。而且,这有点误导,对吧?基准测试虽然有缺陷,但应该为我们提供模型在不同任务中能做什么和不能做什么的清晰图景。
X 上的研究者很快就注意到,你可以下载的 Maverick 和 LM Arena 上的版本之间存在一些重大差异。Arena 版本似乎特别喜欢使用表情符号,而且回答总是冗长而拖沓。
好吧,Llama 4 确实有点过头了,哈哈,这是什么啰嗦之城 pic.twitter.com/y3GvhbVz65
— Nathan Lambert (@natolambert) 2025年4月6日
出于某种原因,Arena 中的 Llama 4 模型使用了更多的表情符号
在 together.ai 上,它似乎表现更好:pic.twitter.com/f74ODX4zTt
— Tech Dev Notes (@techdevnotes) 2025年4月6日
我们已经联系了 Meta 和运行 LM Arena 的 Chatbot Arena 团队,看看他们对此有什么说法。敬请期待!
相关文章
Meta 的 Muse 在早期移动发布中超越 ChatGPT
新数据显示,Meta 最新的 AI 应用 Muse 可能成为这家社交巨头的下一个重大成功。根据 Appfigures 最近的估算,Muse 在前 12 天内的移动设备下载次数超过了 ChatGPT 在发布后 12 天内的下载量。(该数据仅涵盖美国和加拿大市场。)该公司还发现,Muse 的日活跃用户数超过了 ChatGPT 在同一阶段的用户数。在此之前,由于两款应用的发布策略不同,直接比较这两款应用一直具有挑战性。ChatGPT 在全球范围内发布,但仅在 iOS 平台上提供;而 Muse 在苹果
Meta 的 Muse 登陆 Mac,使 AI 能够在你的电脑上执行操作
Meta 的最新 AI 助手 Muse 现已在 Mac 上上线。在 macOS 上,Muse 与您的文件、消息、日历、笔记和邮件集成,直接在原生应用中运行。此次桌面版发布紧随 Muse 本月早些时候在移动端和网页端的推出,当时它迅速攀升至美国 App Store 排行榜首位。Muse for Mac 来了!!您的智能助手现在可以直接在电脑上处理事务——文件、消息、日历、笔记,一应俱全。 您可以控制它可以访问的内容,并且在执行任何敏感操作前,它都会先征求您的同意。 将其添加到程序坞
扎克伯格将Meta的企业级AI愿景扩展至智能体领域
六月,Meta 推出了一款面向企业的新 AI 智能体,旨在协助处理客户服务、技术支持和日常运营。然而,首席执行官马克·扎克伯格在周三的第二季度财报电话会议上向投资者透露,该公司的企业 AI 战略远不止于这一初步产品。“我们认为企业领域存在巨大的机遇,包括提供 API、商业智能体、直接计算资源销售以及其他针对大型客户定制的服务,”扎克伯格表示。这些举措有助于使收入来源多样化,摆脱对广告这一主要收入来源以及贡献较小份额的订阅收入的依赖。最初,Meta 将通过提供跨消息平台和其他渠道运行的 AI
相关专题推荐
评论 (37)
0/500
メタのAIベンチマークって怪しくない?🤔 人間が好みで評価するランダムなランキングより、実用的なテストの方が信用できると思う。結局ベンチマークゲームに夢中になる企業より、実際に役立つAIを作ってる会社の方が価値あるよね。 #AIベンチマーク
Meta's Maverick hitting second on LM Arena? Impressive, but I'm skeptical about those benchmarks. Feels like a hype train—wonder if it’s more flash than substance. 🤔 Anyone tested it in real-world tasks yet?
Meta's Maverick AI model is impressive, snagging second place on LM Arena! But are the benchmarks really telling the whole story? It's cool to see AI models go head-to-head, but I'm not sure if it's all fair play. Makes you wonder, right? 🤔 Maybe we need a more transparent way to judge these models!
मेटा का नया AI मॉडल, मैवरिक, LM एरिना में दूसरे स्थान पर पहुंचा! यह प्रभावशाली है, लेकिन क्या बेंचमार्क वास्तव में पूरी कहानी बता रहे हैं? AI मॉडल्स को आपस में प्रतिस्पर्धा करते देखना मजेदार है, लेकिन मुझे नहीं पता कि यह निष्पक्ष है या नहीं। आपको सोचने पर मजबूर करता है, है ना? 🤔 शायद हमें इन मॉडल्स को जज करने का एक और पारदर्शी तरीका चाहिए!
메타의 새로운 AI 모델, 마브릭이 LM Arena에서 2위를 차지하다니 대단해요! 하지만 벤치마크가 정말 모든 것을 말해주고 있는지 궁금해요. AI 모델 간의 경쟁은 재미있지만, 공정한지 확신할 수 없네요. 더 투명한 평가 방법이 필요할 것 같아요 🤔

Meta 在周末发布了他们的新 AI 模型 Maverick,它已经在 LM Arena 上掀起波澜,夺得了第二名的位置。你知道的,那个地方是人类扮演法官和陪审团的角色,比较不同的 AI 模型并挑选他们喜欢的。不过,等等,有个转折!结果发现,在 LM Arena 上展示风采的 Maverick 版本,与开发者可以下载和使用的版本并不完全相同。
一些敏锐的 AI 研究者在 X(是的,那个以前叫 Twitter 的平台)上发现,Meta 将 LM Arena 版本称为“实验性聊天版本”。如果你去 Llama 网站上看,有一张图表透露了细节,称测试使用的是“为对话优化设计的 Llama 4 Maverick”。我们之前讨论过这个,但 LM Arena 并不是衡量 AI 性能的黄金标准。大多数 AI 公司不会为了在这个测试中得分更高而专门调整模型——或者至少,他们不会承认这样做。
问题是,当你调整一个模型以在基准测试中表现出色,但随后向公众发布一个不同的“普通”版本时,开发者很难弄清楚这个模型在现实场景中的实际表现如何。而且,这有点误导,对吧?基准测试虽然有缺陷,但应该为我们提供模型在不同任务中能做什么和不能做什么的清晰图景。
X 上的研究者很快就注意到,你可以下载的 Maverick 和 LM Arena 上的版本之间存在一些重大差异。Arena 版本似乎特别喜欢使用表情符号,而且回答总是冗长而拖沓。
好吧,Llama 4 确实有点过头了,哈哈,这是什么啰嗦之城 pic.twitter.com/y3GvhbVz65
— Nathan Lambert (@natolambert) 2025年4月6日
出于某种原因,Arena 中的 Llama 4 模型使用了更多的表情符号
— Tech Dev Notes (@techdevnotes) 2025年4月6日
在 together.ai 上,它似乎表现更好:pic.twitter.com/f74ODX4zTt
我们已经联系了 Meta 和运行 LM Arena 的 Chatbot Arena 团队,看看他们对此有什么说法。敬请期待!
Meta 的 Muse 在早期移动发布中超越 ChatGPT
新数据显示,Meta 最新的 AI 应用 Muse 可能成为这家社交巨头的下一个重大成功。根据 Appfigures 最近的估算,Muse 在前 12 天内的移动设备下载次数超过了 ChatGPT 在发布后 12 天内的下载量。(该数据仅涵盖美国和加拿大市场。)该公司还发现,Muse 的日活跃用户数超过了 ChatGPT 在同一阶段的用户数。在此之前,由于两款应用的发布策略不同,直接比较这两款应用一直具有挑战性。ChatGPT 在全球范围内发布,但仅在 iOS 平台上提供;而 Muse 在苹果
Meta 的 Muse 登陆 Mac,使 AI 能够在你的电脑上执行操作
Meta 的最新 AI 助手 Muse 现已在 Mac 上上线。在 macOS 上,Muse 与您的文件、消息、日历、笔记和邮件集成,直接在原生应用中运行。此次桌面版发布紧随 Muse 本月早些时候在移动端和网页端的推出,当时它迅速攀升至美国 App Store 排行榜首位。Muse for Mac 来了!!您的智能助手现在可以直接在电脑上处理事务——文件、消息、日历、笔记,一应俱全。 您可以控制它可以访问的内容,并且在执行任何敏感操作前,它都会先征求您的同意。 将其添加到程序坞
扎克伯格将Meta的企业级AI愿景扩展至智能体领域
六月,Meta 推出了一款面向企业的新 AI 智能体,旨在协助处理客户服务、技术支持和日常运营。然而,首席执行官马克·扎克伯格在周三的第二季度财报电话会议上向投资者透露,该公司的企业 AI 战略远不止于这一初步产品。“我们认为企业领域存在巨大的机遇,包括提供 API、商业智能体、直接计算资源销售以及其他针对大型客户定制的服务,”扎克伯格表示。这些举措有助于使收入来源多样化,摆脱对广告这一主要收入来源以及贡献较小份额的订阅收入的依赖。最初,Meta 将通过提供跨消息平台和其他渠道运行的 AI
メタのAIベンチマークって怪しくない?🤔 人間が好みで評価するランダムなランキングより、実用的なテストの方が信用できると思う。結局ベンチマークゲームに夢中になる企業より、実際に役立つAIを作ってる会社の方が価値あるよね。 #AIベンチマーク
Meta's Maverick hitting second on LM Arena? Impressive, but I'm skeptical about those benchmarks. Feels like a hype train—wonder if it’s more flash than substance. 🤔 Anyone tested it in real-world tasks yet?
Meta's Maverick AI model is impressive, snagging second place on LM Arena! But are the benchmarks really telling the whole story? It's cool to see AI models go head-to-head, but I'm not sure if it's all fair play. Makes you wonder, right? 🤔 Maybe we need a more transparent way to judge these models!
मेटा का नया AI मॉडल, मैवरिक, LM एरिना में दूसरे स्थान पर पहुंचा! यह प्रभावशाली है, लेकिन क्या बेंचमार्क वास्तव में पूरी कहानी बता रहे हैं? AI मॉडल्स को आपस में प्रतिस्पर्धा करते देखना मजेदार है, लेकिन मुझे नहीं पता कि यह निष्पक्ष है या नहीं। आपको सोचने पर मजबूर करता है, है ना? 🤔 शायद हमें इन मॉडल्स को जज करने का एक और पारदर्शी तरीका चाहिए!
메타의 새로운 AI 모델, 마브릭이 LM Arena에서 2위를 차지하다니 대단해요! 하지만 벤치마크가 정말 모든 것을 말해주고 있는지 궁금해요. AI 모델 간의 경쟁은 재미있지만, 공정한지 확신할 수 없네요. 더 투명한 평가 방법이 필요할 것 같아요 🤔





首页






