メタのAIモデルベンチマーク：誤解を招く？
そのため、メタは週末に新しいAIモデルであるマーベリックをドロップしました。LMアリーナで2位になり、すでに波を起こしています。ご存知のように、それは人間が裁判官とju審員を演じる場所であり、さまざまなAIモデルを比較し、お気に入りを選ぶ場所です。しかし、頑張って、ひねりがあります！ LM ArenaでそのものをストラットしているMaverickバージョンは、開発者としてダウンロードしてプレイできるものとはまったく同じではありません。
X（ええ、以前はTwitterとして知られていたプラットフォーム）のAIの一部のAI研究者の一部は、メタがLMアリーナバージョンを「実験的チャットバージョン」と呼んでいることを発見しました。ラマのウェブサイトを覗くと、豆をこぼすチャートがあり、テストは「会話のために最適化されたLlama 4 Maverick」で行われたと述べています。これについては、これについて以前にお話ししましたが、LMアリーナはAIパフォーマンスを測定するためのゴールドスタンダードではありません。ほとんどのAI企業は、このテストでより良く得点するためだけにモデルを台無しにしません。少なくとも、彼らはそれを認めません。
問題は、モデルを微調整してベンチマークを獲得し、その後、異なる「バニラ」バージョンを一般にリリースすると、開発者がモデルが実際のシナリオで実際にどの程度機能するかを把握するのは難しいことです。さらに、それはちょっと誤解を招くですよね？そのまま欠陥があるベンチマークは、モデルが異なるタスクで何ができ、できないことを明確に描く必要があります。
Xの研究者は、ダウンロードできるマーベリックとLMアリーナのものとの大きな違いにすぐに気付きました。 Arenaバージョンは明らかに絵文字に関するものであり、長く描かれた答えを提供するのが大好きです。
大丈夫llama4はdefが調理されたlolです。
- ネイサンランバート（@natolambert） 2025年4月6日
何らかの理由で、アリーナのラマ4モデルはもっと多くの絵文字を使用しています
一緒に。 ai、それはより良いようです： pic.twitter.com/f74odx4ztt
- Tech Dev Notes（@techdevnotes） 2025年4月6日
私たちは、LMアリーナを運営するChatbot Arenaのメタと、このすべてについて彼らが何を言わなければならないかを見るために、人々に連絡しました。乞うご期待！
関連記事
Meta AI在歐盟推出並實施限制
Meta 的由人工智能驱动的虛擬助手 Meta AI，終於在歐洲聯盟登陸，這是在與歐洲隱私當局的激烈規管爭議中實現的。該公司在星期四宣布，這個類似聊天機器人的工具將整合到其社交平台套件中，不過其功能比美國市場上的版本更加有限。在另一項發展中，Meta 向 TechCrunch 確認，Meta AI 即將在英國的 WhatsApp 上推出，從最初於去年十月在
OpenAI 聘請前Facebook應用程式負責人
菲吉·西莫加入OpenAI担任应用程序业务主管OpenAI通过聘请现任Instacart首席执行官兼前Facebook应用程序负责人菲吉·西莫来领导其应用程序业务，引起了广泛关注。这一任命直接来自高层，OpenAI首席执行官山姆·阿尔特曼在X上分享道，这个新职位将使他能够更多地关注研究、计算和安全性。显然，他们正在为应用程序领域的某些令人兴奋的发展奠定基础！
Meta預測到2035年生成性AI收入將達1.4萬億美元
去年，Meta大膽預測其生成式AI產品到2025年將產生20億至30億美元的收入。展望更遠的未來，他們預計到2035年將增長到驚人的4600億至1.4兆美元之間。這些預測是在週三浮出水面的法庭文件中揭示的，當時正值書籍作者對Meta提起訴訟。他們指控該公司未經許可就用他們的作品訓練AI。然而，文件並未具體說明Meta將何謂“生成式AI產品”。不過，眾所周知，
コメント (35)
0/200
![JerryGonzalez]()
JerryGonzalez
2025年4月10日 0:00:00 GMT
Meta's AI model benchmarks seem a bit off to me. Maverick got second place, but I've used it and it's not that great. The interface is clunky and the results are hit or miss. Maybe they're just trying to hype it up? I'd give it a pass for now.
0
![CarlKing]()
CarlKing
2025年4月10日 0:00:00 GMT
MetaのAIモデルのベンチマークは私には少しおかしいように感じます。Maverickは2位を獲得しましたが、使ってみた感じではそれほど良くありません。インターフェースがぎこちなく、結果も当たり外れがあります。もしかしたら、ただ盛り上げようとしているだけかもしれませんね。今はパスしておきます。
0
![SamuelEvans]()
SamuelEvans
2025年4月10日 0:00:00 GMT
Meta의 AI 모델 벤치마크가 내겐 좀 이상해 보여. Maverick이 2위를 했지만, 써보니 그리 대단하지 않아. 인터페이스가 어색하고 결과도 들쑥날쑥해. 어쩌면 그냥 과대광고하려고 하는 건지도 몰라. 지금은 패스할게.
0
![BenWalker]()
BenWalker
2025年4月10日 0:00:00 GMT
Os benchmarks do modelo de IA da Meta parecem um pouco estranhos para mim. O Maverick ficou em segundo lugar, mas eu usei e não é tão bom assim. A interface é desajeitada e os resultados são inconsistentes. Talvez eles estejam apenas tentando criar hype? Eu passaria por agora.
0
![RobertLewis]()
RobertLewis
2025年4月10日 0:00:00 GMT
Los benchmarks del modelo de IA de Meta me parecen un poco extraños. Maverick quedó en segundo lugar, pero lo he usado y no es tan bueno. La interfaz es torpe y los resultados son inconsistentes. ¿Quizás solo están tratando de generar hype? Por ahora, lo dejaría pasar.
0
![KevinBaker]()
KevinBaker
2025年4月12日 0:00:00 GMT
I tried Meta's Maverick and it's pretty good, but those benchmarks seem a bit off to me. It's not as smooth as they claim, and sometimes it's just plain wrong. I'm not sure if it's worth the hype. Maybe they need to tweak their testing methods?
0
そのため、メタは週末に新しいAIモデルであるマーベリックをドロップしました。LMアリーナで2位になり、すでに波を起こしています。ご存知のように、それは人間が裁判官とju審員を演じる場所であり、さまざまなAIモデルを比較し、お気に入りを選ぶ場所です。しかし、頑張って、ひねりがあります！ LM ArenaでそのものをストラットしているMaverickバージョンは、開発者としてダウンロードしてプレイできるものとはまったく同じではありません。
X（ええ、以前はTwitterとして知られていたプラットフォーム）のAIの一部のAI研究者の一部は、メタがLMアリーナバージョンを「実験的チャットバージョン」と呼んでいることを発見しました。ラマのウェブサイトを覗くと、豆をこぼすチャートがあり、テストは「会話のために最適化されたLlama 4 Maverick」で行われたと述べています。これについては、これについて以前にお話ししましたが、LMアリーナはAIパフォーマンスを測定するためのゴールドスタンダードではありません。ほとんどのAI企業は、このテストでより良く得点するためだけにモデルを台無しにしません。少なくとも、彼らはそれを認めません。
問題は、モデルを微調整してベンチマークを獲得し、その後、異なる「バニラ」バージョンを一般にリリースすると、開発者がモデルが実際のシナリオで実際にどの程度機能するかを把握するのは難しいことです。さらに、それはちょっと誤解を招くですよね？そのまま欠陥があるベンチマークは、モデルが異なるタスクで何ができ、できないことを明確に描く必要があります。
Xの研究者は、ダウンロードできるマーベリックとLMアリーナのものとの大きな違いにすぐに気付きました。 Arenaバージョンは明らかに絵文字に関するものであり、長く描かれた答えを提供するのが大好きです。
大丈夫llama4はdefが調理されたlolです。
- ネイサンランバート（@natolambert） 2025年4月6日
何らかの理由で、アリーナのラマ4モデルはもっと多くの絵文字を使用しています
- Tech Dev Notes（@techdevnotes） 2025年4月6日
一緒に。 ai、それはより良いようです： pic.twitter.com/f74odx4ztt
私たちは、LMアリーナを運営するChatbot Arenaのメタと、このすべてについて彼らが何を言わなければならないかを見るために、人々に連絡しました。乞うご期待！
Meta AI在歐盟推出並實施限制
Meta 的由人工智能驱动的虛擬助手 Meta AI，終於在歐洲聯盟登陸，這是在與歐洲隱私當局的激烈規管爭議中實現的。該公司在星期四宣布，這個類似聊天機器人的工具將整合到其社交平台套件中，不過其功能比美國市場上的版本更加有限。在另一項發展中，Meta 向 TechCrunch 確認，Meta AI 即將在英國的 WhatsApp 上推出，從最初於去年十月在
OpenAI 聘請前Facebook應用程式負責人
菲吉·西莫加入OpenAI担任应用程序业务主管OpenAI通过聘请现任Instacart首席执行官兼前Facebook应用程序负责人菲吉·西莫来领导其应用程序业务，引起了广泛关注。这一任命直接来自高层，OpenAI首席执行官山姆·阿尔特曼在X上分享道，这个新职位将使他能够更多地关注研究、计算和安全性。显然，他们正在为应用程序领域的某些令人兴奋的发展奠定基础！
Meta預測到2035年生成性AI收入將達1.4萬億美元
去年，Meta大膽預測其生成式AI產品到2025年將產生20億至30億美元的收入。展望更遠的未來，他們預計到2035年將增長到驚人的4600億至1.4兆美元之間。這些預測是在週三浮出水面的法庭文件中揭示的，當時正值書籍作者對Meta提起訴訟。他們指控該公司未經許可就用他們的作品訓練AI。然而，文件並未具體說明Meta將何謂“生成式AI產品”。不過，眾所周知，
2025年4月10日 0:00:00 GMT
Meta's AI model benchmarks seem a bit off to me. Maverick got second place, but I've used it and it's not that great. The interface is clunky and the results are hit or miss. Maybe they're just trying to hype it up? I'd give it a pass for now.
0
2025年4月10日 0:00:00 GMT
MetaのAIモデルのベンチマークは私には少しおかしいように感じます。Maverickは2位を獲得しましたが、使ってみた感じではそれほど良くありません。インターフェースがぎこちなく、結果も当たり外れがあります。もしかしたら、ただ盛り上げようとしているだけかもしれませんね。今はパスしておきます。
0
2025年4月10日 0:00:00 GMT
Meta의 AI 모델 벤치마크가 내겐 좀 이상해 보여. Maverick이 2위를 했지만, 써보니 그리 대단하지 않아. 인터페이스가 어색하고 결과도 들쑥날쑥해. 어쩌면 그냥 과대광고하려고 하는 건지도 몰라. 지금은 패스할게.
0
2025年4月10日 0:00:00 GMT
Os benchmarks do modelo de IA da Meta parecem um pouco estranhos para mim. O Maverick ficou em segundo lugar, mas eu usei e não é tão bom assim. A interface é desajeitada e os resultados são inconsistentes. Talvez eles estejam apenas tentando criar hype? Eu passaria por agora.
0
2025年4月10日 0:00:00 GMT
Los benchmarks del modelo de IA de Meta me parecen un poco extraños. Maverick quedó en segundo lugar, pero lo he usado y no es tan bueno. La interfaz es torpe y los resultados son inconsistentes. ¿Quizás solo están tratando de generar hype? Por ahora, lo dejaría pasar.
0
2025年4月12日 0:00:00 GMT
I tried Meta's Maverick and it's pretty good, but those benchmarks seem a bit off to me. It's not as smooth as they claim, and sometimes it's just plain wrong. I'm not sure if it's worth the hype. Maybe they need to tweak their testing methods?
0
