メタのAIモデルベンチマーク：誤解を招く？
2025年4月10日
TimothyMitchell
10
そのため、メタは週末に新しいAIモデルであるマーベリックをドロップしました。LMアリーナで2位になり、すでに波を起こしています。ご存知のように、それは人間が裁判官とju審員を演じる場所であり、さまざまなAIモデルを比較し、お気に入りを選ぶ場所です。しかし、頑張って、ひねりがあります！ LM ArenaでそのものをストラットしているMaverickバージョンは、開発者としてダウンロードしてプレイできるものとはまったく同じではありません。
X（ええ、以前はTwitterとして知られていたプラットフォーム）のAIの一部のAI研究者の一部は、メタがLMアリーナバージョンを「実験的チャットバージョン」と呼んでいることを発見しました。ラマのウェブサイトを覗くと、豆をこぼすチャートがあり、テストは「会話のために最適化されたLlama 4 Maverick」で行われたと述べています。これについては、これについて以前にお話ししましたが、LMアリーナはAIパフォーマンスを測定するためのゴールドスタンダードではありません。ほとんどのAI企業は、このテストでより良く得点するためだけにモデルを台無しにしません。少なくとも、彼らはそれを認めません。
問題は、モデルを微調整してベンチマークを獲得し、その後、異なる「バニラ」バージョンを一般にリリースすると、開発者がモデルが実際のシナリオで実際にどの程度機能するかを把握するのは難しいことです。さらに、それはちょっと誤解を招くですよね？そのまま欠陥があるベンチマークは、モデルが異なるタスクで何ができ、できないことを明確に描く必要があります。
Xの研究者は、ダウンロードできるマーベリックとLMアリーナのものとの大きな違いにすぐに気付きました。 Arenaバージョンは明らかに絵文字に関するものであり、長く描かれた答えを提供するのが大好きです。
大丈夫llama4はdefが調理されたlolです。
- ネイサンランバート（@natolambert） 2025年4月6日
何らかの理由で、アリーナのラマ4モデルはもっと多くの絵文字を使用しています
一緒に。 ai、それはより良いようです： pic.twitter.com/f74odx4ztt
- Tech Dev Notes（@techdevnotes） 2025年4月6日
私たちは、LMアリーナを運営するChatbot Arenaのメタと、このすべてについて彼らが何を言わなければならないかを見るために、人々に連絡しました。乞うご期待！
関連記事
메타는 LLAMA 4 릴리스를 방어하고 혼합 품질 보고서의 원인으로 버그를 인용합니다.
주말 동안, Facebook, Instagram, Whatsapp 및 Quest VR 뒤의 강국 인 Meta는 최신 AI 언어 모델 인 Llama 4를 공개하여 모든 사람들을 놀라게했습니다. 하나뿐만 아니라 3 개의 새로운 버전이 소개되었습니다.
법률 교수는 Meta와의 AI 저작권 전투에서 저자를 지원합니다.
한 저작권법 교수 그룹은 기술 대기업이 저자의 동의없이 전자 책에 대해 LLAMA AI 모델을 전자 책으로 훈련 시켰다고 주장하면서 메타를 고소하는 저자의지지를 주었다. 교수들은 금요일 캘리포니아 북부 지역의 미국 지방 법원에서 아미 쿠스 브리핑을 제출했습니다.
Meta AI는 곧 EU 사용자의 데이터를 훈련시킬 것입니다
Meta는 최근 Facebook 및 Instagram과 같은 플랫폼의 EU 사용자의 데이터를 사용하여 AI를 교육 할 계획을 공개했습니다. 이 이니셔티브는 메타 AI와의 공개 게시물, 의견 및 채팅 이력을 활용하지만 친구 및 가족과의 개인 메시지는 제한이 없습니다.
コメント (35)
0/200
![JerryGonzalez]()
JerryGonzalez
2025年4月10日 10:18:45 GMT
Meta's AI model benchmarks seem a bit off to me. Maverick got second place, but I've used it and it's not that great. The interface is clunky and the results are hit or miss. Maybe they're just trying to hype it up? I'd give it a pass for now.
0
![CarlKing]()
CarlKing
2025年4月10日 10:18:45 GMT
MetaのAIモデルのベンチマークは私には少しおかしいように感じます。Maverickは2位を獲得しましたが、使ってみた感じではそれほど良くありません。インターフェースがぎこちなく、結果も当たり外れがあります。もしかしたら、ただ盛り上げようとしているだけかもしれませんね。今はパスしておきます。
0
![SamuelEvans]()
SamuelEvans
2025年4月10日 10:18:45 GMT
Meta의 AI 모델 벤치마크가 내겐 좀 이상해 보여. Maverick이 2위를 했지만, 써보니 그리 대단하지 않아. 인터페이스가 어색하고 결과도 들쑥날쑥해. 어쩌면 그냥 과대광고하려고 하는 건지도 몰라. 지금은 패스할게.
0
![BenWalker]()
BenWalker
2025年4月10日 10:18:45 GMT
Os benchmarks do modelo de IA da Meta parecem um pouco estranhos para mim. O Maverick ficou em segundo lugar, mas eu usei e não é tão bom assim. A interface é desajeitada e os resultados são inconsistentes. Talvez eles estejam apenas tentando criar hype? Eu passaria por agora.
0
![RobertLewis]()
RobertLewis
2025年4月10日 10:18:45 GMT
Los benchmarks del modelo de IA de Meta me parecen un poco extraños. Maverick quedó en segundo lugar, pero lo he usado y no es tan bueno. La interfaz es torpe y los resultados son inconsistentes. ¿Quizás solo están tratando de generar hype? Por ahora, lo dejaría pasar.
0
![KevinBaker]()
KevinBaker
2025年4月11日 18:25:04 GMT
I tried Meta's Maverick and it's pretty good, but those benchmarks seem a bit off to me. It's not as smooth as they claim, and sometimes it's just plain wrong. I'm not sure if it's worth the hype. Maybe they need to tweak their testing methods?
0
2025年4月10日
TimothyMitchell
10
そのため、メタは週末に新しいAIモデルであるマーベリックをドロップしました。LMアリーナで2位になり、すでに波を起こしています。ご存知のように、それは人間が裁判官とju審員を演じる場所であり、さまざまなAIモデルを比較し、お気に入りを選ぶ場所です。しかし、頑張って、ひねりがあります！ LM ArenaでそのものをストラットしているMaverickバージョンは、開発者としてダウンロードしてプレイできるものとはまったく同じではありません。
X（ええ、以前はTwitterとして知られていたプラットフォーム）のAIの一部のAI研究者の一部は、メタがLMアリーナバージョンを「実験的チャットバージョン」と呼んでいることを発見しました。ラマのウェブサイトを覗くと、豆をこぼすチャートがあり、テストは「会話のために最適化されたLlama 4 Maverick」で行われたと述べています。これについては、これについて以前にお話ししましたが、LMアリーナはAIパフォーマンスを測定するためのゴールドスタンダードではありません。ほとんどのAI企業は、このテストでより良く得点するためだけにモデルを台無しにしません。少なくとも、彼らはそれを認めません。
問題は、モデルを微調整してベンチマークを獲得し、その後、異なる「バニラ」バージョンを一般にリリースすると、開発者がモデルが実際のシナリオで実際にどの程度機能するかを把握するのは難しいことです。さらに、それはちょっと誤解を招くですよね？そのまま欠陥があるベンチマークは、モデルが異なるタスクで何ができ、できないことを明確に描く必要があります。
Xの研究者は、ダウンロードできるマーベリックとLMアリーナのものとの大きな違いにすぐに気付きました。 Arenaバージョンは明らかに絵文字に関するものであり、長く描かれた答えを提供するのが大好きです。
大丈夫llama4はdefが調理されたlolです。
- ネイサンランバート（@natolambert） 2025年4月6日
何らかの理由で、アリーナのラマ4モデルはもっと多くの絵文字を使用しています
- Tech Dev Notes（@techdevnotes） 2025年4月6日
一緒に。 ai、それはより良いようです： pic.twitter.com/f74odx4ztt
私たちは、LMアリーナを運営するChatbot Arenaのメタと、このすべてについて彼らが何を言わなければならないかを見るために、人々に連絡しました。乞うご期待！
메타는 LLAMA 4 릴리스를 방어하고 혼합 품질 보고서의 원인으로 버그를 인용합니다.
주말 동안, Facebook, Instagram, Whatsapp 및 Quest VR 뒤의 강국 인 Meta는 최신 AI 언어 모델 인 Llama 4를 공개하여 모든 사람들을 놀라게했습니다. 하나뿐만 아니라 3 개의 새로운 버전이 소개되었습니다.
법률 교수는 Meta와의 AI 저작권 전투에서 저자를 지원합니다.
한 저작권법 교수 그룹은 기술 대기업이 저자의 동의없이 전자 책에 대해 LLAMA AI 모델을 전자 책으로 훈련 시켰다고 주장하면서 메타를 고소하는 저자의지지를 주었다. 교수들은 금요일 캘리포니아 북부 지역의 미국 지방 법원에서 아미 쿠스 브리핑을 제출했습니다.
Meta AI는 곧 EU 사용자의 데이터를 훈련시킬 것입니다
Meta는 최근 Facebook 및 Instagram과 같은 플랫폼의 EU 사용자의 데이터를 사용하여 AI를 교육 할 계획을 공개했습니다. 이 이니셔티브는 메타 AI와의 공개 게시물, 의견 및 채팅 이력을 활용하지만 친구 및 가족과의 개인 메시지는 제한이 없습니다.
2025年4月10日 10:18:45 GMT
Meta's AI model benchmarks seem a bit off to me. Maverick got second place, but I've used it and it's not that great. The interface is clunky and the results are hit or miss. Maybe they're just trying to hype it up? I'd give it a pass for now.
0
2025年4月10日 10:18:45 GMT
MetaのAIモデルのベンチマークは私には少しおかしいように感じます。Maverickは2位を獲得しましたが、使ってみた感じではそれほど良くありません。インターフェースがぎこちなく、結果も当たり外れがあります。もしかしたら、ただ盛り上げようとしているだけかもしれませんね。今はパスしておきます。
0
2025年4月10日 10:18:45 GMT
Meta의 AI 모델 벤치마크가 내겐 좀 이상해 보여. Maverick이 2위를 했지만, 써보니 그리 대단하지 않아. 인터페이스가 어색하고 결과도 들쑥날쑥해. 어쩌면 그냥 과대광고하려고 하는 건지도 몰라. 지금은 패스할게.
0
2025年4月10日 10:18:45 GMT
Os benchmarks do modelo de IA da Meta parecem um pouco estranhos para mim. O Maverick ficou em segundo lugar, mas eu usei e não é tão bom assim. A interface é desajeitada e os resultados são inconsistentes. Talvez eles estejam apenas tentando criar hype? Eu passaria por agora.
0
2025年4月10日 10:18:45 GMT
Los benchmarks del modelo de IA de Meta me parecen un poco extraños. Maverick quedó en segundo lugar, pero lo he usado y no es tan bueno. La interfaz es torpe y los resultados son inconsistentes. ¿Quizás solo están tratando de generar hype? Por ahora, lo dejaría pasar.
0
2025年4月11日 18:25:04 GMT
I tried Meta's Maverick and it's pretty good, but those benchmarks seem a bit off to me. It's not as smooth as they claim, and sometimes it's just plain wrong. I'm not sure if it's worth the hype. Maybe they need to tweak their testing methods?
0
