百度が「Ernie 5.1」を発表、事前学習コストを94%削減し、世界トップ4にランクイン
百度は2026年5月11日、次世代言語モデル「Ernie 5.1」を正式にリリースした。 1月にリリースされたパラメータ数2.4兆の「Ernie 5.0」の事前学習基盤を土台とし、この新バージョンは革新的な「ワンショット・エラスティック・トレーニング・フレームワーク」を用いて開発されました。このアプローチにより、百度は単一のトレーニングサイクルで複数のモデルサイズを最適化することが可能となり、Ernie 5.1の事前学習コストを同等のモデルのわずか6%にまで削減しました。

5月9日時点で、Ernie 5.1はArena Searchのリーダーボードにおいて、1223ポイントのスコアで世界第4位、中国製モデルの中では第1位を獲得しており、その卓越した効率性とバランスの取れた性能を実証しています。
アーキテクチャの面では、Ernie 5.1は深度、幅、およびアクティブなエキスパートの数を調整可能なサブモデル設計を採用しています。総パラメータ数は前世代モデルのわずか3分の1であり、クエリごとにアクティブになる有効パラメータ数も約半分に削減されました。マルチスキルトレーニングでよく見られる「シーソー効果」に対処するため、百度は4段階のポストトレーニングプロセスを実装しました。 この手法では、並列化された特化型トレーニングコード、推論、プロキシエキスパートモデルを活用し、戦略の蒸留と強化学習を組み合わせることで、プログラミング能力と創造的推論のバランスを取るという業界全体の課題を効果的に解決しています。さらに、刷新された強化学習インフラストラクチャにより、モデルの更新、応答生成、評価が分離されました。標準化された低精度計算ライブラリと組み合わせることで、大規模トレーニングの安定性が大幅に向上します。

関連記事
アントロピックの収益が急増し、時価総額が1兆ドルに迫る
報告によると、Anthropicはわずか数ヶ月の間に大幅な収益増加を達成しました。同社の年間収益は現在300億ドルを超えており、これは昨年末の3倍以上です。このような成長により、AnthropicはOpenAIに対してわずかな優位性を持つ可能性がありますが、直接的な比較は容易ではありません。主な要因としては、Claude CodeやCoworkといった製品の成功、および推論モデルのトークン販売量の増加が挙げられます。さらに注目すべきは、Anthropicの利益率が大幅に向上したことです。同社の
アップル、不正なアプリ内購入や操作された請求を理由にCal AIアプリを削除
アップルが最近、MyFitnessPal内で人気のあるAIを活用した食品追跡アプリ「Cal AI」を削除したことは、外部支払いやサブスクリプションに関するApp Storeのポリシーを厳格に適用していることを示しています。このアプリは年間5,000万ドルの反復収入を生み出していましたが、複数の開発者ガイドラインに違反したため一時的に削除されましたが、問題を解決した後に再び復活しました。報道によると、Epic Games対Appleの裁判で米国の開発者が外部支払いシステムにリンクすることが許可さ
Github Copilotのトークンベースの課金方式が開発者たちの怒りを買っている
マイクロソフトのGitHub Copilotの黄金時代が終わりに近づいているかもしれません。特に個人ユーザーにとってはそうです。同社は固定料金制からトークンベースの課金モデルへと移行しており、これによりコストが大幅に増加する可能性があります。大企業ならまだ対応できるかもしれませんが、中小企業やフリーランサーにとっては新しい料金体系を月次予算に組み込むのが難しいでしょう。この変更は6月1日から施行され、ユーザーは作業中に消費したトークン数に基づいて課金されるようになります。従来のリクエストごとの
関連特集おすすめ
コメント (0)
0/500
百度は2026年5月11日、次世代言語モデル「Ernie 5.1」を正式にリリースした。 1月にリリースされたパラメータ数2.4兆の「Ernie 5.0」の事前学習基盤を土台とし、この新バージョンは革新的な「ワンショット・エラスティック・トレーニング・フレームワーク」を用いて開発されました。このアプローチにより、百度は単一のトレーニングサイクルで複数のモデルサイズを最適化することが可能となり、Ernie 5.1の事前学習コストを同等のモデルのわずか6%にまで削減しました。

5月9日時点で、Ernie 5.1はArena Searchのリーダーボードにおいて、1223ポイントのスコアで世界第4位、中国製モデルの中では第1位を獲得しており、その卓越した効率性とバランスの取れた性能を実証しています。
アーキテクチャの面では、Ernie 5.1は深度、幅、およびアクティブなエキスパートの数を調整可能なサブモデル設計を採用しています。総パラメータ数は前世代モデルのわずか3分の1であり、クエリごとにアクティブになる有効パラメータ数も約半分に削減されました。マルチスキルトレーニングでよく見られる「シーソー効果」に対処するため、百度は4段階のポストトレーニングプロセスを実装しました。 この手法では、並列化された特化型トレーニングコード、推論、プロキシエキスパートモデルを活用し、戦略の蒸留と強化学習を組み合わせることで、プログラミング能力と創造的推論のバランスを取るという業界全体の課題を効果的に解決しています。さらに、刷新された強化学習インフラストラクチャにより、モデルの更新、応答生成、評価が分離されました。標準化された低精度計算ライブラリと組み合わせることで、大規模トレーニングの安定性が大幅に向上します。

アントロピックの収益が急増し、時価総額が1兆ドルに迫る
報告によると、Anthropicはわずか数ヶ月の間に大幅な収益増加を達成しました。同社の年間収益は現在300億ドルを超えており、これは昨年末の3倍以上です。このような成長により、AnthropicはOpenAIに対してわずかな優位性を持つ可能性がありますが、直接的な比較は容易ではありません。主な要因としては、Claude CodeやCoworkといった製品の成功、および推論モデルのトークン販売量の増加が挙げられます。さらに注目すべきは、Anthropicの利益率が大幅に向上したことです。同社の
アップル、不正なアプリ内購入や操作された請求を理由にCal AIアプリを削除
アップルが最近、MyFitnessPal内で人気のあるAIを活用した食品追跡アプリ「Cal AI」を削除したことは、外部支払いやサブスクリプションに関するApp Storeのポリシーを厳格に適用していることを示しています。このアプリは年間5,000万ドルの反復収入を生み出していましたが、複数の開発者ガイドラインに違反したため一時的に削除されましたが、問題を解決した後に再び復活しました。報道によると、Epic Games対Appleの裁判で米国の開発者が外部支払いシステムにリンクすることが許可さ
Github Copilotのトークンベースの課金方式が開発者たちの怒りを買っている
マイクロソフトのGitHub Copilotの黄金時代が終わりに近づいているかもしれません。特に個人ユーザーにとってはそうです。同社は固定料金制からトークンベースの課金モデルへと移行しており、これによりコストが大幅に増加する可能性があります。大企業ならまだ対応できるかもしれませんが、中小企業やフリーランサーにとっては新しい料金体系を月次予算に組み込むのが難しいでしょう。この変更は6月1日から施行され、ユーザーは作業中に消費したトークン数に基づいて課金されるようになります。従来のリクエストごとの





家






