28歳のCTO、曾国陽氏が率いるMianbi Intelligenceは、スマートフォン、自動車、おもちゃなどのエッジデバイス向けに、大規模なAIモデルの圧縮に注力している。同社のアプローチでは、知識密度を3.5ヶ月ごとに倍増させることを重視しており、これによりMiniCPM(パラメータ数20億)のような小型モデルでも、より大規模なモデルを上回る性能を発揮できるようになる。 エッジAIは、パーソナライズされたメモリを実現しつつ、消費電力、レイテンシ、ハードウェアの課題を解決しなければならない。同チームは、品質を確保するために、トレーニングフレームワーク「ForgeTrain」と5階層のデータ階層を開発した。





家
