専門家から質問されたAIスケーリングブレークスルー

# research # scaling

ソーシャルメディアでは、研究者が新しいAIの「スケーリング法」を発見することについて話題がありましたが、専門家はそれを一粒の塩で服用しています。非公式のガイドラインに似たAIスケーリング法は、より多くのデータとコンピューティングパワーを投げるにつれてAIモデルがどのように良くなるかを示します。約1年前まで、大きなトレンドはすべて「トレーニング前」に関するものでした。基本的には、より大きなデータセットでより大きなモデルをトレーニングしています。それはまだ問題ですが、今ではミックスにさらに2つのスケーリング法があります。トレーニング後のスケーリングは、モデルの動作を微調整することと、モデルの「推論」機能を高めるために推論中により多くのコンピューティングパワーを使用することを含むテスト時間スケーリングです（R1のようなモデルを考えてください）。最近、GoogleとUC Berkeleyの研究者は、オンラインでの一部の人々が第4の法律「推論時間検索」と呼んでいる論文を削除しました。この方法では、モデルがクエリに対する多くの可能な回答を同時に吐き出してから、最高の回答を選択します。研究者たちは、GoogleのGemini 1.5 Proのような古いモデルのパフォーマンスをジュースにして、科学と数学のベンチマークに関するOpenaiのO1-Preview「推論」モデルを破ることができると主張しています。 Googleの博士号であり、論文の共著者の1人であるEric Zhaoは、Xで200個の応答をランダムにサンプリングし、モデルを自己検証させることにより、「古代初期の2024年モデル」を冗談で呼んで、O1-Previewを凌ぐことさえでき、さらにO1に近づくことさえできました。彼は、あなたがスケールアップするにつれて自己検証がより簡単になると指摘しました。しかし、誰もが納得しているわけではありません。アルバータ大学のAI研究者であり助教授であるマシュー・グズディアルは、TechCrunchに、答えを判断する堅実な方法があるときにこのアプローチが最適に機能すると語った。しかし、ほとんどの質問はそれほど簡単ではありません。彼は、「私たちが望むものを定義するためのコードを書くことができない場合、[推論時間]検索を使用することはできません。一般的な言語の相互作用のようなものについては、これは一般的にほとんどの問題を解決するための素晴らしいアプローチではありません。」 Zhaoは、彼らの論文が実際にあなたが答えを判断する明確な方法がない場合に実際に見ていると答え、モデルはそれを単独で把握する必要があると答えました。彼は、判断する明確な方法を持つことと、スケールアップするにつれて縮小できることができると主張しました。キングスカレッジロンドンの研究員であるマイククックは、グズディアルの見解をバックアップし、推論時間検索はモデルの推論を実際に改善していないと述べました。これは、モデルが自信を持って間違いを犯す傾向があるための回避策のようなものです。彼は、あなたのモデルが5％の時間を台無しにした場合、200回の試行をチェックすると、それらの間違いが簡単に見つかるはずだと指摘しました。このニュースは、AI業界にとっては少しダウナーかもしれません。これは、銀行を壊すことなくモデルの「推論」を高める方法を常に狩りにしています。論文の著者が指摘したように、推論モデルは、1つの数学の問題を解決するためだけに数千ドルのコンピューティングコストを獲得できます。新しいスケーリングテクニックの検索は、かなり終わっているようです。 *更新された3/20 5:12 AM太平洋：研究の共著者であるエリック・チャオからのコメントを追加しました。

関連記事

コメント (35)