ノーム・ブラウン：ai '推論モデルは数十年前に出現した可能性があります

Noam Brown、OpenAIのAI推論における主要な研究者は、最近サンノゼで開催されたNvidiaのGTCカンファレンスで洞察を共有し、適切な方法やアルゴリズムが知られていれば、「推論」AIの進歩は20年前に達成できた可能性があると示唆しました。彼は「この研究の方向性が無視された理由はさまざまだった」と説明し、そのアプローチのギャップがもっと早く埋められた可能性があると強調しました。

自身の研究の旅を振り返り、Brownは重要な気づきを述べました。「研究を進める中で、なるほど、何かが足りないと気づきました。人間は難しい状況で行動する前に多くの時間を考えて過ごします。これが[AIにおいて]非常に役立つかもしれない。」この観察から、彼は計算能力だけに頼るのではなく、人間のような推論を模倣するAIモデルを開発するに至りました。

カーネギーメロン大学での彼の研究、特にトップの人間のポーカープレイヤーを打ち負かしたPluribus AIは、このアプローチの好例です。Pluribusは、当時一般的だった総当たり方式とは対照的に、推論を用いて問題を解決した点で画期的でした。

OpenAIで、Brownはテストタイム推論として知られる手法を使用するAIモデルo1の開発に貢献しました。この技術により、AIは応答する前に「考える」ことができ、特に数学や科学などの分野での精度と信頼性が向上します。

パネルディスカッションでは、Brownは学術研究がOpenAIのような大規模なAIラボの実験の規模と競争する課題について語りました。彼は、現代のモデルの計算需要の増大によりその難しさが増していることを認めつつ、モデルアーキテクチャの設計など、計算能力をあまり必要としない領域に焦点を当てることで、学者が依然として大きく貢献できると提案しました。

彼は、学界と最前線のラボとの協力の可能性を強調し、「最前線のラボと[学界]との協力の機会があります。確かに、最前線のラボは学術出版物を注視し、慎重に考えています。たとえば、これがさらにスケールアップされた場合に非常に効果的だと説得力のある主張が論文にあれば、私たちはそのラボでそれを調査します」と述べました。

Brownのコメントは、トランプ政権が科学資金の大幅な削減を提案しているタイミングで特に重要です。この動きは、Geoffrey Hintonを含むAI専門家から、AI研究の取り組みを世界的に危険にさらす可能性があると批判されています。

彼はまた、AIベンチマークの改善における学界の重要な役割を指摘し、「AIのベンチマークの現状は本当にひどく、それを改善するのに多くの計算能力は必要ありません」と述べました。現在のAIベンチマークはしばしば曖昧な知識に焦点を当て、ユーザーにとって最も重要な能力を正確に反映できず、AIモデルの真の可能性と進歩についての混乱を引き起こしています。

更新：太平洋時間午後4:06：この記事の以前のバージョンでは、Brownが最初のコメントでo1のような推論モデルについて言及していたと示唆していました。実際には、彼はOpenAIに在籍する前のゲームプレイAIに関する研究について話していました。この誤りをお詫びします。