ノーム・ブラウン:ai '推論モデルは数十年前に出現した可能性があります

Noam Brown、OpenAIのAI推論における主要な研究者は、最近サンノゼで開催されたNvidiaのGTCカンファレンスで洞察を共有し、適切な方法やアルゴリズムが知られていれば、「推論」AIの進歩は20年前に達成できた可能性があると示唆しました。彼は「この研究の方向性が無視された理由はさまざまだった」と説明し、そのアプローチのギャップがもっと早く埋められた可能性があると強調しました。
自身の研究の旅を振り返り、Brownは重要な気づきを述べました。「研究を進める中で、なるほど、何かが足りないと気づきました。人間は難しい状況で行動する前に多くの時間を考えて過ごします。これが[AIにおいて]非常に役立つかもしれない。」この観察から、彼は計算能力だけに頼るのではなく、人間のような推論を模倣するAIモデルを開発するに至りました。
カーネギーメロン大学での彼の研究、特にトップの人間のポーカープレイヤーを打ち負かしたPluribus AIは、このアプローチの好例です。Pluribusは、当時一般的だった総当たり方式とは対照的に、推論を用いて問題を解決した点で画期的でした。
OpenAIで、Brownはテストタイム推論として知られる手法を使用するAIモデルo1の開発に貢献しました。この技術により、AIは応答する前に「考える」ことができ、特に数学や科学などの分野での精度と信頼性が向上します。
パネルディスカッションでは、Brownは学術研究がOpenAIのような大規模なAIラボの実験の規模と競争する課題について語りました。彼は、現代のモデルの計算需要の増大によりその難しさが増していることを認めつつ、モデルアーキテクチャの設計など、計算能力をあまり必要としない領域に焦点を当てることで、学者が依然として大きく貢献できると提案しました。
彼は、学界と最前線のラボとの協力の可能性を強調し、「最前線のラボと[学界]との協力の機会があります。確かに、最前線のラボは学術出版物を注視し、慎重に考えています。たとえば、これがさらにスケールアップされた場合に非常に効果的だと説得力のある主張が論文にあれば、私たちはそのラボでそれを調査します」と述べました。
Brownのコメントは、トランプ政権が科学資金の大幅な削減を提案しているタイミングで特に重要です。この動きは、Geoffrey Hintonを含むAI専門家から、AI研究の取り組みを世界的に危険にさらす可能性があると批判されています。
彼はまた、AIベンチマークの改善における学界の重要な役割を指摘し、「AIのベンチマークの現状は本当にひどく、それを改善するのに多くの計算能力は必要ありません」と述べました。現在のAIベンチマークはしばしば曖昧な知識に焦点を当て、ユーザーにとって最も重要な能力を正確に反映できず、AIモデルの真の可能性と進歩についての混乱を引き起こしています。
更新:太平洋時間午後4:06:この記事の以前のバージョンでは、Brownが最初のコメントでo1のような推論モデルについて言及していたと示唆していました。実際には、彼はOpenAIに在籍する前のゲームプレイAIに関する研究について話していました。この誤りをお詫びします。
関連記事
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
関連特集おすすめ
コメント (16)
0/500
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

Noam Brown、OpenAIのAI推論における主要な研究者は、最近サンノゼで開催されたNvidiaのGTCカンファレンスで洞察を共有し、適切な方法やアルゴリズムが知られていれば、「推論」AIの進歩は20年前に達成できた可能性があると示唆しました。彼は「この研究の方向性が無視された理由はさまざまだった」と説明し、そのアプローチのギャップがもっと早く埋められた可能性があると強調しました。
自身の研究の旅を振り返り、Brownは重要な気づきを述べました。「研究を進める中で、なるほど、何かが足りないと気づきました。人間は難しい状況で行動する前に多くの時間を考えて過ごします。これが[AIにおいて]非常に役立つかもしれない。」この観察から、彼は計算能力だけに頼るのではなく、人間のような推論を模倣するAIモデルを開発するに至りました。
カーネギーメロン大学での彼の研究、特にトップの人間のポーカープレイヤーを打ち負かしたPluribus AIは、このアプローチの好例です。Pluribusは、当時一般的だった総当たり方式とは対照的に、推論を用いて問題を解決した点で画期的でした。
OpenAIで、Brownはテストタイム推論として知られる手法を使用するAIモデルo1の開発に貢献しました。この技術により、AIは応答する前に「考える」ことができ、特に数学や科学などの分野での精度と信頼性が向上します。
パネルディスカッションでは、Brownは学術研究がOpenAIのような大規模なAIラボの実験の規模と競争する課題について語りました。彼は、現代のモデルの計算需要の増大によりその難しさが増していることを認めつつ、モデルアーキテクチャの設計など、計算能力をあまり必要としない領域に焦点を当てることで、学者が依然として大きく貢献できると提案しました。
彼は、学界と最前線のラボとの協力の可能性を強調し、「最前線のラボと[学界]との協力の機会があります。確かに、最前線のラボは学術出版物を注視し、慎重に考えています。たとえば、これがさらにスケールアップされた場合に非常に効果的だと説得力のある主張が論文にあれば、私たちはそのラボでそれを調査します」と述べました。
Brownのコメントは、トランプ政権が科学資金の大幅な削減を提案しているタイミングで特に重要です。この動きは、Geoffrey Hintonを含むAI専門家から、AI研究の取り組みを世界的に危険にさらす可能性があると批判されています。
彼はまた、AIベンチマークの改善における学界の重要な役割を指摘し、「AIのベンチマークの現状は本当にひどく、それを改善するのに多くの計算能力は必要ありません」と述べました。現在のAIベンチマークはしばしば曖昧な知識に焦点を当て、ユーザーにとって最も重要な能力を正確に反映できず、AIモデルの真の可能性と進歩についての混乱を引き起こしています。
更新:太平洋時間午後4:06:この記事の以前のバージョンでは、Brownが最初のコメントでo1のような推論モデルについて言及していたと示唆していました。実際には、彼はOpenAIに在籍する前のゲームプレイAIに関する研究について話していました。この誤りをお詫びします。
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





家






