Noam Brown:AI“推理”模型本可以在幾十年前出現

諾姆·布朗(Noam Brown),OpenAI 人工智能推理領域的領先研究者,最近在聖荷西的 Nvidia GTC 會議上分享了見解,指出若當時已知正確的方法與演算法,"推理"人工智能的進展可能早在 20 年前就已實現。他解釋說:「這項研究方向被忽視有諸多原因」,突顯了當時方法上的一個缺口,這個缺口本可以更早被填補。
回顧他的研究歷程,布朗提到了一個關鍵的領悟:「我在研究過程中注意到,好的,少了些什麼。人類在棘手的情況下會花很多時間思考然後再行動。這也許對人工智能非常有用。」這一觀察促使他開發出模仿人類推理的人工智能模型,而非僅依賴計算能力。
他在卡內基梅隆大學的工作,特別是與 Pluribus AI 的研究,堪稱這種方法的典範。Pluribus 之所以開創性,是因為它使用推理來解決問題,與當時較常見的暴力計算方法形成對比。
在 OpenAI,布朗參與了 o1 人工智能模型的開發,該模型使用了一種稱為測試時推理(test-time inference)的方法。這項技術使人工智能在回應前能「思考」,提升其在數學和科學等領域的準確性與可靠性。
在小組討論中,布朗談到了學術研究與大型人工智能實驗室(如 OpenAI)在實驗規模上競爭的挑戰。他承認,由於現代模型對計算能力的需求日益增加,這種挑戰越來越困難,但他建議學者仍可通過專注於需要較少計算能力的領域(如設計模型架構)來做出重大貢獻。
他強調了學術界與前沿實驗室合作的潛力,說道:「前沿實驗室與學術界之間存在合作機會。當然,前沿實驗室會審視學術出版物,並仔細思考,好的,這是否提出了一個令人信服的論點,如果進一步放大規模,會非常有效。如果論文中有這樣的說服力論點,你知道,我們會在這些實驗室中進行調查。」
布朗的評論尤為及時,因為川普政府提議大幅削減科學研究經費,這一舉動遭到包括 Geoffrey Hinton 在內的人工智能專家批評,他們認為此舉可能會危及全球人工智能研究工作。
他還指出學術界在改進人工智能基準測試中的關鍵作用,指出:「人工智能基準測試的現狀真的很糟糕,而這不需要大量計算能力。」當前的人工智能基準測試往往聚焦於冷僻的知識,無法準確反映對用戶最重要的能力,導致對人工智能模型真實潛力與進展的混淆。
太平洋時間下午 4:06 更新:本文早期版本暗示布朗在開場評論中指的是像 o1 這樣的推理模型。實際上,他指的是在加入 OpenAI 之前關於遊戲人工智能的工作。我們對此錯誤表示歉意。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (16)
0/500
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

諾姆·布朗(Noam Brown),OpenAI 人工智能推理領域的領先研究者,最近在聖荷西的 Nvidia GTC 會議上分享了見解,指出若當時已知正確的方法與演算法,"推理"人工智能的進展可能早在 20 年前就已實現。他解釋說:「這項研究方向被忽視有諸多原因」,突顯了當時方法上的一個缺口,這個缺口本可以更早被填補。
回顧他的研究歷程,布朗提到了一個關鍵的領悟:「我在研究過程中注意到,好的,少了些什麼。人類在棘手的情況下會花很多時間思考然後再行動。這也許對人工智能非常有用。」這一觀察促使他開發出模仿人類推理的人工智能模型,而非僅依賴計算能力。
他在卡內基梅隆大學的工作,特別是與 Pluribus AI 的研究,堪稱這種方法的典範。Pluribus 之所以開創性,是因為它使用推理來解決問題,與當時較常見的暴力計算方法形成對比。
在 OpenAI,布朗參與了 o1 人工智能模型的開發,該模型使用了一種稱為測試時推理(test-time inference)的方法。這項技術使人工智能在回應前能「思考」,提升其在數學和科學等領域的準確性與可靠性。
在小組討論中,布朗談到了學術研究與大型人工智能實驗室(如 OpenAI)在實驗規模上競爭的挑戰。他承認,由於現代模型對計算能力的需求日益增加,這種挑戰越來越困難,但他建議學者仍可通過專注於需要較少計算能力的領域(如設計模型架構)來做出重大貢獻。
他強調了學術界與前沿實驗室合作的潛力,說道:「前沿實驗室與學術界之間存在合作機會。當然,前沿實驗室會審視學術出版物,並仔細思考,好的,這是否提出了一個令人信服的論點,如果進一步放大規模,會非常有效。如果論文中有這樣的說服力論點,你知道,我們會在這些實驗室中進行調查。」
布朗的評論尤為及時,因為川普政府提議大幅削減科學研究經費,這一舉動遭到包括 Geoffrey Hinton 在內的人工智能專家批評,他們認為此舉可能會危及全球人工智能研究工作。
他還指出學術界在改進人工智能基準測試中的關鍵作用,指出:「人工智能基準測試的現狀真的很糟糕,而這不需要大量計算能力。」當前的人工智能基準測試往往聚焦於冷僻的知識,無法準確反映對用戶最重要的能力,導致對人工智能模型真實潛力與進展的混淆。
太平洋時間下午 4:06 更新:本文早期版本暗示布朗在開場評論中指的是像 o1 這樣的推理模型。實際上,他指的是在加入 OpenAI 之前關於遊戲人工智能的工作。我們對此錯誤表示歉意。
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





首頁






