Noam Brown:AI“推理”模型本可以在几十年前出现

诺姆·布朗,OpenAI 人工智能推理领域的领先研究者,最近在圣何塞的 Nvidia GTC 会议上分享了见解,指出如果当时已知正确的方法和算法,"推理"人工智能的进步可能早在20年前就已实现。他解释说:“由于各种原因,这一研究方向被忽视了,”他强调了在方法上存在的一个空白,这个空白本可以更早被填补。
回顾他的研究历程,布朗指出一个关键的领悟:“我在研究过程中注意到,好的,有一些东西缺失了。人类在面对复杂情况时会花很多时间思考,然后再行动。也许这对人工智能会非常有用。”这一观察促使他开发出模仿人类推理的人工智能模型,而不是仅仅依赖计算能力。
他在卡内基梅隆大学的工作,特别是开发出击败顶级人类扑克玩家的 Pluribus AI,体现了这种方法。Pluribus 的突破在于它使用推理来解决问题,这与当时更常见的暴力计算方法形成了对比。
在 OpenAI,布朗参与了 o1 人工智能模型的开发,该模型使用了一种称为测试时推理的技术。这种技术使人工智能在回应前能够“思考”,提高了其在数学和科学等领域的准确性和可靠性。
在小组讨论中,布朗谈到了学术研究与大型人工智能实验室(如 OpenAI)在实验规模上的竞争挑战。他承认,由于现代模型对计算能力的需求不断增加,学术研究的难度也在增加,但他建议学术界可以通过专注于需要较少计算能力的领域,如设计模型架构,仍然能够作出重大贡献。
他强调了学术界与前沿实验室合作的潜力,指出:“前沿实验室与学术界之间存在合作机会。当然,前沿实验室会关注学术出版物,并认真思考,好的,这个论点是否有说服力,如果进一步扩大规模,会非常有效。如果论文中提出了这样的令人信服的论点,你知道,我们会在这些实验室中进行探索。”
布朗的评论尤为及时,因为特朗普政府提议大幅削减科学经费,这一举措遭到包括杰弗里·希顿在内的 AI 专家的批评,他们认为这种削减可能危及全球人工智能研究工作。
他还指出学术界在改进人工智能基准测试中的关键作用,指出:“人工智能基准测试的现状非常糟糕,而这并不需要大量计算资源。”当前的人工智能基准测试往往关注于冷门知识,无法准确反映用户最关心的能力,导致人们对人工智能模型的真实潜力与进展感到困惑。
太平洋时间下午4:06更新:本文早期版本暗示布朗在最初的评论中提到了像 o1 这样的推理模型。实际上,他指的是在 OpenAI 之前关于游戏人工智能的工作。我们对此错误表示歉意。
相关文章
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI
2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open
相关专题推荐
评论 (16)
0/500
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

诺姆·布朗,OpenAI 人工智能推理领域的领先研究者,最近在圣何塞的 Nvidia GTC 会议上分享了见解,指出如果当时已知正确的方法和算法,"推理"人工智能的进步可能早在20年前就已实现。他解释说:“由于各种原因,这一研究方向被忽视了,”他强调了在方法上存在的一个空白,这个空白本可以更早被填补。
回顾他的研究历程,布朗指出一个关键的领悟:“我在研究过程中注意到,好的,有一些东西缺失了。人类在面对复杂情况时会花很多时间思考,然后再行动。也许这对人工智能会非常有用。”这一观察促使他开发出模仿人类推理的人工智能模型,而不是仅仅依赖计算能力。
他在卡内基梅隆大学的工作,特别是开发出击败顶级人类扑克玩家的 Pluribus AI,体现了这种方法。Pluribus 的突破在于它使用推理来解决问题,这与当时更常见的暴力计算方法形成了对比。
在 OpenAI,布朗参与了 o1 人工智能模型的开发,该模型使用了一种称为测试时推理的技术。这种技术使人工智能在回应前能够“思考”,提高了其在数学和科学等领域的准确性和可靠性。
在小组讨论中,布朗谈到了学术研究与大型人工智能实验室(如 OpenAI)在实验规模上的竞争挑战。他承认,由于现代模型对计算能力的需求不断增加,学术研究的难度也在增加,但他建议学术界可以通过专注于需要较少计算能力的领域,如设计模型架构,仍然能够作出重大贡献。
他强调了学术界与前沿实验室合作的潜力,指出:“前沿实验室与学术界之间存在合作机会。当然,前沿实验室会关注学术出版物,并认真思考,好的,这个论点是否有说服力,如果进一步扩大规模,会非常有效。如果论文中提出了这样的令人信服的论点,你知道,我们会在这些实验室中进行探索。”
布朗的评论尤为及时,因为特朗普政府提议大幅削减科学经费,这一举措遭到包括杰弗里·希顿在内的 AI 专家的批评,他们认为这种削减可能危及全球人工智能研究工作。
他还指出学术界在改进人工智能基准测试中的关键作用,指出:“人工智能基准测试的现状非常糟糕,而这并不需要大量计算资源。”当前的人工智能基准测试往往关注于冷门知识,无法准确反映用户最关心的能力,导致人们对人工智能模型的真实潜力与进展感到困惑。
太平洋时间下午4:06更新:本文早期版本暗示布朗在最初的评论中提到了像 o1 这样的推理模型。实际上,他指的是在 OpenAI 之前关于游戏人工智能的工作。我们对此错误表示歉意。
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI
2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





首页






