Ноам Браун: модели AI «рассуждения» могли появиться десятилетия назад

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
Связанная статья
Сатья Наделла готов использовать новые возможности, предоставляемые соглашением с OpenAI
В среду аналитик с Уолл-стрит напрямую спросил генерального директора Microsoft Сатью Наделлу, как изменения в партнерстве с OpenAI повлияют на финансовые результаты компании.Наделла охарактеризовал новое соглашение как выгодное для всех сторон. “Мы
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Грег Брокман рассказывает, как Илон Маск покинул OpenAI
В конце августа 2017 года ключевые фигуры OpenAI — на тот момент небольшой некоммерческой исследовательской лаборатории — собрались, чтобы обсудить, как создать коммерческую структуру для продвижения
Рекомендации по связанным специальным темам
Комментарии (16)
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
Сатья Наделла готов использовать новые возможности, предоставляемые соглашением с OpenAI
В среду аналитик с Уолл-стрит напрямую спросил генерального директора Microsoft Сатью Наделлу, как изменения в партнерстве с OpenAI повлияют на финансовые результаты компании.Наделла охарактеризовал новое соглашение как выгодное для всех сторон. “Мы
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Грег Брокман рассказывает, как Илон Маск покинул OpenAI
В конце августа 2017 года ключевые фигуры OpenAI — на тот момент небольшой некоммерческой исследовательской лаборатории — собрались, чтобы обсудить, как создать коммерческую структуру для продвижения
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





Дом






