Ноам Браун: модели AI «рассуждения» могли появиться десятилетия назад

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
Связанная статья
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
Рекомендации по связанным специальным темам
Комментарии (16)
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Tiffany Luck из NEA: Компании по-прежнему борются с вопросами окупаемости инвестиций в ИИ
Загрузка плеера…Ранее в этом году «токеномаксимизация» доминировала в Кремниевой долине, когда генеральные директора призывали сотрудников максимально использовать возможности искусственного интеллекта. Однако этот энтузиазм быстро столкнулся с реал
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





Дом






