Ноам Браун: модели AI «рассуждения» могли появиться десятилетия назад

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.

Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.

Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.

В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.

Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.

Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».

Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.

Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.

Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.