Прорыв для масштабирования искусственного интеллекта, спросил экспертов

# research # scaling

В социальных сетях было некоторое шум о том, что исследователи обнаружили новый «Закон о масштабировании», но эксперты принимают его с зерном соли. Законы об масштабировании ИИ, которые больше похожи на неформальные руководящие принципы, показывают, как модели искусственного интеллекта становятся лучше, когда вы добавляете в них больше данных и вычислительной мощности. Еще год назад большая тенденция была о «предварительной тренировке»-в основном, обучение более крупных моделей на более крупных наборах данных. Это все еще вещь, но теперь у нас есть еще два закона о масштабировании в миксе: пост-тренировочное масштабирование, которое предназначено для настройки поведения модели и масштабирования времени теста, что включает в себя использование большей вычислительной мощности во время вывода, чтобы повысить возможности «рассуждения» модели (мыслить такие модели R1). Недавно исследователи из Google и UC Berkeley бросили статью, которую некоторые люди в Интернете называют четвертым законом: «Поиск времени вывода». Этот метод имеет модель одновременно выплюнуть кучу возможных ответов на запрос, а затем выбирайте лучший. Исследователи утверждают, что это может сочетать производительность более старой модели, такой как Google Gemini 1.5 Pro, чтобы победить модель Openai O1-Preview »« Модель »по науке и математическим показателям. Эрик Чжао, научный сотрудник Google и один из соавторов газеты, поделился на X, который, просто случайным образом отбирая 200 ответов и позволив модели самоуверен, Gemini 1.5-который он в шутку назвал «древней моделью начала 2024 года»-мог превзойти O1-Preview и даже приблизиться к O1. Он указал, что самостоятельная трансляция становится легче, когда вы масштабируете, что является нелогичным, но крутым. Но не все убеждены. Мэтью Гусдиал, исследователь ИИ и доцент в Университете Альберты, сказал TechCrunch, что этот подход работает лучше всего, когда у вас есть солидный способ судить ответы. Однако большинство вопросов не так просто. Он сказал: «Если мы не можем написать код, чтобы определить то, что мы хотим, мы не можем использовать поиск [время вывода]. Для чего-то вроде общего языкового взаимодействия мы не можем этого сделать ... как правило, это не большой подход для решения большинства проблем». Чжао ответил, сказав, что их статья на самом деле рассматривает случаи, когда у вас нет четкого способа судить о ответах, и модель должна выяснить это самостоятельно. Он утверждал, что разрыв между наличием четкого способа судить и отсутствием, когда можно сразиться при масштабировании. Майк Кук, научный сотрудник King's College London, поддержал точку зрения Гусдиала, заявив, что поиск времени вывода на самом деле не делает рассуждения модели лучше. Это больше похоже на обходной путь для тенденции модели совершать уверенные ошибки. Он указал, что если ваша модель испортится в 5% случаев, проверка 200 попыток облегчить обнаружение этих ошибок. Эта новость может быть чем -то вроде понижения для индустрии ИИ, которая всегда на охоте за способами повысить модель «рассуждения», не нарушая банк. Как отметили авторы газеты, модели рассуждений могут набрать тысячи долларов на вычислительные затраты, чтобы решить одну математическую проблему. Похоже, что поиск новых методов масштабирования далеко не закончился. *Обновлено 3/20 5:12 Pacific: Добавлены комментарии соавтора исследования Эрика Чжао, который не согласен с оценкой независимого исследователя, который критиковал работу.*

Связанная статья

Комментарии (35)