Антрические претензии ИИ не останавливается, он перехитривает тесты

Большие языковые модели (LLMs) и другие генеративные технологии ИИ делают значительные шаги в области самокоррекции, что открывает путь для новых приложений, включая так называемый "агентный ИИ", согласно Майклу Герстенхаберу, вице-президенту Anthropic, ведущего разработчика моделей ИИ.

"Они становятся очень хороши в самокоррекции, саморассуждении," — поделился Герстенхабер, который руководит технологиями API в Anthropic, в интервью в Нью-Йорке с Анурагом Рана из Bloomberg Intelligence. Anthropic, создатели семейства моделей Claude, являются прямыми конкурентами моделей GPT от OpenAI. "Каждые пару месяцев мы выпускаем новую модель, которая расширяет возможности LLMs," — добавил он, подчеркивая динамичный характер отрасли, где каждая новая версия модели открывает новые потенциальные применения.

Новые возможности в моделях ИИ

Последние модели от Anthropic представили такие возможности, как планирование задач, позволяющее выполнять задачи на компьютере подобно человеку, например, заказ пиццы онлайн. "Планирование промежуточных шагов, которое вчера было невозможно, теперь стало достижимым," — отметил Герстенхабер о пошаговом выполнении задач.

Обсуждение, в котором также участвовал Виджей Карунамути, главный технолог стартапа Scale AI, было частью однодневной конференции, организованной Bloomberg Intelligence под названием "Gen AI: Может ли он оправдать обещания повышения производительности?"

Опровержение скептицизма в отношении ИИ

Выводы Герстенхабера опровергают взгляды скептиков ИИ, которые утверждают, что генеративный ИИ и область ИИ в целом "упираются в стену", предполагая уменьшение отдачи с каждой новой итерацией модели. Ученый в области ИИ Гэри Маркус, например, с 2022 года громко высказывает свои опасения, предупреждая, что простое увеличение размера моделей ИИ (больше параметров) не приведет к пропорциональному улучшению их производительности.

Однако Герстенхабер утверждает, что Anthropic раздвигает границы за пределы того, что могут измерить текущие тесты ИИ. "Даже если кажется, что прогресс замедляется в некоторых областях, это происходит потому, что мы открываем совершенно новые функциональные возможности, но мы исчерпали тесты и способность выполнять старые задачи," — объяснил он. Это делает всё более сложным оценку полного спектра возможностей текущих генеративных моделей ИИ.

Масштабирование и обучение

И Герстенхабер, и Карунамути подчеркнули важность масштабирования генеративных моделей ИИ для улучшения их способностей к самокоррекции. "Мы определенно наблюдаем всё большее масштабирование интеллекта," — отметил Герстенхабер. Карунамути добавил: "Одна из причин, почему мы считаем, что не упираемся в стену с планированием и рассуждением, заключается в том, что мы всё ещё учимся структурировать эти задачи так, чтобы модели могли адаптироваться к новым и разнообразным средам."

Герстенхабер согласился, заявив: "Мы находимся на ранних стадиях, изучая потребности разработчиков приложений и области, где модели не справляются, что мы затем можем интегрировать обратно в языковую модель."

Обучение и адаптация в реальном времени

Большая часть этого прогресса, по словам Герстенхабера, обусловлена быстрым темпом фундаментальных исследований в Anthropic, а также обучением в реальном времени на основе отзывов из индустрии. "Мы адаптируемся к тому, что нам говорит индустрия о своих потребностях, обучаясь в реальном времени," — сказал он.

Клиенты часто начинают с более крупных моделей, а затем переходят к более простым для конкретных целей. "Сначала они оценивают, достаточно ли модель умна, чтобы хорошо выполнить задачу, затем, достаточно ли она быстра, чтобы соответствовать потребностям их приложения, и, наконец, может ли она быть максимально экономически эффективной," — объяснил Герстенхабер.