Лидеры ИИ основывают дискуссию об AGI на реальности

На недавнем ужине с бизнес-лидерами в Сан-Франциско я задал вопрос, который, казалось, заставил зал замереть: может ли современный ИИ когда-либо достичь интеллекта, подобного человеческому, или даже превзойти его? Эта тема вызывает больше споров, чем можно было бы ожидать.

В 2025 году технические директора полны оптимизма относительно больших языковых моделей (LLMs), таких как те, что стоят за ChatGPT и Gemini. Они убеждены, что эти модели скоро достигнут человеческого уровня интеллекта или даже сверхчеловеческого. Например, Дарио Амодеи из Anthropic написал эссе, в которых предположил, что к 2026 году мы можем увидеть ИИ, превосходящий лауреатов Нобелевской премии в различных областях. Тем временем Сэм Альтман из OpenAI открыто заявлял, что знает, как создать "сверхинтеллектуальный" ИИ, предсказывая, что он может значительно ускорить научные открытия.

Но не все разделяют эту радужную картину. Некоторые лидеры в области ИИ скептически относятся к тому, что LLM достигнут AGI, не говоря уже о сверхинтеллекте, без значительных прорывов. Эти скептики, ранее молчавшие, теперь начинают высказываться активнее.

Скептицизм в сообществе ИИ

Возьмем, к примеру, Томаса Вольфа, сооснователя и главного научного директора Hugging Face. В недавней статье он назвал некоторые аспекты видения Амодеи "наивными мечтаниями в лучшем случае". Опираясь на свою докторскую степень в области статистической и квантовой физики, Вольф утверждает, что прорывы уровня Нобелевской премии происходят от постановки новых вопросов, а не только от ответа на уже известные — в этом ИИ хорош, но не выдающийся в создании новых идей.

"Я бы хотел увидеть эту ‘модель Эйнштейна’ в деле, но нам нужно углубиться в детали того, как этого достичь", — поделился Вольф в интервью TechCrunch. Он написал свою статью, потому что считал, что ажиотаж вокруг AGI затмевает необходимость серьезного обсуждения путей его достижения. Вольф видит будущее, в котором ИИ преобразует мир, но не обязательно достигает человеческого уровня интеллекта или сверхинтеллекта.

Сообщество ИИ часто разделяется на тех, кто верит в AGI, и тех, кто не верит, причем последних иногда называют "анти-технологичными" или просто пессимистами. Однако Вольф считает себя "информированным оптимистом", выступая за прогресс ИИ, но оставаясь при этом реалистом.

Другие голоса в дебатах об ИИ

Генеральный директор Google DeepMind Демис Хассабис, как сообщается, сказал своей команде, что AGI может быть достигнута только через десятилетие, указывая на множество задач, которые ИИ пока не может выполнить. Главный научный сотрудник по ИИ в Meta Янн ЛеКун также выразил сомнения в том, что LLM достигнут AGI, назвав эту идею "нонсенсом" на Nvidia GTC и выступая за новые архитектуры для создания сверхинтеллекта.

Кеннет Стэнли, бывший ведущий исследователь OpenAI, а ныне руководитель в Lila Sciences, работает над деталями создания передового ИИ. Его стартап, недавно привлекший 200 миллионов долларов, сосредоточен на автоматизации научных инноваций. Работа Стэнли посвящена способности ИИ генерировать оригинальные, креативные идеи — области, известной как открытость.

"Я бы хотел сам написать [эссе Вольфа], потому что оно действительно отражает мои чувства", — сказал Стэнли в интервью TechCrunch. Он согласен с Вольфом, что обладание знаниями не автоматически приводит к оригинальным идеям.

Роль креативности в ИИ

Стэнли считает, что креативность критически важна для AGI, но признает, что это сложная задача. В то время как оптимисты, такие как Амодеи, выделяют модели ИИ с "рассуждениями" как шаг к AGI, Стэнли утверждает, что креативность требует другого типа интеллекта. "Рассуждение почти противоположно [креативности]", — объяснил он. "Модели рассуждений сосредоточены на достижении конкретной цели, что может ограничивать тот тип оппортунистического мышления, который необходим для креативности".

Стэнли предлагает, чтобы для создания действительно интеллектуального ИИ нам нужно алгоритмически воспроизвести человеческий вкус к новым идеям. Хотя ИИ преуспевает в таких областях, как математика и программирование, где ответы четкие, он испытывает трудности с более субъективными, креативными задачами, у которых нет "правильного" ответа.

"Люди избегают [субъективности] в науке — это слово почти токсично", — отметил Стэнли. "Но ничто не мешает нам работать с субъективностью [алгоритмически]. Это просто часть потока данных".

Его воодушевляет нарастающий интерес к открытости, с исследовательскими лабораториями в Lila Sciences, Google DeepMind и стартапе Sakana, занимающихся этой проблемой. Стэнли видит, что все больше людей говорят о креативности в ИИ, но считает, что впереди еще много работы.

Реалисты ИИ

Вольф и ЛеКун могут считаться "реалистами ИИ": лидерами, которые подходят к AGI и сверхинтеллекту с обоснованными вопросами о их осуществимости. Их цель — не отрицать достижения ИИ, а инициировать более широкую дискуссию о том, что сдерживает ИИ от достижения AGI и сверхинтеллекта — и решать эти вызовы напрямую.