Лидеры ИИ основывают дискуссию об AGI на реальности

На недавнем ужине с бизнес-лидерами в Сан-Франциско я задал вопрос, который, казалось, заставил всех замолчать: сможет ли сегодняшний ИИ когда-нибудь достичь уровня человеческого интеллекта или даже превзойти его? Это тема, которая вызывает больше дебатов, чем можно было бы ожидать.

В 2025 году технические директора с оптимизмом говорят о больших языковых моделях (LLM), таких как те, что стоят за ChatGPT и Gemini. Они уверены, что эти модели вскоре могут достичь уровня человеческого или даже сверхчеловеческого интеллекта. Например, Дарио Амодеи из Anthropic написал эссе, в которых предполагает, что к 2026 году мы можем увидеть ИИ, умнее лауреатов Нобелевской премии в различных областях. В то же время, Сэм Альтман из OpenAI активно заявляет о том, что знает, как создать "сверхинтеллектуальный" ИИ, предсказывая, что это может ускорить научные открытия.

Но не все разделяют этот оптимистичный взгляд. Некоторые лидеры в области ИИ скептически относятся к тому, что LLM могут достичь уровня общего искусственного интеллекта (AGI), не говоря уже о сверхинтеллекте, без значительных прорывов. Эти скептики, ранее молчавшие, теперь высказываются все громче.

Скептицизм в сообществе ИИ

Возьмем, к примеру, Томаса Вольфа, сооснователя и главного научного сотрудника Hugging Face. В недавней статье он назвал часть видения Амодеи "наилучшим образом желаемым мышлением". Опираясь на свой докторский диплом по статистической и квантовой физике, Вольф утверждает, что прорывы на уровне Нобелевской премии приходят от задавания новых вопросов, а не только от ответа на известные — что-то, в чем ИИ хорош, но не велик для создания новых идей.

"Мне бы очень хотелось увидеть эту ‘модель Эйнштейна’, но нам нужно углубиться в детали того, как туда попасть", — поделился Вольф в интервью для TechCrunch. Он написал свою статью, потому что чувствовал, что ажиотаж вокруг AGI затмевает необходимость серьезного обсуждения того, как его достичь. Вольф видит будущее, где ИИ трансформирует мир, но не обязательно то, где он достигнет уровня человеческого интеллекта или сверхинтеллекта.

Сообщество ИИ часто разделено на тех, кто верит в AGI, и тех, кто не верит, причем последних иногда называют "анти-технологическими" или просто пессимистами. Вольф, однако, считает себя "информированным оптимистом", выступая за развитие ИИ и оставаясь при этом на земле.

Другие голоса в дебатах об ИИ

Сообщается, что генеральный директор Google DeepMind Демис Хассибис сказал своей команде, что AGI может быть еще в десятилетии от нас, указывая на множество задач, которые ИИ пока не может выполнять. Главный научный сотрудник по ИИ в Meta Янн Лекун также выразил сомнения в том, что LLM могут достичь AGI, назвав эту идею "бессмыслицей" на Nvidia GTC и призывая к новым архитектурам для поддержки сверхинтеллекта.

Кеннет Стэнли, бывший ведущий исследователь в OpenAI, а ныне исполнительный директор в Lila Sciences, работает над деталями создания продвинутого ИИ. Его стартап, который недавно привлек 200 миллионов долларов, сосредоточен на автоматизации научных инноваций. Работа Стэнли касается способности ИИ генерировать оригинальные, творческие идеи — области, известной как открытость.

"Мне бы хотелось написать [эссе Вольфа], потому что оно действительно отражает мои чувства", — сказал Стэнли для TechCrunch. Он согласен с Вольфом в том, что знание само по себе не ведет к оригинальным идеям.

Роль творчества в ИИ

Стэнли считает, что творчество крайне важно для AGI, но признает, что это сложная задача. В то время как оптимисты вроде Амодеи подчеркивают модели "рассуждения" ИИ как шаг к AGI, Стэнли утверждает, что творчество требует другого рода интеллекта. "Рассуждение почти противоположно [творчеству]", — объяснил он. "Модели рассуждения сосредоточены на достижении конкретной цели, что может ограничить тот вид оппортунистического мышления, который необходим для творчества."

Стэнли предполагает, что для создания по-настоящему интеллектуального ИИ нам нужно алгоритмически воспроизвести человеческое стремление к новым идеям. Хотя ИИ превосходно справляется с такими областями, как математика и программирование, где ответы ясны, он испытывает трудности с более субъективными, творческими задачами, у которых нет "правильного" ответа.

"Люди избегают [субъективности] в науке — это слово почти токсично", — отметил Стэнли. "Но ничто не мешает нам работать с субъективностью [алгоритмически]. Это просто часть потока данных."

Он ободрен растущим вниманием к открытости, с исследовательскими лабораториями в Lila Sciences, Google DeepMind и стартапе по ИИ Sakana, работающими над этой проблемой. Стэнли видит, что все больше людей говорят о творчестве в ИИ, но считает, что впереди еще много работы.

Реалисты ИИ

Вольф и Лекун могут быть названы "реалистами ИИ": лидерами, которые подходят к AGI и сверхинтеллекту с обоснованными вопросами о их осуществимости. Их цель не в том, чтобы отвергать достижения ИИ, а в том, чтобы вызвать более широкую дискуссию о том, что мешает ИИ достичь AGI и сверхинтеллекта — и чтобы напрямую решать эти проблемы.