ИИ начинает создавать себя сам

Ричард Сочер уже давно является видной фигурой в сфере искусственного интеллекта; он широко известен как основатель одного из первых стартапов по разработке чат-ботов — You.com, а до этого — благодаря своей работе над проектом ImageNet. Теперь он присоединяется к новой волне научно-исследовательских стартапов в области ИИ, создав компанию Recursive Superintelligence, базирующуюся в Сан-Франциско, которая в среду вышла из режима секретности, объявив о привлечении финансирования в размере 650 миллионов долларов.

В этом новом проекте Сочера поддерживает группа известных исследователей в области ИИ, включая Питера Норвига и соучредителя Cresta Тима Ши. Вместе они стремятся создать рекурсивно самосовершенствующуюся модель ИИ — такую, которая сможет самостоятельно выявлять свои недостатки и перепроектировать себя для их устранения без вмешательства человека. Эта цель давно считается «святым Граалем» в современных исследованиях в области ИИ.

После запуска я пообщался с ним через Zoom, подробно обсудив уникальный технический подход Recursive и то, почему он не считает этот новый проект «неолабом» — неформальным термином, обозначающим новое поколение стартапов в области ИИ, которые ставят исследования выше разработки продуктов.

Это интервью было сокращено и отредактировано для большей ясности.

В последнее время мы часто слышим о рекурсии — похоже, это широко распространённая цель во многих лабораториях. В чём уникальность вашего подхода?

Наш уникальный подход основан на открытости для достижения рекурсивного самосовершенствования — чего пока никому не удалось добиться. Для многих это недостижимая цель. Многие полагают, что это происходит естественным образом при автоисследовании — можно попросить ИИ улучшить что-то другое, например систему машинного обучения или написанное вами письмо и так далее. Но это не рекурсивное самосовершенствование; это просто улучшение.

Наша главная задача — создать по-настоящему рекурсивный, самосовершенствующийся суперинтеллект в масштабе — то есть весь процесс генерации, реализации и проверки исследовательских идей будет автоматизирован.

Сначала [это автоматизирует] идеи исследований в области ИИ, а в конечном итоге — любые исследовательские идеи, включая те, что относятся к физическим областям. Но это особенно эффективно, когда ИИ работает над самим собой, развивая новую форму самосознания в отношении собственных ограничений.

Вы упомянули термин «неограниченный» — имеет ли он какое-то конкретное техническое значение?

Да, имеет. На самом деле Тим Рокташель, один из наших соучредителей, возглавлял команды по открытости и самосовершенствованию в Google DeepMind и работал именно над моделью мира Genie 3, которая является отличным примером открытости. Вы можете ввести в неё любое понятие, любой мир, любого агента, и она сгенерирует интерактивную версию.

В биологической эволюции животные адаптируются к окружающей среде, а другие виды, в свою очередь, адаптируются к этим адаптациям. Это процесс, который может продолжаться миллиарды лет, при этом постоянно возникают интересные изменения. Именно так у нас [на головах] появились глаза.

Ещё один пример — «радужное теминг» (rainbow teaming) из другой статьи Тима. Вы слышали о «красном теминге» (red teaming)?

В сфере кибербезопасности это означает…

Итак, «ред-тиминг» применим и в контексте LLM. По сути, вы пытаетесь заставить LLM рассказать вам, как изготовить бомбу, и хотите убедиться, что он откажется это делать.

Люди могут потратить много времени на придумывание примеров того, что ИИ не должен говорить. Но что, если протестировать первый ИИ с помощью второго ИИ, причем задача второго ИИ — заставить первый ИИ [попытаться] сказать все возможные вредные вещи? Тогда они могут взаимодействовать друг с другом в течение миллионов итераций.

На самом деле можно заставить два ИИ совместно развиваться. Один непрерывно атакует другой, исследуя не один, а множество различных углов зрения — отсюда и аналогия с радугой. Затем можно «прививать» первый ИИ, делая его всё более безопасным. Эта идея принадлежит Тиму Рокташелю, и сейчас она используется во всех крупных лабораториях.

Как понять, что работа завершена? Полагаю, она никогда не заканчивается по-настоящему.

Некоторые из этих задач никогда не будут завершены. Всегда можно стать умнее, всегда можно совершенствоваться в программировании, математике и так далее. Существуют теоретические пределы интеллекта — я, собственно, сейчас пытаюсь их формализовать, — но они астрономически велики. Мы очень далеки от этих пределов.

Поскольку вы — «неолаборатория», от вас, похоже, ожидают, что вы будете заниматься тем, чем не занимаются крупные лаборатории. Из этого следует, что вы не считаете, что крупные лаборатории достигнут РСИ [рекурсивного самосовершенствования] с помощью своих нынешних подходов. Это верная оценка?

Я не могу комментировать их работу, но действительно считаю, что мы подходим к этому по-другому. Мы полностью поддерживаем концепцию открытости, и наша команда полностью посвятила себя этой идее. На протяжении последнего десятилетия наша команда ведет исследования и публикует работы в этой области, и у нас есть опыт продвижения этой сферы вперед и выпуска реальных продуктов. Например, Тим Ши превратил Cresta в «единорога». Джош Тобин был одним из первых сотрудников OpenAI и впоследствии возглавил там команды Codex и по глубоким исследованиям.

Мне, честно говоря, иногда немного сложно смириться с этим ярлыком «неолаборатории». Мне кажется, что мы — не просто лаборатория. Я хочу, чтобы мы стали по-настоящему жизнеспособной компанией с потрясающими продуктами, которые люди любят использовать и которые оказывают положительное влияние на человечество.

Так когда же вы планируете выпустить свой первый продукт?

Я много об этом думал. Команда добилась такого прогресса, что мы, возможно, даже ускорим сроки, которые изначально предполагали. Но да, продукты будут — и вам придётся ждать не годы, а всего несколько кварталов.

Одна из идей, лежащих в основе рекурсивного самосовершенствования, заключается в том, что как только у нас появится такая система, вычислительные ресурсы станут единственным критически важным ресурсом. Чем быстрее работает система, тем быстрее она совершенствуется, и никакая внешняя человеческая деятельность не сможет по-настоящему повлиять на этот процесс. Таким образом, соревнование сводится к следующему: сколько вычислительной мощности мы сможем задействовать? Как вы думаете, это тот мир, к которому мы движемся?

Не стоит недооценивать вычислительные ресурсы. Думаю, в будущем ключевым вопросом станет: сколько вычислительных ресурсов человечество хочет выделить на решение каких именно проблем? Вот этот рак, а вот тот вирус — с чем вы хотите бороться в первую очередь? Сколько вычислительных ресурсов вы готовы на это выделить? В конечном итоге это становится вопросом распределения ресурсов. Это станет одним из самых важных вопросов в мире.