За пределами закона Мура: Экспоненциальный рост ИИ и зарождающаяся парадигма OpenAI

Темпы развития искусственного интеллекта практически непостижимы. Чтобы описать это явление, специалисты отрасли начали ссылаться на так называемый «закон OpenAI» — современный аналог закона Мура, но с гораздо более стремительной траекторией роста. Эта концепция получила широкое признание в книге «Империя ИИ», в которой описывается рост OpenAI и обострение гонки за созданием искусственного общего интеллекта (AGI). На ее страницах «закон OpenAI» используется для обозначения стремительного роста вычислительных потребностей — и, как следствие, возможностей ИИ — за последние десять лет.

Хотя закон OpenAI не является формальным научным принципом, он указывает на конкретную, измеримую тенденцию: быстрое удвоение вычислительной мощности, используемой для обучения передовых моделей ИИ, которое происходит гораздо быстрее, чем закон Мура. На практике вычислительная мощность ИИ удваивается примерно каждые три-четыре месяца, в то время как цикл закона Мура составляет 18-24 месяца. Эта экспоненциальная кривая является двигателем современного бума ИИ, создавая основу для будущего, которое наступает быстрее, чем ожидают большинство.

Закон Мура: двигатель, который привел к цифровой эре

Закон Мура был основной движущей силой распространения персональных компьютеров, смартфонов и облачных вычислений. Он предсказывал, что количество транзисторов в интегральной схеме будет удваиваться примерно каждые два года, что приведет к экспоненциальному росту вычислительной мощности, энергоэффективности и снижению затрат.

На протяжении десятилетий эта простая закономерность оставалась верной, делая каждое последующее поколение оборудования радикально более мощным, чем предыдущее. Однако в 2010-х годах, когда были достигнуты физические и экономические пределы, закон Мура начал замедляться. Инженеры адаптировались, используя больше процессорных ядер, 3D-укладку чипов и специализированные ускорители для повышения производительности, но эпоха легких и предсказуемых достижений закончилась.

Именно в этот переломный момент исследования в области ИИ, стимулируемые прорывами в области глубокого обучения, начали отклоняться от традиционной траектории закона Мура.

Рождение закона OpenAI: взрывная кривая вычислительной мощности ИИ

В начале 2010-х годов исследователи сделали важнейшее открытие: увеличение вычислительной мощности крупномасштабных нейронных сетей неизменно приводило к появлению более способных систем ИИ. Начиная с 2012 года, объем вычислений, задействованных в крупнейших тренировочных циклах ИИ, начал удваиваться примерно каждые 3–4 месяца.

Это было поразительным ускорением, значительно превышающим темпы закона Мура. За шесть лет вычислительная мощность, используемая для современных моделей ИИ, выросла более чем в 300 000 раз. В то время как закон Мура обеспечил бы только 7-кратное увеличение за тот же период, вычислительная мощность ИИ резко возросла благодаря агрессивному, намеренному масштабированию.

Эта тенденция стала неофициально известна как закон OpenAI — самонавязанная траектория, которой следуют такие организации, как OpenAI, которые сделали ставку на то, что масштабирование размера модели и вычислений является самым быстрым путем к искусственному общему интеллекту (AGI). В книге «Империя ИИ» подробно описывается этот стратегический сдвиг, иллюстрируя, как руководство OpenAI, несмотря на растущие затраты, приверженное этому пути, убедилось, что это самый прямой путь к раскрытию преобразующих возможностей.

Важно отметить, что закон OpenAI не является физической неизбежностью — это стратегический выбор. Убеждение, что «больше вычислений приводит к лучшему ИИ», стало руководящей философией, подкрепленной огромными капиталовложениями, созданием обширной инфраструктуры и глубоким партнерством с поставщиками облачных услуг.

Гипотеза масштабирования и новая гонка вооружений

Основой закона OpenAI является гипотеза масштабирования: идея, что простое увеличение размера моделей и их обучение на большем объеме данных с помощью большей вычислительной мощности приводит к качественно более высокой производительности. Эта гипотеза приобрела достоверность, поскольку каждая последующая модель — от GPT-2 до GPT-3 и GPT-4 — демонстрировала скачок в беглости речи, мышлении и мультимодальном понимании.

В основе этой тенденции лежит интенсивная конкуренция между технологическими гигантами за доминирование на передовых рубежах ИИ. Результатом является своего рода технологическая гонка вооружений, в которой каждый новый рубеж требует экспоненциально больших вычислительных ресурсов, чем предыдущий.

Для обучения современных крупнейших моделей теперь требуются десятки тысяч высокопроизводительных графических процессоров, работающих совместно. Прогнозы для будущих систем предполагают вычислительные бюджеты, которые могут приблизиться к 100 миллиардам долларов или превысить эту сумму, сопровождаемые огромными потребностями в энергии и охлаждении.

Это привело к появлению новой экспоненциальной кривой, которая больше не определяется исключительно плотностью транзисторов, а определяется решительной готовностью масштабировать вычисления практически любой ценой.

Сравнение: закон Хуанга и закон Курцвейла об ускоряющейся отдаче

Чтобы в полной мере оценить значение закона OpenAI, полезно изучить другие основополагающие концепции, которые сформировали наше понимание технологического прогресса за пределами закона Мура.

Закон Хуанга, названный в честь генерального директора NVIDIA Дженсена Хуанга, описывает наблюдение, что производительность графических процессоров для задач искусственного интеллекта улучшается со скоростью, значительно превышающей закон Мура. За последние пять лет производительность графических процессоров выросла более чем в 25 раз, что намного превышает примерно 10-кратное улучшение, ожидаемое от традиционного масштабирования транзисторов.

Это ускорение обусловлено не только миниатюризацией чипов, но и инновациями на системном уровне. Свою роль сыграли достижения в архитектуре графических процессоров, увеличение пропускной способности памяти, высокоскоростные межсоединения и развитие программных экосистем, таких как CUDA и фреймворки глубокого обучения. Важную роль сыграли также инженерные оптимизации в области планирования задач, тензорных операций и параллелизма.

Производительность в задачах инференции и обучения с использованием одного графического процессора за последнее десятилетие выросла в 1000 раз благодаря совокупности инноваций в области аппаратного и программного обеспечения. Фактически, мощность GPU для задач ИИ удваивается каждые 6–12 месяцев, что в три-четыре раза быстрее, чем предполагала исходная кривая Мура. Этот неуклонный темп укрепил позиции GPU как незаменимых двигателей современного ИИ, позволяя проводить массовые параллельные тренировки, лежащие в основе закона OpenAI.

Закон ускоряющейся отдачи Курцвейла развивает концепцию экспоненциального роста еще дальше — он предполагает, что сама *скорость* экспоненциального роста ускоряется с течением времени. Согласно этому принципу, каждый технологический прорыв не является изолированным явлением; он создает инструменты, платформы и знания, которые позволяют следующему прорыву произойти быстрее и эффективнее. Это приводит к кумулятивному эффекту, при котором технологические изменения подпитывают сами себя, ускоряясь как по масштабу, так и по частоте.

Курцвейл утверждает, что эта динамика сократит вековые процессы прогресса до нескольких десятилетий. Если скорость прогресса удваивается каждые десять лет, то в XXI веке может произойти прогресс, эквивалентный десяткам тысяч лет при исторических темпах.

Этот закон особенно актуален для ИИ. Современный ИИ больше не является просто предметом прогресса — он стал мощным ускорителем прогресса. Системы ИИ уже помогают в проектировании новых чипов, оптимизации нейронных сетей, проведении научных исследований и даже написании кода, используемого для создания их преемников. Это создает рекурсивный цикл улучшений, в котором каждое поколение ИИ усиливает развитие следующего, сокращая сроки и умножая возможности.

Этот цикл обратной связи начинает напоминать то, что некоторые называют интеллектуальным взрывом: сценарий, при котором системы ИИ становятся способными быстро совершенствоваться без вмешательства человека. Результатом является кривая, которая не просто резко поднимается, а резко изгибается вверх, поскольку циклы итерации сокращаются, а прорывы следуют один за другим. Если эта тенденция сохранится, мы можем стать свидетелями фазы прогресса, которая будет казаться почти мгновенной, когда целые отрасли и научные области будут развиваться за месяцы, а не десятилетия.

Закон OpenAI вписывается в эту линию как выражение экспоненциального роста со стороны спроса. В отличие от законов Мура или Хуанга, которые описывают темпы совершенствования аппаратного обеспечения, закон OpenAI отражает общий объем вычислительных ресурсов, которые исследователи активно выбирают для достижения превосходных результатов. Он демонстрирует, что прогресс ИИ больше не ограничивается возможностями кремния, а зависит от того, что исследователи готовы — и способны — масштабировать. Подпитываемый обширной облачной инфраструктурой и миллиардными инвестициями, закон OpenAI иллюстрирует новую эру, в которой возможности растут не только за счет инноваций, но и за счет целенаправленных, сконцентрированных усилий.

Вместе эти законы дают многомерное представление об экспоненциальном росте. Мур и Хуанг определяют *предложение* вычислительных мощностей. Курцвейл отображает мета-тенденцию сложного прогресса. А закон OpenAI подчеркивает новый вид технологических амбиций, когда неустанное преодоление пределов больше не является опцией, а самой основной стратегией.

Обещание: почему экспоненциальный ИИ имеет значение

Последствия закона OpenAI являются глубокими.

С оптимистичной стороны, экспоненциальное масштабирование дало поразительные возможности. Системы ИИ теперь могут писать связные эссе, генерировать функциональный код, помогать в новаторских научных исследованиях и вести плавные, нюансированные разговоры. Каждое увеличение масштаба на порядок, похоже, открывает новые возможности, что позволяет предположить, что мы приближаемся к AGI.

ИИ готов преобразовать такие отрасли, как образование, здравоохранение, финансы и материаловедение. Если закон OpenAI будет продолжать действовать, мы можем стать свидетелями прорывов, которые сконцентрируют десятилетия инноваций в нескольких коротких годах.

Эта динамика отражена в новом термине, который мы придумали: «скорость выхода ИИ» — гипотетический момент, когда ИИ начинает самостоятельно совершенствоваться, ускоряя прогресс до самоусиливающегося экспоненциального роста.

Цена: экологические, экономические и этические издержки

Однако экспоненциальный рост не обходится без значительных затрат.

Обучение передовых моделей в настоящее время потребляет огромное количество электроэнергии и воды. Питание тысяч графических процессоров в течение нескольких недель подряд создает серьезные экологические проблемы, включая значительные выбросы углерода и тепловые отходы. Цепочки поставок передовых чипов ИИ также находятся под давлением, что вызывает геополитические проблемы и вопросы устойчивости.

С финансовой точки зрения, только крупнейшие мировые технологические корпорации или исключительно хорошо финансируемые стартапы могут позволить себе оставаться на этой кривой масштабирования. Это приводит к тревожной концентрации власти, когда небольшая группа организаций контролирует передовые технологии в области искусственного интеллекта.

С этической точки зрения, менталитет, поощряемый законом OpenAI — больше, быстрее, раньше — может способствовать динамике гонки, которая чревата риском преждевременного внедрения, недостаточно протестированных систем и упрощениями в области безопасности. Растет опасение, что некоторые мощные модели могут быть выпущены до того, как их влияние на общество будет полностью понято.

Чтобы решить эту проблему, исследователи предложили системы управления, которые отслеживают развитие ИИ не только по результатам модели, но и по объему вычислительных ресурсов, используемых для обучения. Поскольку вычислительные ресурсы являются одним из самых надежных предсказателей возможностей модели, они могут служить практическим прокси для оценки рисков и регулирующего надзора.

Пределы масштабирования: что происходит, когда кривая изгибается?

Несмотря на ошеломляющие успехи, ведутся активные дискуссии о том, как долго может сохраняться эта тенденция масштабирования. Некоторые эксперты считают, что мы уже сталкиваемся с уменьшением отдачи, когда все более крупные модели потребляют гораздо больше вычислительных ресурсов для лишь незначительного улучшения производительности.

Другие утверждают, что прорывы в эффективности алгоритмов, новые архитектуры моделей или методы обучения могут выровнять кривую вычислительных ресурсов, не обязательно замедляя общий прогресс. Меньшие, более совершенные модели в конечном итоге могут оказаться более привлекательными, чем гигантские модели, основанные на методе «грубой силы».

Кроме того, давление со стороны общественности, потенциальное регулирование и чисто физические ограничения инфраструктуры могут заставить отрасль пересмотреть философию «масштабирования любой ценой». Если энергосистемы, финансовые бюджеты или социальная лицензия не смогут идти в ногу с развитием, экспоненциальный рост ИИ может достичь своего предела — или, по крайней мере, значительного переломного момента.

Путь вперед: планирование будущего экспоненциального роста ИИ

На данный момент закон OpenAI остается одним из самых ясных объективов, через который можно смотреть на будущее искусственного интеллекта. Он объясняет, как мы продвинулись от примитивных чат-ботов к мультимодальным универсальным системам менее чем за десятилетие, и предполагает, что следующая волна прогресса может быть еще более драматичной.

Однако этот закон также несет с собой серьезные компромиссы: растущее неравенство в доступе, стремительный рост экономических затрат, нагрузка на окружающую среду и серьезные проблемы безопасности. По мере того как мы ускоряемся в эту новую эру, общество должно столкнуться с фундаментальными вопросами:

• Кто будет определять будущее ИИ?
• Как найти баланс между быстрым прогрессом и необходимой осторожностью?
• Какие системы управления необходимы для управления экспоненциальными возможностями, прежде чем они превзойдут человеческое понимание и контроль?

Закон OpenAI не является неизменной силой природы. Как и закон Мура до него, он может в конечном итоге замедлиться, достичь плато или быть заменен новой парадигмой. Но на данный момент он функционирует как предупреждение и как дорожная карта — напоминание о том, что будущее ИИ не просто развивается, но и усугубляется.

Мы не просто наблюдаем за историей — мы активно создаем ее с экспоненциальной скоростью. Однако с этой беспрецедентной силой приходит и глубокая ответственность: обеспечить, чтобы человечество не понесло экспоненциальный ущерб наряду с экспоненциальным прогрессом.