Сэм Альтман из OpenAI объявляет о наступлении эры сверхинтеллекта

Генеральный директор OpenAI Сэм Альтман объявил, что человечество вступило в эру искусственного сверхразума, и пути назад уже нет.

«Мы прошли точку невозврата; восхождение началось, — говорит Альтман. — Мы находимся на пороге создания цифрового сверхинтеллекта, и пока что это удивительно менее странно, чем можно было бы себе представить».

Отсутствие очевидных признаков — роботы еще не стали обычным явлением на наших улицах, а болезни по-прежнему существуют — противоречит тому, что Альтман описывает как глубокие изменения, уже происходящие в настоящее время. В таких компаниях, как его, разрабатываются системы, которые могут превзойти общий человеческий интеллект.

«В значительной степени ChatGPT уже более способен, чем любой отдельный человек в истории», — утверждает Альтман, добавляя, что «сотни миллионов людей ежедневно полагаются на него для выполнения все более важных задач».

Этот беглый комментарий указывает на тревожную правду: эти системы уже обладают значительным влиянием, и даже небольшие ошибки могут нанести огромный ущерб, если они будут усилены в огромных сетях пользователей.

Путь к сверхинтеллекту

Альтман намечает график развития суперинтеллекта, который может заставить многих дважды проверить дату.

Он предвидит «появление агентов, способных к подлинной когнитивной работе» к следующему году, что радикально изменит разработку программного обеспечения. В следующем году могут появиться «системы, которые получают новые знания» — ИИ, который делает оригинальные открытия, а не просто анализирует известную информацию. К 2027 году мы можем стать свидетелями «роботов, выполняющих задачи в физическом мире».

Каждый прогноз представляет собой существенный скачок в способностях, прокладывая путь, ведущий прямо к сверхинтеллекту — системам, чья когнитивная мощь значительно превосходит человеческий потенциал практически во всех областях.

«Мы не знаем пределов интеллекта, выходящих за рамки человеческого уровня, но мы близки к их открытию», — заявляет Альтман.

Этот быстрый прогресс вызвал интенсивные дискуссии среди специалистов, некоторые из которых утверждают, что эти достижения еще далеки на десятилетия. Однако график Альтмана предполагает, что OpenAI располагает внутренними данными, подтверждающими этот ускоренный прогресс, которые не были обнародованы.

Обратная связь, которая меняет все

По словам Альтмана, особенно тревожным аспектом современного развития ИИ является то, что он называет «ранней формой рекурсивного самосовершенствования» — способность современного ИИ помогать ученым в создании более совершенных систем для будущего.

«Передовой ИИ примечателен по многим причинам, но, возможно, ни одна из них не является столь важной, как его использование для ускорения самих исследований в области ИИ», — отмечает он. «Если мы сможем сжать десятилетие исследований в один год или даже месяц, темпы прогресса будут кардинально другими».

Эта скорость усиливается по мере сближения нескольких усилительных циклов. Экономические стимулы способствуют росту инфраструктуры, что позволяет создавать более мощные системы, которые, в свою очередь, создают большую экономическую ценность. Одновременно с этим разработка физических роботов, способных производить больше роботов, может вызвать еще один цикл быстрого роста.

«Темпы, с которыми будут происходить новые прорывы, будут ошеломляющими», — прогнозирует Альтман. «Трудно представить, чего мы сможем достичь к 2035 году; мы можем перейти от решения задач физики высоких энергий в одном году к началу колонизации космоса в следующем».

Такие заявления со стороны почти любого другого человека показались бы преувеличенными. Но исходя от лидера одной из самых передовых организаций в области искусственного интеллекта, они заслуживают серьезного внимания.

Жизнь рядом с суперинтеллектом

Несмотря на потенциальные потрясения, Альтман считает, что многие аспекты повседневной жизни останутся прежними. Люди будут по-прежнему строить глубокие связи, заниматься творчеством и находить радость в простых моментах жизни.

Однако под этой поверхностной непрерывностью общество претерпит фундаментальные изменения. «Целые категории занятости» исчезнут — возможно, быстрее, чем мы сможем создать новые рабочие места или переобучить рабочую силу. Оптимистичный взгляд, по мнению Альтмана, заключается в том, что «глобальное богатство будет расти так быстро, что мы сможем действительно рассматривать варианты политики, которые раньше считались невозможными».

Тем, кому трудно представить себе такое будущее, Альтман предлагает мысленное упражнение: «Фермер, живший тысячу лет назад, наблюдая за нашей современной работой, счел бы ее тривиальной, рассматривая наши занятия как неторопливые игры, которые стали возможными благодаря изобилию пищи и невообразимому комфорту».

Наши будущие поколения могут с таким же недоумением смотреть на самые уважаемые сегодня профессии.

Проблема согласования

На фоне этих прогнозов Альтман подчеркивает критическую дилемму, которая беспокоит экспертов по безопасности ИИ: обеспечение того, чтобы сверхинтеллектуальные системы последовательно отражали человеческие ценности и цели.

Альтман подчеркивает необходимость решения «проблемы согласования, что означает надежное обеспечение того, чтобы системы ИИ учились и действовали в соответствии с нашими коллективными долгосрочными интересами». Он отличает это от алгоритмов социальных сетей, разработанных для максимизации взаимодействия путем воздействия на психологические слабые места.

Это не просто техническая задача, а фундаментальная проблема. Если сверхинтеллект возникнет без надежного согласования, последствия могут быть катастрофическими. Однако определение «наших коллективных долгосрочных интересов» представляет собой огромную трудность для мира с разнообразными и часто противоречивыми ценностями.

«Чем раньше начнутся глобальные дискуссии по установлению общих параметров и определению коллективного согласования, тем лучше», — советует Альтман.

OpenAI создает глобальный мозг

Альтман часто описывает миссию OpenAI как создание «мозга для всего мира».

Это не просто фигура речи. OpenAI и ее конкуренты разрабатывают когнитивные системы, предназначенные для интеграции в структуру человеческого общества — системы, которые, по словам самого Альтмана, превзойдут людей во многих областях.

«Интеллект, который слишком дешев, чтобы его измерить, находится в пределах нашей досягаемости», — заявляет Альтман, подразумевая, что сверхинтеллектуальные инструменты в конечном итоге станут такими же обычными и недорогими, как электричество.

Скептикам, отвергающим это как фантазию, Альтман напоминает, что не так давно сегодняшние достижения ИИ казались столь же нереальными: «Если бы мы в 2020 году описали, где мы находимся сегодня, это прозвучало бы более нелепо, чем наши нынешние прогнозы на 2030 год».

По мере продвижения области ИИ к суперинтеллекту, последняя надежда Альтмана — «Давайте плавно, экспоненциально и без происшествий пройдем через суперинтеллект» — звучит не столько как прогноз, сколько как торжественный призыв.

Хотя точный график будет обсуждаться, лидер OpenAI дает понять, что стремление к сверхинтеллекту не является неминуемым — оно уже реализуется. Человечество теперь должно столкнуться с тем, что это влечет за собой.

См. также: Magistral: Mistral AI бросает вызов крупным технологическим компаниям с помощью модели рассуждения

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие проходит одновременно с другими ведущими событиями, включая Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.

Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям, организованных TechForge, здесь.