Vertex AI: полное руководство по платформе машинного обучения Google

В быстро меняющемся мире искусственного интеллекта одной из ключевых задач для лидеров технологической отрасли является переход от экспериментальных проектов к созданию готовых к использованию в предприятиях решений. В то время как чат-боты, ориентированные на потребителей, привлекают внимание общественности, для успешного развития бизнеса требуется нечто большее, чем просто интерфейс для общения. В условиях современной жесткой конкуренции компаниям необходима надежная, масштабируемая и безопасная экосистема искусственного интеллекта. Именно эту нишу Google стремится заполнить с помощью Vertex AI, своей унифицированной платформы искусственного интеллекта и машинного обучения на Google Cloud.

Vertex AI позиционирует себя как базовый уровень для интеграции генеративного ИИ с современной облачной инфраструктурой. Он предоставляет комплексный набор инструментов, предназначенных для преодоления разрыва между сырыми базовыми моделями и приложениями производственного уровня. Vertex AI — это не просто оболочка для больших языковых моделей (LLM), а унифицированная экосистема машинного обучения и ИИ, в которой генеративный ИИ является ключевым компонентом облачной инфраструктуры.

Центральным элементом Vertex AI является Model Garden, централизованный рынок, предлагающий доступ к более чем 200 тщательно отобранным базовым моделям. Среди них — мультимодальная модель Gemini 2.5 Pro, которая может похвастаться впечатляющим контекстным окном объемом 2 миллиона токенов. В этой статье мы разберем архитектуру Vertex AI, рассмотрим, как Model Garden действует как отраслевой «App Store» для интеллектуальных решений, и изучим технические основы, которые делают эту платформу основой для следующего поколения корпоративного программного обеспечения.

Основная архитектура: унифицированная платформа

Vertex AI — это не разрозненный набор инструментов, а единая экосистема данных и искусственного интеллекта, созданная для преодоления фрагментации данных, инструментов и команд, которая по-прежнему сдерживает развитие машинного обучения. Традиционная разработка ИИ часто происходит в изолированных средах, где данные разбросаны по нескольким хранилищам. Например, организация может хранить данные о клиентах в хранилищах данных SQL, а неструктурированные документы — в Data Lake. Когда данные разрознены, модели ИИ видят только частичную картину, что приводит к предвзятым результатам или высокому уровню галлюцинаций из-за отсутствия полного контекста предприятия.

Vertex AI стремится интегрировать весь жизненный цикл ИИ, от поступления необработанных данных в BigQuery и Cloud Storage до мониторинга производственных систем. Он действует как «соединительная ткань» между этими хранилищами данных. Благодаря встроенной интеграции с Cloud Storage и BigQuery, Vertex AI позволяет моделям получать прямой доступ к данным, устраняя необходимость в сложных конвейерах извлечения, преобразования и загрузки (ETL).

Основа: гиперкомпьютер искусственного интеллекта Google

Генеративный уровень искусственного интеллекта Vertex AI построен на архитектуре гиперкомпьютера искусственного интеллекта Google, интегрированной суперкомпьютерной системе, состоящей из:

TPU v5p и v5e (тензорные процессоры)

Тензорные процессоры Google — это специально разработанные интегральные схемы для конкретных приложений (ASIC), оптимизированные для операций умножения матриц, которые являются основой глубокого обучения.

• TPU v5p (производительность): это флагманский ускоритель для обучения крупномасштабных моделей. Один модуль TPU v5p может масштабироваться до 8960 чипов, соединенных между собой высокоскоростной межчиповой связью (ICI) Google со скоростью 4800 Гбит/с. Для технических руководителей это означает, что обучение модели масштаба GPT-3 (175 миллиардов параметров) происходит в 2,8 раза быстрее, чем в предыдущем поколении, что значительно ускоряет вывод продукта на рынок.
• TPU v5e (эффективность): Разработанный для оптимизации затрат, v5e является рабочей лошадкой для среднемасштабного обучения и высокопроизводительного инференса. Он обеспечивает до 2,5 раз лучшее соотношение цены и производительности, что делает его идеальным выбором для предприятий, которым требуется непрерывный инференс без огромного бюджета.

Графические процессоры NVIDIA H100/A100 для гибкости

Хотя TPU являются специализированными, многие команды разработчиков полагаются на экосистему NVIDIA CUDA. Vertex AI предлагает первоклассную поддержку новейшего оборудования NVIDIA:

• NVIDIA H100 (Hopper): отлично подходит для тонкой настройки крупнейших моделей с открытым исходным кодом, таких как Llama 3.1 405B, которые требуют значительной пропускной способности памяти.
• Сеть Jupiter: чтобы предотвратить сетевые узкие места, Google использует сетевую структуру своего дата-центра Jupiter. Это обеспечивает быструю передачу данных между графическими процессорами, поддерживая удаленный прямой доступ к памяти (RDMA) для обхода накладных расходов ЦП и обеспечения производительности на распределенных узлах, которая почти такая же быстрая, как локальная обработка.

Динамическая оркестрация

Важным техническим достижением в Vertex AI является динамическая оркестрация. В устаревших конфигурациях сбой узла GPU во время многонедельной задачи обучения мог привести к сбою всего процесса.

• Автоматическая отказоустойчивость: Vertex AI, часто работающая на базе Google Kubernetes Engine (GKE) в фоновом режиме, включает в себя «самовосстанавливающиеся» узлы. При обнаружении сбоя оборудования платформа автоматически переносит рабочую нагрузку на исправный узел.
• Динамический планировщик рабочей нагрузки: этот инструмент позволяет командам запрашивать вычислительные мощности в зависимости от срочности. Доступны такие варианты, как Flex Start (более экономичный, запускается, когда ресурсы свободны) или Guaranteed Capacity для критически важных развертываний.
• Бессерверное обучение: для команд, которые хотят избежать управления инфраструктурой, Vertex AI Serverless Training позволяет отправлять код и данные. Платформа предоставляет кластер, запускает задание и затем демонтирует его, взимая плату только за использованные секунды вычислений.

Три точки входа: обнаружение, экспериментирование и автоматизация

Для выполнения различных технических функций — от данных ученых до разработчиков приложений — Vertex AI предоставляет три основные точки входа:

• Model Garden: рынок для открытий.
• Vertex AI Studio: площадка для экспериментов.
• Vertex AI Agent Builder: фабрика для автоматизации.

Model Garden: рынок для открытий

Vertex AI Model Garden от Google Cloud — это централизованная платформа для поиска, тестирования, настройки и развертывания широкого спектра собственных, открытых и сторонних моделей искусственного интеллекта, включая мультимодальные варианты для зрения, текста и кода. Она предлагает бесшовную интеграцию с инструментами MLOps Vertex AI, функционируя как комплексная библиотека, которая помогает разработчикам и предприятиям выбирать подходящую модель для своих задач, будь то генерация текста, анализ изображений или автодополнение кода, и эффективно развертывать их в своей среде Google Cloud.

Model Garden организует более 200 моделей в три отдельных уровня, что позволяет архитекторам сбалансировать производительность, стоимость и контроль:

1. Модели первой стороны (Google): это флагманские мультимодальные модели Google, доступные в Vertex AI, предлагаемые в различных размерах от Pro для сложных рассуждений до Flash для задач с низкой задержкой и большим объемом. Это позволяет разработчикам оптимизировать выбор модели в зависимости от конкретных случаев использования.
2. Модели третьих сторон (проприетарные): благодаря стратегическим партнерствам Vertex AI предоставляет доступ к ведущим моделям от таких компаний, как Anthropic (Claude 3.5) и Mistral AI, в формате «модель как услуга». Вместо того, чтобы управлять отдельными счетами и безопасностью для нескольких поставщиков ИИ, техническая команда может получить доступ ко всем ним через существующий проект Google Cloud, используя унифицированный API.
3. Модели с открытым исходным кодом и открытой весовой системой: этот уровень включает такие модели, как Llama 3.2 от Meta, Mistral и Gemma от Google. Они идеально подходят для организаций, которые предпочитают самостоятельно развертывать модели в своем собственном виртуальном частном облаке, чтобы обеспечить максимальную изоляцию данных.

В неунифицированной среде развертывание модели с открытым исходным кодом, такой как Llama, требует настройки среды PyTorch, конфигурации драйверов CUDA и создания оболочки Flask или FastAPI.

Model Garden устраняет эту трудоемкую фазу настройки с помощью унифицированных управляемых конечных точек:

• Развертывание в один клик: для многих моделей нажатие кнопки «Развернуть» автоматически выделяет необходимые ресурсы TPU/GPU, упаковывает модель в готовый к производству контейнер и предоставляет конечную точку REST API.
• Интеграция с Hugging Face: Vertex AI теперь позволяет разработчикам развертывать модели непосредственно из Hugging Face Hub в конечную точку Vertex, что значительно расширяет спектр доступных интеллектуальных решений.
• Private Service Connect (PSC): для отраслей с высоким уровнем регулирования модели могут быть развернуты с помощью Private Service Connect, что гарантирует, что конечная точка модели никогда не будет доступна в публичном Интернете, а весь трафик данных будет оставаться в пределах корпоративной сети.

Vertex AI Studio: площадка для экспериментов

В то время как Model Garden фокусируется на выборе модели, Vertex AI Studio занимается ее доработкой. Его можно сравнить с компиляторами и отладчиками, используемыми в традиционной разработке программного обеспечения. Vertex AI Studio — это рабочая среда, в которой сырые модели адаптируются под конкретные бизнес-инструменты посредством быстрого проектирования, мультимодального тестирования и расширенной настройки гиперпараметров.

Мультимодальное прототипирование: за пределами текста

Отличительной особенностью Studio является встроенная поддержка мультимодальности. В то время как другие платформы часто требуют сложного кодирования для обработки нетекстовых данных, Vertex AI Studio позволяет перетаскивать файлы прямо в интерфейс для тестирования таких возможностей, как рассуждения Gemini 2.5.

• Видеоинтеллект: вы можете загрузить 45-минутную техническую презентацию и попросить модель «определить каждое упоминание конкретного API и предоставить сводку с временными метками».
• Анализ документов: модель может анализировать не только текст, но и визуальную структуру 1000-страничного PDF-файла, понимая взаимосвязи между диаграммами, таблицами и окружающим текстом.
• Выполнение кода: Studio теперь поддерживает выполнение кода в своей игровой площадке. Если вы попросите модель решить сложную математическую задачу или проанализировать файл CSV, модель может написать и запустить код Python в безопасной изолированной среде, чтобы предоставить проверенный ответ.

Расширенная настройка: путь настройки

Когда инженерия подсказок (с использованием обучения без примеров или с небольшим количеством примеров) достигает своих пределов, Vertex AI Studio предоставляет более мощные инструменты: настройку модели.

1. Контролируемая точная настройка (SFT): разработчики предоставляют набор данных пар «промпт/ответ» (в идеале более 100 примеров). Это обучает модель использовать определенный стиль бренда, формат вывода (например, специализированную схему JSON) или терминологию, специфичную для данной области.
2. Кэширование контекста: для предприятий, работающих с большими статическими наборами данных, такими как юридические библиотеки или кодовые базы, Studio поддерживает кэширование контекста. Это позволяет «предварительно загрузить» миллион токенов данных в память модели, что значительно сокращает задержку и затраты на последующие запросы.
3. Дистилляция (учитель-ученик): это передовая архитектурная техника. Вы можете использовать большую модель (например, Gemini 2.5 Pro) для «обучения» меньшей и более быстрой модели (например, Gemini 2.0 Flash). Результатом является легкая модель, которая работает на уровне «Pro», но с скоростью и стоимостью «Flash».

Vertex AI Agent Builder: фабрика для автоматизации

Vertex AI Agent Builder — это высокоуровневая среда оркестрации, которая позволяет разработчикам создавать интеллектуальных агентов путем объединения базовых моделей с корпоративными данными и внешними API.

Архитектура «истины»: заземление и RAG

Основным техническим препятствием для корпоративного ИИ является галлюцинация. Agent Builder решает эту проблему с помощью сложного механизма заземления.

• Grounding с Google Search: для запросов, требующих информации в режиме реального времени (например, «Каковы текущие ставки по ипотечным кредитам в Нью-Йорке?»), агент может выполнить поиск в Google, извлечь соответствующие факты и сослаться на их источники.
• Vertex AI Search (RAG-as-a-Service): вместо ручного создания векторной базы данных (с помощью таких инструментов, как Pinecone или Weaviate) разработчики могут использовать Vertex AI Search для индексирования своих документов (PDF, HTML, таблицы BigQuery). Он автоматизирует этапы «разбиения на фрагменты», «встраивания» и «извлечения», гарантируя, что ответы агента будут основаны исключительно на вашем внутреннем «источнике правды».
• Vertex AI RAG Engine: для крупномасштабных настраиваемых реализаций этот управляемый сервис поддерживает гибридный поиск (сочетающий результаты на основе векторов и ключевых слов), который может повысить точность до 30 % по сравнению со стандартными результатами LLM.

Оркестрация нескольких агентов (протокол A2A)

Сложные рабочие процессы предприятия часто требуют сотрудничества нескольких специализированных агентов. Vertex AI представляет протокол Agent-to-Agent (A2A), открытый стандарт, который позволяет:

• «Туристическому агенту» проконсультироваться с «финансовым агентом», чтобы подтвердить, что бронирование авиабилетов не выходит за рамки корпоративного бюджета.
• Взаимодействие: благодаря использованию открытого протокола агенты, построенные на Vertex AI, могут взаимодействовать с агентами, разработанными на других платформах, таких как LangChain или CrewAI.

Стек разработчика: ADK и Agent Engine

Для технической аудитории платформы Agent Builder предлагает два различных пути разработки:

1. Консоль без кода: визуальный интерфейс с функцией перетаскивания для быстрого прототипирования и настройки бизнес-пользователями.
2. Agent Development Kit (ADK): инструментарий Python для инженеров, ориентированный на код. Он поддерживает «Prompt-as-Code», интегрируется с системами контроля версий и позволяет развертывать Vertex AI Agent Engine — управляемую среду выполнения, которая автоматически обрабатывает сохранность сеансов, масштабирование и управление состоянием.

Заключение: от «Что, если» к «Что дальше»

Путь от впечатляющей демонстрации ИИ до готового к производству корпоративного приложения часто становился «долиной смерти» для инициатив по цифровой трансформации. Как мы видели, Vertex AI специально разработан для преодоления этого разрыва. Объединяя разрозненные хранилища данных, инфраструктуру и оркестрацию моделей, Google Cloud переносит акцент с сырой мощности больших языковых моделей на операционную зрелость всего жизненного цикла ИИ.