Vertex AI: Ein umfassender Leitfaden zur Machine-Learning-Plattform von Google

In der schnelllebigen Welt der künstlichen Intelligenz besteht eine zentrale Herausforderung für Technologieführer darin, über experimentelle Projekte hinauszugehen und unternehmensgerechte Lösungen zu entwickeln. Während Chatbots für Verbraucher die Aufmerksamkeit der Öffentlichkeit auf sich ziehen, benötigen Unternehmen mehr als nur eine Konversationsschnittstelle, um erfolgreich zu sein. In dem heutigen, von intensivem Wettbewerb geprägten Umfeld benötigen Unternehmen ein robustes, skalierbares und sicheres KI-Ökosystem. Diese Lücke möchte Google mit Vertex AI schließen, seiner einheitlichen KI- und Machine-Learning-Plattform auf Google Cloud.

Vertex AI positioniert sich als grundlegende Ebene für die Integration generativer KI in moderne Cloud-Infrastrukturen. Es bietet eine umfassende Suite von Tools, die die Lücke zwischen rohen Basismodellen und produktionsreifen Anwendungen schließen sollen. Vertex AI ist mehr als nur eine Hülle für große Sprachmodelle (LLMs), sondern ein einheitliches Ökosystem für maschinelles Lernen und KI, in dem generative KI eine Kernkomponente der Cloud-Infrastruktur ist.

Im Zentrum von Vertex AI steht der Model Garden, ein zentraler Marktplatz, der Zugang zu über 200 kuratierten Basismodellen bietet. Dazu gehört auch das multimodale Gemini 2.5 Pro, das sich durch ein beeindruckendes Kontextfenster von 2 Millionen Token auszeichnet. In diesem Artikel wird die Architektur von Vertex AI erläutert, untersucht, wie der Model Garden als „App Store” für Intelligenz fungiert, und die technischen Säulen beleuchtet, die diese Plattform zum Rückgrat der nächsten Generation von Unternehmenssoftware machen.

Die Kernarchitektur: Eine einheitliche Plattform

Vertex AI ist keine unzusammenhängende Sammlung von Tools, sondern ein einheitliches Daten- und KI-Ökosystem, das entwickelt wurde, um die Fragmentierung von Daten, Tools und Teams zu überwinden, die das maschinelle Lernen nach wie vor behindert. Die traditionelle KI-Entwicklung findet oft in isolierten Umgebungen statt, wobei die Daten über mehrere Repositorys verstreut sind. Beispielsweise kann ein Unternehmen Kundendaten in SQL-Data-Warehouses speichern, während unstrukturierte Dokumente in einem Data Lake liegen. Wenn Daten isoliert sind, sehen KI-Modelle nur ein unvollständiges Bild, was zu verzerrten Ergebnissen oder hohen Halluzinationsraten führt, da der vollständige Unternehmenskontext fehlt.

Vertex AI zielt darauf ab, den gesamten KI-Lebenszyklus zu integrieren, von der Erfassung von Rohdaten in BigQuery und Cloud Storage bis hin zur Überwachung von Produktionssystemen. Es fungiert als „Bindegewebe“ zwischen diesen Datensilos. Durch die native Integration in Cloud Storage und BigQuery ermöglicht Vertex AI den direkten Zugriff auf Daten, wodurch komplexe ETL-Pipelines (Extraction, Transformation, Load) überflüssig werden.

Die Grundlage: Googles KI-Hypercomputer

Die generative KI-Schicht von Vertex AI basiert auf der KI-Hypercomputer-Architektur von Google, einem integrierten Supercomputing-System, das aus folgenden Komponenten besteht:

TPU v5p & v5e (Tensor Processing Units)

Die Tensor Processing Units von Google sind speziell angefertigte anwendungsspezifische integrierte Schaltkreise (ASICs), die für die für Deep Learning grundlegenden Matrixmultiplikationsoperationen optimiert sind.

• TPU v5p (Leistung): Dies ist der Flaggschiff-Beschleuniger für das Training groß angelegter Modelle. Ein einzelner TPU v5p-Pod kann auf 8.960 Chips skaliert werden, die durch Googles Inter-Chip Interconnect (ICI) mit hoher Bandbreite von 4.800 Gbit/s miteinander verbunden sind. Für technische Führungskräfte bedeutet dies, dass ein Modell im GPT-3-Maßstab (175 Milliarden Parameter) 2,8-mal schneller als bei der Vorgängergeneration trainiert werden kann, was die Markteinführungszeit erheblich verkürzt.
• TPU v5e (Effizienz): Der v5e wurde für kostenoptimierte Leistung entwickelt und ist das Arbeitstier für mittelgroßes Training und Inferenz mit hohem Durchsatz. Er bietet eine bis zu 2,5-mal bessere Preis-Leistungs-Bilanz und ist damit die ideale Wahl für Unternehmen, die eine kontinuierliche Inferenz ohne großes Budget benötigen.

NVIDIA H100/A100-GPUs für Flexibilität

Während TPUs spezialisiert sind, sind viele Entwicklungsteams auf das NVIDIA CUDA-Ökosystem angewiesen. Vertex AI bietet erstklassige Unterstützung für die neueste Hardware von NVIDIA:

• NVIDIA H100 (Hopper): Hervorragend geeignet für die Feinabstimmung der größten Open-Source-Modelle wie Llama 3.1 405B, die eine erhebliche Speicherbandbreite erfordern.
• Jupiter Networking: Um Netzwerkengpässe zu vermeiden, setzt Google seine Jupiter-Rechenzentrumsnetzwerkstruktur ein. Diese gewährleistet eine schnelle Datenübertragung zwischen GPUs und unterstützt Remote Direct Memory Access (RDMA), um CPU-Overhead zu umgehen und eine Leistung über verteilte Knoten hinweg zu erzielen, die fast so schnell ist wie die lokale Verarbeitung.

Dynamische Orchestrierung

Eine entscheidende technische Weiterentwicklung in Vertex AI ist die dynamische Orchestrierung. In älteren Setups konnte ein Ausfall eines GPU-Knotens während eines mehrwöchigen Trainingsjobs zum Absturz des gesamten Prozesses führen.

• Automatisierte Ausfallsicherheit: Vertex AI, das im Hintergrund häufig von Google Kubernetes Engine (GKE) unterstützt wird, umfasst „selbstheilende“ Knoten. Wenn ein Hardwarefehler erkannt wird, überträgt die Plattform die Arbeitslast automatisch auf einen fehlerfreien Knoten.
• Dynamischer Workload-Scheduler: Mit diesem Tool können Teams je nach Dringlichkeit Rechenkapazität anfordern. Zu den Optionen gehören Flex Start (kostengünstiger, beginnt, wenn Ressourcen frei sind) oder Guaranteed Capacity für unternehmenskritische Bereitstellungen.
• Serverloses Training: Für Teams, die sich nicht um die Infrastrukturverwaltung kümmern möchten, bietet Vertex AI Serverless Training die Möglichkeit, Code und Daten einzureichen. Die Plattform stellt den Cluster bereit, führt den Auftrag aus und baut ihn anschließend wieder ab – wobei nur die tatsächlich genutzten Rechensekunden in Rechnung gestellt werden.

Die drei Einstiegspunkte: Entdeckung, Experimentieren und Automatisierung

Um unterschiedlichen technischen Rollen gerecht zu werden – von Datenwissenschaftlern bis hin zu Anwendungsentwicklern – bietet Vertex AI drei Haupteinstiegspunkte:

• Model Garden: Der Marktplatz für Entdeckungen.
• Vertex AI Studio: Der Spielplatz für Experimente.
• Vertex AI Agent Builder: Die Fabrik für die Automatisierung.

Model Garden: Der Marktplatz für Entdeckungen

Der Vertex AI Model Garden von Google Cloud ist eine zentralisierte Plattform zum Entdecken, Testen, Anpassen und Bereitstellen einer Vielzahl von First-Party-, Open-Source- und Third-Party-KI-Modellen, einschließlich multimodaler Optionen für Bildverarbeitung, Text und Code. Er bietet eine nahtlose Integration mit den MLOps-Tools von Vertex AI und fungiert als umfassende Bibliothek, die Entwicklern und Unternehmen dabei hilft, das richtige Modell für ihre Aufgaben auszuwählen, sei es für die Textgenerierung, Bildanalyse oder Code-Vervollständigung, und diese effizient in ihrer Google Cloud-Umgebung bereitzustellen.

Model Garden organisiert seine über 200 Modelle in drei verschiedene Ebenen, sodass Architekten ein Gleichgewicht zwischen Leistung, Kosten und Kontrolle herstellen können:

1. First-Party-Modelle (Google): Hierbei handelt es sich um die multimodalen Flaggschiff-Modelle von Google, die in Vertex AI verfügbar sind und in verschiedenen Größen angeboten werden, von Pro für komplexe Schlussfolgerungen bis hin zu Flash für Aufgaben mit geringer Latenz und hohem Volumen. So können Entwickler die Modellauswahl auf der Grundlage ihrer spezifischen Anwendungsfälle optimieren.
2. Modelle von Drittanbietern (proprietär): Durch strategische Partnerschaften bietet Vertex AI „Model-as-a-Service“-Zugriff auf führende Modelle von Unternehmen wie Anthropic (Claude 3.5) und Mistral AI. Anstatt separate Abrechnungen und Sicherheitsmaßnahmen für mehrere KI-Anbieter zu verwalten, kann ein technisches Team über eine einheitliche API über sein bestehendes Google Cloud-Projekt auf alle zugreifen.
3. Open-Source- und Open-Weight-Modelle: Diese Stufe umfasst Modelle wie Llama 3.2 von Meta, Mistral und Googles eigenes Gemma. Diese sind ideal für Unternehmen, die es vorziehen, Modelle innerhalb ihrer eigenen Virtual Private Cloud selbst bereitzustellen, um eine maximale Datenisolierung zu gewährleisten.

In einer nicht einheitlichen Umgebung erfordert die Bereitstellung eines Open-Source-Modells wie Llama die Einrichtung einer PyTorch-Umgebung, die Konfiguration von CUDA-Treibern und die Erstellung eines Flask- oder FastAPI-Wrappers.

Model Garden beseitigt diese umständliche Einrichtungsphase durch Unified Managed Endpoints:

• Ein-Klick-Bereitstellung: Bei vielen Modellen werden durch Klicken auf „Bereitstellen“ automatisch die erforderlichen TPU/GPU-Ressourcen bereitgestellt, das Modell in einem produktionsreifen Container gepackt und ein REST-API-Endpunkt bereitgestellt.
• Hugging Face-Integration: Mit Vertex AI können Entwickler Modelle jetzt direkt aus dem Hugging Face Hub in einem Vertex-Endpunkt bereitstellen, wodurch die Bandbreite der verfügbaren Intelligenz erheblich erweitert wird.
• Private Service Connect (PSC): Für stark regulierte Branchen können Modelle mit Private Service Connect bereitgestellt werden, wodurch sichergestellt wird, dass der Modell-Endpunkt niemals dem öffentlichen Internet ausgesetzt ist und der gesamte Datenverkehr innerhalb des Unternehmensnetzwerks bleibt.

Vertex AI Studio: Der Spielplatz für Experimente

Während sich Model Garden auf die Modellauswahl konzentriert, geht es bei Vertex AI Studio um die Verfeinerung. Es lässt sich mit den Compilern und Debuggern vergleichen, die in der traditionellen Softwareentwicklung verwendet werden. Vertex AI Studio ist der Arbeitsbereich, in dem Rohmodelle durch Prompt Engineering, multimodale Tests und fortschrittliche Hyperparameter-Optimierung zu spezifischen Geschäftstools angepasst werden.

Multimodales Prototyping: Über Text hinaus

Eine herausragende Funktion des Studios ist seine native Unterstützung für Multimodalität. Während andere Plattformen oft komplexe Codierung erfordern, um Nicht-Text-Daten zu verarbeiten, können Sie in Vertex AI Studio Dateien direkt in die Oberfläche ziehen und dort ablegen, um Funktionen wie das Schlussfolgern von Gemini 2.5 zu testen.

• Video Intelligence: Sie können eine 45-minütige technische Keynote hochladen und das Modell auffordern, „jede Erwähnung einer bestimmten API zu identifizieren und eine zeitgestempelte Zusammenfassung zu erstellen“.
• Dokumentenanalyse: Das Modell kann nicht nur den Text, sondern auch das visuelle Layout einer 1.000-seitigen PDF-Datei analysieren und die Beziehungen zwischen Diagrammen, Tabellen und dem umgebenden Text verstehen.
• Codeausführung: Das Studio unterstützt jetzt die Codeausführung in seiner Spielumgebung. Wenn Sie ein Modell bitten, ein komplexes mathematisches Problem zu lösen oder eine CSV-Datei zu analysieren, kann das Modell Python-Code in einer sicheren Sandbox-Umgebung schreiben und ausführen, um eine verifizierte Antwort zu liefern.

Erweiterte Anpassung: Der Tuning-Pfad

Wenn das Prompt Engineering (unter Verwendung von Zero-Shot- oder Few-Shot-Lernen) an seine Grenzen stößt, bietet Vertex AI Studio leistungsfähigere Tools: Model Tuning.

1. Supervised Fine-Tuning (SFT): Entwickler liefern einen Datensatz mit „Prompt/Response”-Paaren (idealerweise mehr als 100 Beispiele). Dadurch wird das Modell darauf trainiert, eine bestimmte Markenstimme, ein bestimmtes Ausgabeformat (z. B. ein spezielles JSON-Schema) oder domänenspezifische Terminologie zu übernehmen.
2. Kontext-Caching: Für Unternehmen, die mit großen, statischen Datensätzen wie Rechtsbibliotheken oder Codebasen arbeiten, unterstützt Studio das Kontext-Caching. Damit können Sie eine Million Token an Daten in den Speicher des Modells „vorladen”, wodurch die Latenz und die Kosten für nachfolgende Abfragen erheblich reduziert werden.
3. Destillation (Lehrer-Schüler): Hierbei handelt es sich um eine fortschrittliche Architekturtechnik. Sie können ein großes Modell (wie Gemini 2.5 Pro) verwenden, um ein kleineres, schnelleres Modell (wie Gemini 2.0 Flash) zu „unterrichten”. Das Ergebnis ist ein leichtgewichtiges Modell, das auf „Pro”-Niveau arbeitet, aber mit „Flash”-Geschwindigkeit und -Kosten betrieben wird.

Vertex AI Agent Builder: Die Fabrik für Automatisierung

Vertex AI Agent Builder ist ein hochentwickeltes Orchestrierungs-Framework, mit dem Entwickler intelligente Agenten erstellen können, indem sie Basismodelle mit Unternehmensdaten und externen APIs kombinieren.

Die Architektur der „Wahrheit“: Grounding & RAG

Das größte technische Hindernis für Unternehmens-KI ist Halluzination. Agent Builder begegnet diesem Problem mit einer ausgeklügelten Grounding-Engine.

• Grounding mit Google Search: Bei Suchanfragen, die Echtzeitinformationen erfordern (z. B. „Wie hoch sind die aktuellen Hypothekenzinsen in New York?“), kann der Agent eine Google-Suche durchführen, relevante Fakten extrahieren und seine Quellen angeben.
• Vertex AI Search (RAG-as-a-Service): Anstatt manuell eine Vektordatenbank aufzubauen (mit Tools wie Pinecone oder Weaviate), können Entwickler Vertex AI Search verwenden, um ihre eigenen Dokumente (PDFs, HTML, BigQuery-Tabellen) zu indizieren. Dadurch werden die Schritte „Chunking“, „Embedding“ und „Retrieval“ automatisiert, sodass die Antworten des Agenten ausschließlich auf Ihrer internen „Quelle der Wahrheit“ basieren.
• Vertex AI RAG Engine: Für groß angelegte, benutzerdefinierte Implementierungen unterstützt dieser Managed Service die hybride Suche (Kombination von vektorbasierten und keywordbasierten Ergebnissen), wodurch die Genauigkeit im Vergleich zu Standard-LLM-Ausgaben um bis zu 30 % verbessert werden kann.

Multi-Agent-Orchestrierung (A2A-Protokoll)

Komplexe Unternehmensabläufe erfordern oft die Zusammenarbeit mehrerer spezialisierter Agenten. Vertex AI führt das Agent-to-Agent (A2A)-Protokoll ein, einen offenen Standard, der Folgendes ermöglicht:

• Ein „Reiseagent“ kann einen „Finanzagenten“ konsultieren, um zu bestätigen, dass eine Flugbuchung im Rahmen des Unternehmensbudgets bleibt.
• Interoperabilität: Da ein offenes Protokoll verwendet wird, können auf Vertex AI basierende Agenten mit denen kommunizieren, die auf anderen Frameworks wie LangChain oder CrewAI entwickelt wurden.

Der Entwickler-Stack: ADK und Agent Engine

Für technische Plattformnutzer bietet der Agent Builder zwei unterschiedliche Entwicklungswege:

1. No-Code-Konsole: Eine visuelle Drag-and-Drop-Oberfläche für schnelles Prototyping und Konfiguration durch Geschäftsanwender.
2. Agent Development Kit (ADK): Ein Code-First-Python-Toolkit für Ingenieure. Es unterstützt „Prompt-as-Code“, lässt sich in Versionskontrollsysteme integrieren und ermöglicht die Bereitstellung auf der Vertex AI Agent Engine – einer verwalteten Laufzeitumgebung, die automatisch die Persistenz von Sitzungen, die Skalierung und die Zustandsverwaltung übernimmt.

Fazit: Von „Was wäre, wenn“ zu „Was kommt als Nächstes“

Der Weg von einer überzeugenden KI-Demo zu einer produktionsreifen Unternehmensanwendung war für Initiativen zur digitalen Transformation oft ein „Tal des Todes“. Wie wir gesehen haben, wurde Vertex AI speziell entwickelt, um diese Lücke zu schließen. Durch die Vereinheitlichung der fragmentierten Silos von Daten, Infrastruktur und Modellorchestrierung verlagert Google Cloud den Fokus von der rohen Leistungsfähigkeit großer Sprachmodelle auf die operative Reife des gesamten KI-Lebenszyklus.