OpenAI API Lead Details Unternehmenserfolg mit Agents SDK und Responses API

Auf der Transform 2025-Konferenz von VentureBeat gab Olivier Godement, Produktleiter für die API-Plattform von OpenAI, einen Einblick, wie Unternehmensteams KI-Agenten implementieren und skalieren.

In einer exklusiven 20-minütigen Podiumsdiskussion, die ich mit Godement moderierte, stellte der ehemalige Stripe-Forscher und derzeitige OpenAI-API-Leiter die neuesten Entwicklertools des Unternehmens – die Responses API und das Agents SDK – vor und präsentierte dabei reale Anwendungsfälle, Sicherheitsmaßnahmen und Beispiele für die Kapitalrendite von Early Adopters wie Stripe und Box.

Für Unternehmensleiter, die die Live-Sitzung verpasst haben, hier die acht wichtigsten Erkenntnisse:

Agenten entwickeln sich rasch vom Prototyp zur Serienreife

Godement betonte, dass das Jahr 2025 einen bedeutenden Wandel im großflächigen Einsatz von KI darstellt. Mit weltweit über einer Million aktiven Entwicklern, die monatlich die API-Plattform von OpenAI nutzen, und einem Anstieg der Token-Nutzung um 700 % gegenüber dem Vorjahr, hat KI die Experimentierphase hinter sich gelassen.

„Es ist nun fünf Jahre her, seit wir GPT-3 erstmals eingeführt haben ... und die Entwicklung seitdem war wirklich bemerkenswert.“

Er wies darauf hin, dass die aktuelle Nachfrage weit über Chatbots hinausgeht. „KI-Anwendungen entwickeln sich von einfachen Frage-Antwort-Systemen zu Anwendungsfällen, in denen der Agent aktiv Aufgaben für Sie ausführen kann.“

Dieser Wandel veranlasste OpenAI im März zur Einführung von zwei wichtigen Entwicklertools: der Responses API und dem Agents SDK.

Wann sollten Einzelagenten und wann Subagenten-Architekturen verwendet werden?

Ein zentrales Thema war die Entscheidung für eine bestimmte Architektur. Godement erklärte, dass Single-Agent-Loops, die den vollständigen Zugriff auf Tools und den Kontext in einem Modell kombinieren, zwar theoretisch elegant sind, sich jedoch oft als schwierig zu implementieren erweisen, wenn sie in großem Maßstab eingesetzt werden sollen.

„Es ist schwierig, genaue und zuverlässige Einzelagenten zu erstellen. Das ist wirklich eine Herausforderung.“

Da Systeme immer komplexer werden – mit zusätzlichen Tools, vielfältigen Benutzereingaben und komplizierter Logik – entscheiden sich Teams häufig für modulare Designs mit spezialisierten Sub-Agenten.

„Ein gängiger Ansatz besteht darin, Agenten in mehrere Subagenten aufzuteilen und dabei Prinzipien der Softwareentwicklung wie die Trennung von Aufgabenbereichen anzuwenden.“

Diese Sub-Agenten funktionieren wie Rollen innerhalb eines Teams: Ein Triage-Agent kategorisiert Anfragen, Tier-1-Agenten verwalten Routineaufgaben und andere kümmern sich um komplexe oder ungewöhnliche Fälle.

Warum die Responses-API eine grundlegende Veränderung darstellt

Godement beschrieb die Responses-API als einen grundlegenden Fortschritt bei den Entwicklertools. Bisher mussten Entwickler die Abfolge von Modellaufrufen manuell verwalten. Jetzt erfolgt diese Koordination automatisch.

„Die Responses-API ist wohl die bedeutendste Abstraktionsebene, die wir seit GPT-3 eingeführt haben.“

Sie ermöglicht es Entwicklern, sich auf die Absicht zu konzentrieren, anstatt Modell-Workflows zu konfigurieren. „Ihr Ziel ist es, dem Kunden eine hervorragende Antwort zu liefern ... die Response-API verwaltet diesen gesamten Prozess.“

Die API enthält außerdem integrierte Funktionen für die Wissensabfrage, die Websuche und den Funktionsaufruf – wesentliche Komponenten für reale Unternehmens-Agenten-Workflows.

Beobachtbarkeit und Sicherheit sind integriert

Sicherheit und Compliance wurden als entscheidende Faktoren hervorgehoben. Godement hob wichtige Sicherheitsvorkehrungen hervor, die die Plattform von OpenAI für regulierte Branchen wie Finanzen und Gesundheitswesen geeignet machen:

• Richtlinienbasierte Ablehnungen
• SOC-2-Protokollierung
• Unterstützung der Datenresidenz

Er identifizierte die Bewertung als die größte Herausforderung beim Übergang von der Demonstration zur Produktion.

„Meiner Meinung nach ist die Modellbewertung wahrscheinlich das größte Hindernis für eine breite Einführung von KI.“

OpenAI integriert nun Tracing- und Bewertungs-Tools in den API-Stack und hilft Teams dabei, Erfolgskennzahlen zu definieren und die Leistung von Agenten im Laufe der Zeit zu überwachen.

„Ohne Investitionen in die Bewertung ist es schwierig, das Vertrauen aufzubauen, das für die Gewährleistung der Genauigkeit und Zuverlässigkeit des Modells erforderlich ist.“

Früher ROI ist in bestimmten Funktionen sichtbar

Bestimmte Unternehmensanwendungen zeigen bereits messbare Vorteile. Godement nannte Beispiele aus folgenden Bereichen:

• Stripe, das Agenten einsetzt, um die Rechnungsbearbeitung zu beschleunigen, und von einer „um 35 % schnelleren Rechnungsabwicklung“ berichtet
• Box, das Wissensassistenten einsetzt, die eine „Zero-Touch-Ticket-Triage“ ermöglichen

Weitere Anwendungsfälle mit großer Wirkung sind der Kundensupport (einschließlich sprachbasierter Systeme), die interne Governance und Wissensassistenten für die Navigation in komplexen Dokumentationen.

Was für die Einführung in der Produktion erforderlich ist

Godement betonte die Bedeutung menschlicher Initiative für erfolgreiche Implementierungen.

„Eine kleine Gruppe hochmotivierter Personen erkennt ein Problem und eine technologische Lösung und stürzt sich direkt darauf.”

Diese internen Fürsprecher haben nicht immer einen technischen Hintergrund. Was sie verbindet, ist ihre Entschlossenheit.

„Ihre unmittelbare Reaktion lautet: ‚Wie kann ich das zum Laufen bringen?‘“

OpenAI beobachtet, dass viele erste Implementierungen von dieser Gruppe vorangetrieben werden – Early Adopters von ChatGPT in Unternehmensumgebungen, die nun vollständige Agentensysteme erforschen.

Er hob auch einen oft übersehenen Faktor hervor: Fachwissen. „Das wesentliche Wissen innerhalb eines Unternehmens ... liegt nicht bei den Ingenieuren, sondern bei den operativen Teams.“

Nicht-Entwicklern die Nutzung von Tools zur Agentenentwicklung zu ermöglichen, ist eine zentrale Herausforderung, an deren Lösung OpenAI arbeitet.

Was kommt als Nächstes für Unternehmensagenten?

Godement gab einen Ausblick auf kommende Entwicklungen. OpenAI konzentriert sich derzeit auf:

• Multimodale Agenten, die über Text, Sprache, Bilder und strukturierte Daten interagieren können
• Langzeitgedächtnis, um Wissen über Interaktionen hinweg zu speichern
• Cloud-übergreifende Orchestrierung zur Unterstützung komplexer, verteilter IT-Infrastrukturen

Dies sind keine revolutionären Veränderungen, sondern schrittweise Verbesserungen, die auf bestehenden Fähigkeiten aufbauen. „Sobald wir Modelle haben, die Informationen über Minuten oder Stunden statt nur über Sekunden verarbeiten können, werden sich einige wirklich bahnbrechende Anwendungen ergeben.“

Fazit: Reasoning-Modelle werden unterschätzt

Godement bekräftigte abschließend seine Überzeugung, dass Schlussfolgerungsmodelle – also Modelle, die vor einer Antwort reflektieren können – die wahren Treiber einer langfristigen Transformation sein werden.

„Ich bin nach wie vor davon überzeugt, dass wir uns derzeit in Bezug auf die Reife von Schlussfolgerungsmodellen in einer Phase befinden, die mit GPT-2 oder GPT-3 vergleichbar ist ... Wir haben gerade erst begonnen, zu erforschen, was diese Modelle leisten können.“

Für Unternehmensleiter ist die Schlussfolgerung klar: Die Infrastruktur für agentenbasierte Automatisierung ist jetzt verfügbar. Der Erfolg hängt davon ab, dass man fokussierte Anwendungsfälle identifiziert, funktionsübergreifende Teams befähigt und einen iterativen Ansatz beibehält. Die nächste Welle von Mehrwert wird nicht von auffälligen Demonstrationen kommen, sondern von robusten Systemen, die von realen Anforderungen und operativer Exzellenz geprägt sind.