Nvidia enthüllt NEMO -Softwaretools für Unternehmen, um benutzerdefinierte AI -Agenten zu erstellen

Nvidia, der bekannte Chiphersteller, gab am Mittwoch die allgemeine Verfügbarkeit einer neuen Tool-Suite bekannt, die darauf abzielt, Unternehmen bei der Entwicklung „agentischer“ künstlicher Intelligenz zu unterstützen. Diese Tools, genannt NeMo-Mikrodienste, sind Teil des umfassenderen AI Enterprise Softwareportfolios von Nvidia. Sie sind darauf ausgelegt, KI-Agenten für eine Vielzahl von Aufgaben anzupassen und zu optimieren, von der Verbesserung von Callcenter-Betrieben bis zur Steigerung der Effizienz in der Softwareentwicklung.

Während eines Medienbriefings beschrieb Joey Conway, Leiter der generativen KI für Unternehmen bei Nvidia, die NeMo-Software als Mittel zur Bereitstellung von KI-Agenten als „digitale Mitarbeiter“. Er betonte die potenziellen Auswirkungen auf verschiedene Branchen und sagte: „Unsere Vision ist, dass es weltweit über eine Milliarde Wissensarbeiter in vielen Branchen, Regionen und Standorten gibt. Und unsere Ansicht ist, dass digitale Mitarbeiter oder KI-Agenten Unternehmen dabei helfen können, in diesen verschiedenen Bereichen und Szenarien mehr Arbeit zu erledigen.“

Produktivitätssteigerungen

Conway teilte Einblicke in die greifbaren Produktivitätsvorteile, die diese KI-Agenten bereits gebracht haben. Zum Beispiel hat Amdocs, ein Softwareanbieter für Telekommunikationsunternehmen, NeMo-Mikrodienste genutzt, um Abrechnungs-, Verkaufs- und Netzwerkagenten zu entwickeln. Ihr Abrechnungsagent, der mit der Bearbeitung von Kundenanfragen zur Abrechnung beauftragt ist, erzielte eine bedeutende Steigerung der „Erstkontaktlösung“ um 50 %, was eine direkte Auswirkung auf die Effizienz des Kundenservices zeigt.

Das Konzept von KI-Agenten, die als digitale Mitarbeiter fungieren, ist nicht neu. Es ist eine Erzählung, die im letzten Jahr an Fahrt gewonnen hat, wobei KI als fähig angesehen wird, Unternehmensprozesse ähnlich wie menschliche Mitarbeiter zu verwalten. Nvidia hat seine NeMo-Software über fünf Jahre hinweg verfeinert, um die Entwicklung von KI-Modellen für Unternehmen zu beschleunigen. Im Jahr 2022 erweiterten sie ihr Angebot um cloudbasierte, vorgefertigte KI-Modelle auf Abruf, wobei die Mikrodienste im Oktober letzten Jahres eingeführt wurden.

Neue Mikrodienst-Komponenten

NeMos Werkzeugkasten umfasst mehrere Mikrodienste, von denen zwei, Curator und Retriever, bereits verfügbar waren. Curator hilft Entwicklern, „Pipelines“ zu erstellen, um Datensätze zu bereinigen und zu verfeinern, die zum Trainieren oder Feinabstimmen von KI-Modellen verwendet werden. Retriever hingegen extrahiert relevante Elemente aus Datenquellen für die Modellnutzung, wie Texte, Grafiken und Diagrammelemente.

Ergänzend dazu gibt es drei neue Komponenten: Customizer, Evaluator und Guardrails. Der Customizer nimmt die Ausgabe von Curator und wendet Nachbearbeitungstechniken an, um die Fähigkeiten des Modells zu verbessern. Der Evaluator fungiert als automatisierter Benchmark, der das Modell nach dem Customizer testet, um Verbesserungen oder neu erworbene Fähigkeiten zu bewerten. Guardrails gewährleistet Compliance und Sicherheit, indem es zur Laufzeit arbeitet, um Unternehmensabläufe abzusichern.

Aktualisierung und Erwerb neuer Fähigkeiten

Die Philosophie hinter NeMo besteht darin, Modelle wiederholt durch diese Mikrodienste zu führen, um kontinuierliche Updates und den Erwerb neuer Fähigkeiten zu ermöglichen, ein Prozess, den Nvidia als „Schwungrad“ bezeichnet. Die NeMo-Mikrodienste integrieren sich in Nvidias Bereitstellungsinfrastruktur-Software, NIM (Nvidia Inference Microservices), die KI-Modelle in Anwendungscontainern kapselt, die von Systemen wie Kubernetes verwaltet und über APIs abgerufen werden.

Conway betonte, dass NeMo die traditionell komplexen Aufgaben des Trainierens, Nachbearbeitens, Bewertens und Überarbeitens von KI-Modellen vereinfacht. Er bemerkte: „Der Fokus der NeMo-Mikrodienste liegt darauf, diese Mikrodienste so zu entwickeln, dass der Rest des Ökosystems viel schneller starten kann. Aus unserer Erfahrung haben wir gesehen, dass diese Aufgaben ziemlich kompliziert sein können.“ Er erklärte weiter, dass der NeMo Evaluator verschiedene Open-Source-Bibliotheken konsolidiert und aktualisiert, um sie zuverlässiger und durch einfache API-Aufrufe leichter nutzbar zu machen.