AWS Neurosymbolic AI bietet überprüfbare Agentenautomatisierung für regulierte Branchen

AWS ist davon überzeugt, dass die allgemeine Verfügbarkeit seiner Funktion „Automated Reasoning Checks” auf Bedrock das Vertrauen von Unternehmen und regulierten Branchen stärken wird, mehr KI-Anwendungen und -Agenten einzuführen und einzusetzen.

Das Unternehmen geht außerdem davon aus, dass Methoden wie automatisiertes Schlussfolgern, bei denen mathematische Validierung zur Ermittlung der Grundwahrheit eingesetzt wird, Unternehmen beim Übergang zu neurosymbolischer KI helfen werden. AWS betrachtet dies als die nächste bedeutende Entwicklung und ein wichtiges Unterscheidungsmerkmal in der KI-Landschaft.

Mit „Automated Reasoning Checks” können Unternehmensanwender die Genauigkeit von Antworten überprüfen und Modellhalluzinationen erkennen. AWS stellte die Funktion erstmals auf seiner re:Invent-Konferenz im vergangenen Dezember vor und versicherte, dass sie nahezu alle Halluzinationen identifizieren kann. Das Tool, das zunächst nur einer begrenzten Anzahl von Anwendern über Amazon Bedrock Guardrails zugänglich war, ermöglicht es Unternehmen, verantwortungsvolle KI-Richtlinien zu definieren.

Byron Cook, renommierter Wissenschaftler und Vizepräsident der Automated Reasoning Group von AWS, erklärte VentureBeat in einem Interview, dass die Vorschau die Wirksamkeit des Systems in Unternehmensumgebungen demonstriert habe. Außerdem habe sie Unternehmen dabei geholfen, den Wert von KI zu erkennen, die symbolisches, strukturiertes Denken mit den neuronalen Netzwerkfähigkeiten generativer KI verbindet.

„Automatisiertes Schlussfolgern fällt unter das umfassendere Konzept der neurosymbolischen KI”, erklärte Cook. „Das wachsende Interesse an neurosymbolischer KI hat den Nutzern während der aktiven Nutzung des Tools bewusst gemacht, wie wichtig diese Technologie ist.”

Cook merkte an, dass einige Kunden AWS die Analyse ihrer Daten und Antwort-Annotationsdokumente gestatteten. Die Leistung des Tools erwies sich als vergleichbar mit der eines Menschen mit dem Regelwerk in der Hand. Er fügte hinzu, dass Konzepte wie Wahrheit und Richtigkeit zwar subjektiv sein können, automatisiertes Schlussfolgern diese Mehrdeutigkeit jedoch weitgehend vermeidet.

„Das war wirklich bemerkenswert“, sagte er. „Zu sehen, wie Menschen mit logischem Hintergrund in einem internen Chat darüber diskutierten, was wahr ist, dann nach ein paar Nachrichten auf das Tool hinwiesen und feststellten: ‚Oh, das ist richtig‘, war erstaunlich.“

Für die allgemeine Veröffentlichung hat AWS die automatisierten Logikprüfungen um neue Funktionen erweitert, darunter

• Unterstützung für große Dokumente mit bis zu 80.000 Tokens oder etwa 100 Seiten
• Vereinfachte Richtlinienvalidierung mit der Möglichkeit, Testszenarien zu speichern und wiederzuverwenden
• Automatische Szenarioerstellung aus vordefinierten Spezifikationen
• Vorschläge in natürlicher Sprache zur Verfeinerung der Richtlinien
• Anpassbare Validierungseinstellungen

Laut Cook überprüft Automated Reasoning Checks die Wahrhaftigkeit eines KI-Systems, indem es nachweist, dass ein Modell keine Lösung halluziniert hat. Diese Funktion könnte Regulierungsbehörden und regulierten Unternehmen, die sich Sorgen über die nicht deterministische Natur generativer KI und damit verbundene fehlerhafte Ergebnisse machen, mehr Sicherheit bieten.

Neurosymbolische KI und die Feststellung der Wahrheit

Cook betonte, dass automatisierte Logikprüfungen dazu beitragen, die Grundprinzipien der neurosymbolischen KI zu veranschaulichen.

Neuro-symbolische KI kombiniert die Mustererkennung neuronaler Netze – die von Sprachmodellen verwendet wird – mit der strukturierten Logik symbolischer KI. Während neuronale Netze aus Datenmustern lernen, arbeitet symbolische KI mit expliziten Regeln und logischen Schlussfolgerungen. Grundlagenmodelle basieren in erster Linie auf neuronalen Netzen, wodurch sie anfällig für Halluzinationen sind – ein großes Problem für Unternehmen. Umgekehrt mangelt es symbolischer KI ohne manuelle Programmierung an Flexibilität.

Einflussreiche KI-Stimmen wie Gary Marcus haben argumentiert, dass neurosymbolische KI für die Erreichung künstlicher allgemeiner Intelligenz unerlässlich ist.

Cook und AWS sind begeistert davon, neurosymbolische KI-Konzepte in Unternehmen einzuführen. In einem Podcast diskutierte Matt Marshall von VentureBeat den Fokus von AWS auf Methoden wie automatisierte Argumentationsprüfungen, die mathematische und logische Strenge auf generative KI anwenden, um Halluzinationen zu reduzieren.

Derzeit bieten nur wenige Unternehmen produktisierte neurosymbolische KI-Lösungen an, darunter Kognitos, Franz Inc. und UMNAI.

Anwendung mathematischer Strenge auf die Validierung

Automatisiertes Schlussfolgern funktioniert durch die Anwendung mathematischer Beweise zur Modellierung von Antworten für eine bestimmte Abfrage.

Es nutzt eine Methode namens „Satisfiability Modulo Theories” (SMT), bei der Symbole vordefinierte Bedeutungen haben, um Probleme zu lösen, die sowohl Logik (wenn, dann, und, oder) als auch Mathematik betreffen. Die Technik wendet diese Methode auf die Antwort eines Modells an und überprüft sie anhand einer Reihe von Richtlinien oder Ground-Truth-Daten, ohne dass mehrere Testläufe erforderlich sind.

Beispielsweise möchte ein Unternehmen möglicherweise die Richtigkeit einer Finanzprüfung überprüfen. Wenn ein Modell einen Bericht wegen nicht genehmigter Zahlungen markiert, zerlegt das automatisierte Schlussfolgern dies in eine logische Aussage:

(forall ((r Report))

(=> (containsUnapprovedVendorPayments r)

(sollte r eskaliert werden)))

Anschließend greift es auf die vom Benutzer in Bedrock Guardrails konfigurierten Definitionen, Variablen und Typen zurück und löst die Gleichung, um zu beweisen, dass die Reaktion des Modells sowohl korrekt als auch wahrheitsgemäß war.

Sicherstellung nachweislich korrekter KI-Agenten

Cook erklärte, dass Anwendungsfälle mit Agenten erheblich von automatisierten Überprüfungen der Schlussfolgerungen profitieren würden. Ein breiterer Zugang über Bedrock werde dazu beitragen, deren Nutzen zu demonstrieren. Er warnte jedoch, dass automatisierte Schlussfolgerungen und andere neurosymbolische KI-Techniken noch in den Kinderschuhen steckten.

„Ich glaube, dass dies Auswirkungen auf die agentenbasierte KI haben wird, obwohl dieser Bereich derzeit noch sehr spekulativ ist“, sagte Cook. „Es gibt mehrere Techniken – wie das Erkennen von Mehrdeutigkeiten in einer Aussage, das Aufzeigen wichtiger Unterschiede zwischen möglichen Interpretationen und das Einholen von Klarstellungen durch den Benutzer –, die meiner Meinung nach von entscheidender Bedeutung sein werden. Dies spiegelt die emotionale Entwicklung wider, die ich bei Kunden beobachtet habe, die vor einigen Jahren begonnen haben, mit generativer KI zu experimentieren.“