Datagemma befasst sich mit AI-Halluzinationen mit realen Daten

Große Sprachmodelle (LLMs) sind das Herzstück aktueller KI-Durchbrüche, fähig, riesige Textdatensätze zu durchforsten, um Zusammenfassungen zu erstellen, kreative Ideen anzuregen und sogar Code zu schreiben. Trotz ihrer Stärke liefern diese Modelle manchmal schlicht falsche Informationen, ein Problem, das wir „Halluzination“ nennen. Das ist ein großes Hindernis in der Welt der generativen KI.

Wir freuen uns, bahnbrechende Forschung zu teilen, die dieses Problem direkt angeht und Halluzinationen durch die Verankerung von LLMs in realen Statistiken eindämmen will. Und wir sind begeistert, DataGemma vorzustellen, die ersten offenen Modelle, die LLMs mit einer Fülle realer Daten aus Googles Data Commons verknüpfen.

Data Commons: Ein Schatz an vertrauenswürdigen Daten

Data Commons ist wie eine riesige, ständig wachsende Bibliothek öffentlicher Daten mit über 240 Milliarden Datenpunkten zu Themen von Gesundheit bis Wirtschaft. Es bezieht diese Informationen aus zuverlässigen Quellen wie UN, WHO, CDC und Volkszählungsbehörden. Durch die Zusammenführung dieser Datensätze in ein einziges, leistungsstarkes Toolset und KI-Modelle hilft Data Commons, Entscheidungsträgern, Forschern und Organisationen, präzise Einblicke zu gewinnen.

Stellen Sie sich eine riesige Datenbank vor, in der Sie Fragen auf einfachem Deutsch stellen können, wie etwa, welche afrikanischen Länder den größten Sprung beim Zugang zu Elektrizität gemacht haben oder wie Einkommen mit Diabetes in US-Bundesstaaten zusammenhängt. Das ist Data Commons.

Wie Data Commons Halluzinationen bekämpft

Da immer mehr Menschen generative KI nutzen, arbeiten wir daran, diese Erlebnisse durch die Integration von Data Commons in Gemma, unsere Familie leichter, erstklassiger offener Modelle, fundierter zu gestalten. Diese DataGemma-Modelle stehen nun Forschern und Entwicklern zur Verfügung.

DataGemma erweitert die Fähigkeiten von Gemma, indem es auf das Wissen von Data Commons zugreift und zwei innovative Methoden nutzt, um die Genauigkeit und das Denken von LLMs zu verbessern:

1. RIG (Retrieval-Interleaved Generation) verstärkt unser Gemma 2-Modell, indem es Fakten aktiv mit Data Commons abgleicht. Wenn Sie DataGemma eine Frage stellen, durchsucht es statistische Daten von Data Commons, um eine fundierte Antwort zu geben. RIG ist zwar kein neues Konzept, aber die Art, wie wir es in DataGemma einsetzen, ist ziemlich besonders.

   Beispielanfrage: „Hat die Nutzung erneuerbarer Energien weltweit zugenommen?“ Die Anwendung der DataGemma RIG-Methodik nutzt Data Commons (DC) für maßgebliche Daten.

2. RAG (Retrieval-Augmented Generation) ermöglicht Sprachmodellen, zusätzliche Informationen über ihr Training hinaus abzurufen, wodurch ihre Antworten reichhaltiger und präziser werden. Mit DataGemma nutzen wir das lange Kontextfenster von Gemini 1.5 Pro, um relevante Daten aus Data Commons abzurufen, bevor das Modell seine Antwort erstellt, was Halluzinationen reduziert.

   Beispielanfrage: „Hat die Nutzung erneuerbarer Energien weltweit zugenommen?“ Die Anwendung der DataGemma RAG-Methodik zeigt verbessertes Denken und die Einbindung von Fußnoten.

Vielversprechende Ergebnisse und nächste Schritte

Unsere ersten Tests mit RIG und RAG sehen vielversprechend aus. Wir sehen eine bessere Genauigkeit in unseren Modellen beim Umgang mit Zahlen, was weniger Halluzinationen für die Nutzer bedeutet, die diese Modelle für Forschung, Entscheidungsfindung oder einfach aus Neugier verwenden. Diese Ergebnisse können Sie in unserem Forschungspapier nachvollziehen.