Datagemma befasst sich mit AI-Halluzinationen mit realen Daten

Große Sprachmodelle (LLMs) stehen im Mittelpunkt der heutigen KI -Durchbrüche, die in der Lage sind, massive Textdatensätze zu durchsuchen, um Zusammenfassungen zu erstellen, kreative Ideen zu erfassen und sogar Code zu schreiben. Trotz ihrer Fähigkeiten können diese Modelle manchmal Informationen liefern, die einfach falsch sind, ein Problem, das wir als "Halluzination" bezeichnen. Es ist eine große Hürde in der Welt der generativen KI.

Wir freuen uns, einige hochmoderne Forschungsergebnisse zu teilen, die dieses Thema direkt angehen, um Halluzinationen durch die Erdung von LLMs in realen Statistiken einzudämmen. Und wir sind begeistert, DataGemma einzuführen, die ersten offenen Modelle, die LLMs mit einer Fülle realer Daten aus Googles Data Commons verknüpfen.

Data Commons: Eine Schatzkammer vertrauenswürdiger Daten

Data Commons ist wie eine riesige, ständig wachsende Bibliothek mit öffentlichen Daten, die über 240 Milliarden Datenpunkte über alles von der Gesundheit bis zur Wirtschaftlichkeit verfügt. Es zieht diese Informationen aus zuverlässigen Quellen wie der Vereinten Nationen, die, CDC und Volkszählungsbüros. Durch das Zusammenführen dieser Datensätze in ein einzelnes, leistungsstarkes Toolset- und KI -Modelle hilft Data Commons den politischen Entscheidungsträgern, Forschern und Organisationen, die genauen Erkenntnisse zu erhalten, die sie benötigen.

Stellen Sie sich eine umfangreiche Datenbank vor, in der Sie Fragen in einfachem Englisch stellen können, z. Das sind Data Commons für Sie.

Wie Data Commons hilft, die Halluzination zu bekämpfen

Da sich mehr Leute an generative KI wenden, arbeiten wir daran, diese Erfahrungen mehr durch das Weben von Data Commons in Gemma zu gestalten, unsere Familie von leichten, erstklassigen offenen Modellen. Diese DataAGemma -Modelle sind jetzt für Forscher und Entwickler verfügbar, in die sie eintauchen können.

DataGemma steigert die Funktionen von Gemma, indem sie das Wissen von Data Commons nutzt und zwei coole Methoden verwendet, um die Genauigkeit und das Denken von LLMs zu verbessern:

1. Rig (Retrieval-Interleaved-Generation) Amps unser Gemma 2-Modell, indem wir die Fakten gegen Data Commons aktiv überprüfen. Wenn Sie DataGemma eine Frage stellen, werden statistische Daten von Data Commons aufgeführt, um eine solide Antwort zu geben. Obwohl Rig keine neue Idee ist, ist die Art und Weise, wie wir es in DataGemma verwenden, ziemlich besonders.

   Beispielabfrage: "Hat die Verwendung von erneuerbaren Energien in der Welt zugenommen?"

2. RAG (REMAINAL-AUGMENTED-Generation) lässt Sprachmodelle zusätzliche Informationen über das, worauf sie ausgebildet wurden, übernehmen, wodurch ihre Antworten reicher und genauer gemacht werden. Mit DataGeMma verwenden wir das lange Kontextfenster von Gemini 1.5 Pro, um relevante Daten von Data Commons abzurufen, bevor das Modell mit dem Erstellen seiner Reaktion beginnt und Halluzinationen senkt.

   Beispielabfrage: "Hat die Verwendung von erneuerbaren Energien in der Welt zugenommen?"

Vielversprechende Ergebnisse und was als nächstes kommt

Unsere frühen Tests mit Rig und Rag sehen gut aus. Wir sehen eine bessere Genauigkeit in unseren Modellen im Umgang mit Zahlen, was bedeutet, dass weniger Halluzinationen für Leute bedeutet, die diese Modelle für Forschung, Entscheidungsfindung oder einfach nur ihre Neugierde verwenden. Sie können diese Ergebnisse in unserem Forschungspapier überprüfen.