DataGemma справляется с AI галлюцинаций с реальными данными

Крупные языковые модели (LLMS) лежат в основе современных прорывов AI, способных просеивать огромные наборы данных для создания резюме, зажигать творческие идеи и даже написать код. Тем не менее, несмотря на их мастерство, эти модели могут иногда предоставлять информацию, которая просто неправильно, проблема, которую мы называем «галлюцинацией». Это большое препятствие в мире генеративного ИИ.

Мы рады поделиться некоторыми передовыми исследованиями, которые решают эту проблему в лоб, с целью обуздать галлюцинации, заземляя LLMS в реальной статистике. И мы очень рады ввести DataGemma, первые открытые модели, которые связывают LLM с множеством реальных данных из Google Data Commons.

Data Commons: сокровищница заслуживающих доверия данных

Data Commons похожа на гигантскую, постоянно растущую библиотеку общедоступных данных, имеющая более 240 миллиардов данных на все, от здоровья до экономики. Он вытаскивает эту информацию из надежных источников, таких как ООН, CDC и бюро переписи. Объединяя эти наборы данных в единые мощные модели инструментов и ИИ, Data Commons помогает политикам, исследователям и организациям получить точную информацию, в которой они нуждаются.

Представьте себе обширную базу данных, в которой вы можете задавать вопросы на простом английском языке, например, какие африканские страны увидели самый большой скачок в доступе к электричеству, или как доход связан с диабетом в округах США. Это данные общего для вас.

Как Data Commons помогает бороться с галлюцинацией

По мере того, как все больше людей обращаются к генеративному ИИ, мы работаем над тем, чтобы сделать этот опыт более обоснованным, протекая данные Commons в Gemma, нашу семью легких, первоклассных открытых моделей. Эти модели DataGemma теперь доступны для исследователей и разработчиков, чтобы погрузиться в.

DataGemma повышает возможности Gemma, используя знания Data Commons, используя два классных метода для повышения точности и рассуждения LLM:

1. RIG (Поизводительное поколение в поисках) усиливает нашу модель Gemma 2, активно проверяя факты против Data Commons. Когда вы задаете DataGemma вопрос, он охотится на статистические данные из Data Commons, чтобы дать вам надежный ответ. Хотя Rig не является новой идеей, то, как мы используем ее в Datagemma, довольно особенный.

   Пример запроса: «Увеличен ли использование возобновляемых источников энергии в мире?

2. Rag (Поколение-поиск-аугментирование) позволяет языковым моделям получать дополнительную информацию за пределами того, что они обучались, делая их ответы более богатыми и точными. С помощью DataGemma мы используем длинное окно Gemini 1.5 Pro для получения соответствующих данных из Data Commons до того, как модель начнет создавать свой ответ, сокращая галлюцинации.

   Пример запроса: «Увеличен ли использование возобновляемых источников энергии в мире?». Применение методологии Datagemma Rag демонстрирует большие рассуждения и включение сносков.

Многообещающие результаты и что будет дальше

Наши ранние тесты с буровой и тряпкой выглядят хорошо. Мы видим лучшую точность в наших моделях при работе с числами, что означает меньше галлюцинаций для людей, использующих эти модели для исследований, принятия решений или просто для удовлетворения их любопытства. Вы можете проверить эти результаты в нашей исследовательской работе.