Datagemmaは、実際のデータを使用してAIの幻覚に取り組んでいます

大規模な言語モデル（LLM）は、今日のAIブレークスルーの中心にあり、概要を作成して、概要を作成し、創造的なアイデアを引き起こし、コードを書くことさえできます。しかし、彼らの腕前にもかかわらず、これらのモデルは、私たちが「幻覚」と呼ぶ問題である単なる間違っている情報を提供することがあります。これは、生成AIの世界では大きなハードルです。

この問題に真正面から取り組んでいる最先端の研究を共有することを楽しみにしています。また、LLMSをGoogleのデータコモンズからの豊富な現実世界のデータと結びつける最初のオープンモデルであるDatagemmaを導入することに興奮しています。

データコモンズ：信頼できるデータの宝庫

Data Commonsは、一般的に成長し続ける公開データのライブラリのようなものであり、健康から経済学まで、2,400億を超えるデータポイントを誇っています。この情報は、国連、WHO、CDC、および国勢調査局などの信頼できる情報源から引き出します。これらのデータセットを単一の強力なツールセットとAIモデルにマージすることにより、データコモンズは政策立案者、研究者、および組織が必要な正確な洞察を得るのに役立ちます。

アフリカ諸国が電力アクセスの最大のジャンプを見た、または米国郡の糖尿病にどのように関係しているかなど、平易な英語で質問することができる広大なデータベースを想像してください。それはあなたのためのデータコモンズです。

データコモンズが幻覚と戦う方法

より多くの人々が生成的なAIに目を向けるにつれて、私たちはこれらの経験を、軽量で一流のオープンモデルの家族であるジェマにデータのコモンを織り込むことで、より根ざしているように取り組んでいます。これらのDatagemmaモデルは、研究者と開発者が飛び込むために利用できるようになりました。

Datagemmaは、2つのクールな方法を使用してLLMSの精度と推論を改善するために、データコモンズの知識を活用することにより、Gemmaの能力を高めます。

1. RIG（検索型インターレーブ生成）は、データコモンズに対して事実を積極的にチェックすることにより、Gemma 2モデルを増やします。 Datagemmaに質問をすると、Data Commonsから統計データを追い詰めて、しっかりした答えを出します。 Rigは新しいアイデアではありませんが、Datagemmaでそれを使用する方法はかなり特別です。

   クエリの例：「再生可能エネルギーの使用は世界で増加しましたか？」 'datagemmaリグの方法論の適用権は、権威あるデータにデータコモンズ（DC）を活用します。

2. RAG（検索された高等世代）を使用すると、言語モデルがトレーニングされているものを超えて追加の情報を引き込み、回答をより豊かで正確にします。 Datagemmaを使用すると、Gemini 1.5 Proの長いコンテキストウィンドウを使用して、モデルが応答を作成し始め、幻覚を削減する前に、データコモンズから関連するデータを取得します。

   クエリの例：「再生可能エネルギーの使用が世界で増加したのか？」Datagemma rag方法論の適用は、脚注のより大きな推論と包含を示しています。

有望な結果と次は何ですか

リグとラグを使用した初期のテストは見栄えがよくあります。数字を扱う際にモデルの精度が向上しているため、研究、意思決定、または好奇心を満たすために、これらのモデルを使用する人々の幻覚が少なくなります。これらの結果を研究論文で確認できます。