Datagemma는 실제 데이터를 사용하여 AI 환각을 다룹니다

대형 언어 모델 (LLM)은 오늘날의 AI 혁신의 핵심이며, 대규모 텍스트 데이터 세트를 통해 요약을 생성하고 창의적인 아이디어를 촉발하며 코드를 작성할 수 있습니다. 그러나 그들의 능력에도 불구하고,이 모델들은 때때로 우리가 "환각"이라고 부르는 문제인 때로는 잘못된 정보를 전달할 수 있습니다. 생성 AI의 세계에서 큰 장애물입니다.

우리는 실제 통계에 LLM을 접지하여 환각을 억제하는 것을 목표 로이 문제를 정면으로 해결하는 최첨단 연구를 공유하게되어 기쁩니다. 또한 LLM을 Google 데이터 커먼즈의 풍부한 실제 데이터와 연결하는 최초의 오픈 모델 인 DataGemma를 소개하게되어 기쁩니다.

데이터 커먼즈 : 신뢰할 수있는 데이터의 보물 창고

Data Commons는 거대하고 성장하는 공개 데이터 라이브러리와 같습니다. 이 정보는 UN, WHO, CDC 및 인구 조사 기관과 같은 신뢰할 수있는 출처에서이 정보를 가져옵니다. 이러한 데이터 세트를 단일의 강력한 도구 세트 및 AI 모델로 병합함으로써 데이터 커먼즈는 정책 입안자, 연구원 및 조직이 필요한 정확한 통찰력을 얻을 수 있도록 도와줍니다.

아프리카 국가가 전기 접근에서 가장 큰 점프를 보았던 것과 같은 일반 영어로 질문을 할 수있는 방대한 데이터베이스 또는 미국 카운티의 당뇨병과 어떻게 관련이 있는지 상상해보십시오. 그것은 당신을위한 데이터 커먼즈입니다.

데이터 커먼즈가 환각과 싸우는 데 도움이되는 방법

더 많은 사람들이 생성 AI로 전환함에 따라, 우리는 데이터 커먼즈를 가볍고 최고 수준의 개방형 모델 인 Gemma로 직조함으로써 이러한 경험을보다 근거로 만들기 위해 노력하고 있습니다. 이러한 Datagemma 모델은 이제 연구원과 개발자가 다이빙 할 수 있습니다.

Datagemma는 LLM의 정확성과 추론을 개선하기 위해 두 가지 멋진 방법을 사용하여 데이터 커먼즈의 지식을 활용하여 Gemma의 기능을 향상시킵니다.

1. RIG (검색-간극 생성)는 데이터 커먼즈에 대한 사실을 적극적으로 확인하여 Gemma 2 모델을 강화합니다. Datagemma에게 질문을하면 데이터 커먼즈의 통계 데이터를 사냥하여 확실한 답변을 제공합니다. RIG는 새로운 아이디어는 아니지만 Datagemma에서 우리가 사용하는 방식은 매우 특별합니다.

   예제 쿼리 :`` '전 세계에서 재생 에너지를 증가 시켰습니까?'

2. Rag (검색된 세대)을 통해 언어 모델이 훈련을받은 것 이상의 추가 정보를 끌어내어 답변이 더 풍부하고 정확하게 만듭니다. Datagemma를 사용하면 Gemini 1.5 Pro의 긴 상황 컨텍스트 창을 사용하여 모델이 반응을 만들기 시작하기 전에 환각을 줄이기 전에 데이터 커먼즈의 관련 데이터를 가져옵니다.

   예제 쿼리 :``전 세계에서 재생 에너지를 사용 하는가? ''라고 Datagemma Rag 방법론을 적용하면 각주의 추론과 포함을 보여줍니다.

유망한 결과와 다음 단계

Rig와 Rag에 대한 초기 테스트는 좋아 보입니다. 우리는 숫자를 다룰 때 모델에서 더 나은 정확도를보고 있습니다. 이는 연구, 의사 결정을 위해 이러한 모델을 사용하거나 호기심을 충족시키는 사람들에게 환각이 적습니다. 우리의 연구 논문 에서이 결과를 확인할 수 있습니다.