DataGemma đã giải quyết ảo giác AI với dữ liệu trong thế giới thực

Các mô hình ngôn ngữ lớn (LLM) là trung tâm của các đột phá AI ngày nay, có khả năng sàng lọc thông qua các bộ dữ liệu văn bản lớn để tạo ra các bản tóm tắt, khơi dậy ý tưởng sáng tạo và thậm chí viết mã. Tuy nhiên, mặc dù năng lực của họ, những mô hình này đôi khi có thể cung cấp thông tin chỉ sai, một vấn đề chúng ta gọi là "ảo giác". Đó là một trở ngại lớn trong thế giới của AI tổng quát.

Chúng tôi rất vui mừng được chia sẻ một số nghiên cứu tiên tiến đang giải quyết vấn đề này, nhằm mục đích kiềm chế ảo giác bằng cách tiếp đất LLM trong các chỉ số trong thế giới thực. Và chúng tôi rất vui mừng được giới thiệu DataGemma, các mô hình mở đầu tiên liên kết LLM với vô số dữ liệu trong thế giới thực từ dữ liệu của Google.

Dữ liệu Commons: Một kho tàng dữ liệu đáng tin cậy

Data Commons giống như một thư viện dữ liệu công cộng khổng lồ, ngày càng tăng, tự hào với hơn 240 tỷ điểm dữ liệu về mọi thứ từ sức khỏe đến kinh tế. Nó lấy thông tin này từ các nguồn đáng tin cậy như Liên Hợp Quốc, Ai, CDC và Văn phòng điều tra dân số. Bằng cách hợp nhất các bộ dữ liệu này thành một bộ công cụ và mô hình AI mạnh mẽ duy nhất, Data Commons giúp các nhà hoạch định chính sách, nhà nghiên cứu và tổ chức có được những hiểu biết chính xác mà họ cần.

Hãy tưởng tượng một cơ sở dữ liệu rộng lớn, nơi bạn có thể đặt câu hỏi bằng tiếng Anh đơn giản, như những quốc gia châu Phi nào đã thấy bước nhảy lớn nhất trong việc tiếp cận điện, hoặc thu nhập liên quan đến bệnh tiểu đường trên các quận của Hoa Kỳ như thế nào. Đó là dữ liệu chung cho bạn.

Cách dữ liệu commons giúp chống ảo giác

Khi nhiều người chuyển sang AI thế hệ, chúng tôi đang làm việc để làm cho những trải nghiệm này có căn cứ hơn bằng cách dệt dữ liệu thành công, gia đình của chúng tôi về các mô hình mở nhẹ, hàng đầu. Các mô hình DataGemma này hiện có sẵn cho các nhà nghiên cứu và nhà phát triển đi sâu vào.

DataGemma tăng khả năng của Gemma bằng cách nhấn vào kiến ​​thức của Data Commons, sử dụng hai phương pháp thú vị để cải thiện độ chính xác và lý luận của LLMS:

1. RIG (Thế hệ thu hồi-Interleaved) AMPS UP MÔ HÌNH GEMMA 2 của chúng tôi bằng cách tích cực kiểm tra các sự kiện chống lại dữ liệu. Khi bạn hỏi DataGemma một câu hỏi, nó sẽ tìm ra dữ liệu thống kê từ dữ liệu để cung cấp cho bạn một câu trả lời vững chắc. Mặc dù RIG không phải là một ý tưởng mới, nhưng cách chúng tôi sử dụng nó trong DataGemma khá đặc biệt.

   Ví dụ Truy vấn: '' Có việc sử dụng năng lượng tái tạo tăng lên trên thế giới không?

2. RAG (Thế hệ thu hồi được truy xuất) cho phép các mô hình ngôn ngữ rút thêm thông tin vượt ra ngoài những gì họ đã được đào tạo, làm cho câu trả lời của họ trở nên phong phú và chính xác hơn. Với DataGemma, chúng tôi sử dụng cửa sổ bối cảnh dài của Gemini 1.5 Pro để tìm nạp dữ liệu liên quan từ dữ liệu trước khi mô hình bắt đầu chế tạo phản hồi của nó, cắt giảm ảo giác.

   Ví dụ Truy vấn: '' Có việc sử dụng năng lượng tái tạo tăng lên trên thế giới không?

Kết quả đầy hứa hẹn và những gì tiếp theo

Các bài kiểm tra ban đầu của chúng tôi với Rig và Rag trông có vẻ tốt. Chúng ta sẽ thấy độ chính xác tốt hơn trong các mô hình của mình khi xử lý các con số, điều đó có nghĩa là ít ảo giác hơn cho những người sử dụng các mô hình này để nghiên cứu, ra quyết định hoặc chỉ để thỏa mãn sự tò mò của họ. Bạn có thể kiểm tra những kết quả này trong bài nghiên cứu của chúng tôi.