LLM + 真實世界的統計數據
LLMs 是當今 AI領域的核心推動力。從 Natural Language Processing（NLP）、機器翻譯到內容生成，LLMs 展現了超越以往諸多方法論的能力，使得機器能夠理解和生成人類語言。然而，伴隨著這些進步，LLMs 也帶來了一個令人頭痛的問題：「幻覺」（hallucinations）。
這種現象指的是模型（model）在缺乏足夠資訊或理解的情況下，仍然自信地生成錯誤或不準確的內容，誤導使用者。
幻覺問題不僅影響了 AI 模型的可信度，也對實際應用帶來了風險。尤其是在醫療、金融和法律等關鍵領域，錯誤資訊可能導致嚴重的後果。因此，解決 LLMs 的幻覺問題，已成為人工智慧研究中的重要課題。
為了應對這一挑戰，Google 推出了 DataGemma，其目標是要將 LLMs 與龐大且可靠的真實世界數據資料庫『Data Commons』相結合的創新嘗試。通過這一結合，DataGemma 有望大幅減少幻覺現象，提升 AI 模型的準確性和可信度。
Data Commons：可信賴的數據寶庫
Data Commons 是一個公開可用的知識圖譜，其目標是整合全球各地的公開數據資源，為研究人員、政策制定者和開發者提供統一的資料存取平台。該資料庫包含超過 2400 億個數據項目，橫跨數十萬個統計變數，涵蓋了從經濟、教育、健康到環境、人口統計等多個領域。
資料來源包括聯合國（UN）、世界衛生組織（WHO）、疾病管制與預防中心（CDC）、美國人口普查局等全球知名的權威機構。這確保了 Data Commons 中的數據具有高度的可信度和權威性。
使用者可以將 Data Commons 視為一個龐大且不斷增長的知識庫，並透過 AI 驅動的自然語言介面與之互動。例如，研究人員可以查詢「過去十年中全球二氧化碳排放量的變化趨勢」，企業可以了解「各國新能源汽車的市場滲透率」，政策制定者可以分析「教育投資與國家經濟增長之間的關聯性」。
Data Commons 的優勢在於它將分散的數據資源整合在一起，提供了統一的數據格式和存取方式，極大地便利了數據的利用和分析。
DataGemma：將 LLMs 與真實數據相結合
DataGemma 是基於 Gemma 模型系列開發的最新開放模型，用於解決 LLMs 的幻覺問題。Gemma 本身是 Google 開發的輕量級、先進的語言模型系列，採用了與建構 Gemini 模型相同的研究和技術。DataGemma 的核心理念是將 LLMs 與 Data Commons 中的真實世界數據相結合，讓模型在生成回應時，能夠參考可靠的數據來源，從而提高準確性和可信度。
為了實現這一目標，DataGemma 採用了兩種主要的方法：
1. RIG（Retrieval-Integrated Generation，檢索融合生成）
RIG 是一種結合檢索和生成的技術。當模型接收到使用者的指令時，它首先分析其中是否包含需要統計資料的需求。如果是，模型將主動從 Data Commons 中檢索相關的數據，並將其整合到生成的回應中。
這種方法的優勢在於，模型不再僅僅依賴於訓練資料（training data）中學習到的知識，而是能夠實時查詢最新、最準確的數據，從而避免了因為訓練數據過時或不完整而產生的幻覺。
例如，當被詢問「全球再生能源的使用是否增加了？」時，DataGemma 會從 Data Commons 中檢索最新的全球再生能源使用數據，並基於這些數據生成準確的回應。
2. RAG（Retrieval-Augmented Generation，檢索強化生成）
RAG，即「檢索強化生成」（Retrieval-Augmented Generation），進一步加強了模型整合外部資訊的能力。不同於 RIG，RAG 方法在模型開始生成回應之前，就將相關的 context 資訊提供給模型，作為生成的基礎。
在 DataGemma 中，這是透過利用 Gemini 1.5 Pro 的大範圍 context window 實現的。模型在生成回應時，已經擁有了從 Data Commons 檢索到的豐富資料，從而能夠產生更全面、更深入的回應。
以同樣的查詢「全球再生能源的使用是否增加了？」為例，使用 RAG 方法的 DataGemma 不僅能夠提供數據支援，還能夠進行深入的分析，討論再生能源使用增加的原因、趨勢，以及對全球經濟和環境的影響。同時，回應中還會包含註腳和數據來源，方便使用者進一步驗證。
初步成果與廣泛影響
DataGemma 使用 RIG 和 RAG 方法的初步研究結果顯示，模型在處理涉及數字事實和統計資訊的問題時，準確性有顯著提升。研究人員透過大量測試，發現幻覺現象的發生率明顯降低，模型能夠更加準確、自信地提供可靠的資訊。這一進展對於各行各業都有深遠的影響。在醫療領域，醫生和患者可以更加信賴 AI 提供的診斷建議和健康資訊；在金融領域，投資者和分析師可以依靠 AI 進行更準確的市場分析和預測；在教育領域，學生和教師可以獲得更可靠的學習資源和輔助工具。此外，DataGemma 的成功也為未來的 AI 發展指明了新的方向。將模型與可靠的數據來源相結合，不僅可以提高準確性，還可以擴展 AI 的應用範圍，使其在更多關鍵領域發揮作用。
面臨的挑戰與未來的機遇
儘管 DataGemma 展現了巨大的潛力，但仍然面臨一些挑戰。首先，確保 Data Commons 中的數據始終保持最新、準確和全面，需要持續的努力和投入。這涉及到與全球各地的數據供應機構合作，建立有效的數據更新和維護機制。其次，如何處理多語言、多文化背景下的數據，也是需要解決的問題。全球不同地區的數據標準、格式和質量可能存在差異，這對於模型的準確性和適用性提出了挑戰。此外，倫理（ethics）和隱私（privacy）問題也不可忽視。隨著 AI 能夠訪問和處理越來越多的數據，確保個人隱私和數據安全變得愈發重要。這需要在技術開發的同時，制定相應的政策和規範，確保 AI 的發展符合道德標準和法律要求。未來，Google 計劃繼續完善 DataGemma，擴大其應用範圍，並與更多的研究機構和開發者合作。透過開放模型的方式，鼓勵社群共同參與，推動 AI 技術的進一步發展。
邁向可信賴的人工智慧新時代
DataGemma 是一個重要里程碑，透過將 LLMs 與真實世界的可靠數據相結合，成功地減少了 LLM 的幻覺現象，提高了模型的準確性和可信度。這不僅有助於增強使用者對 AI 的信任，也為 AI 技術在更多領域的應用打下了堅實的基礎。在未來，我們有理由相信，隨著 DataGemma 和類似技術的不斷發展，AI 將進入一個更加成熟、負責任和可靠的新時代。AI 不再僅僅是輔助工具，而將成為人們生活、工作和學習中不可或缺的夥伴。然而，這一進程也要求我們在技術創新的同時，重視倫理、隱私和法律等問題。只有在確保技術發展與社會價值相一致的前提下，人工智慧才能真正造福全人類。研究人員和開發者現在可以透過相關的快速上手教學，開始使用 DataGemma 的 RIG 和 RAG 方法，參與到這一令人興奮的領域中。更多關於 Data Commons 和 Gemma 協同工作的資訊，則可以在相關研究文章中找到。
讓我們共同期待一個由可信賴的 AI 所引領的未來，AI 將成為人類探索未知、解決複雜問題和推動社會進步的強大力量。
