AGREE(谷歌研究院推出的框架)

AGREE，是谷歌研究院推出的創新框架，旨在增強大型語言模型（LLM）生成內容和引用的準確性。

2024年6月，AGREE推出。

基本介紹

• 外文名：AGREE
• 所屬公司 ：谷歌

科技簡介

這一框架通過檢索文檔中的相關段落來增強大模型生成回答的事實基礎，並提供相應的引用，從而提高回答的準確性，並為用戶提供驗證信息真實性的途徑。

發展歷史

2024年6月，AGREE推出。

核心技術

• 訓練階段微調:使用基礎大模型生成回答，並利用自然語言推理模型（NLI）評估段落是否支持特定聲明。AGREE框架使用NLI模型從未標記的查詢中自動構建訓練數據集，通過匹配回答和檢索到的文檔，為每個聲明找到最相關的支持性段落。
• 測試時自適應:一種動態、疊代的推理增強方法，幫助大模型在面對新的內容查詢時，主動從大型語料庫中檢索相關信息，並對生成的回答進行補充和修正。

工作流程

在微調階段，AGREE框架採用LORA的輕量級微調技術，通過在大模型的權重矩陣上添加低秩更新，實現高效且針對性的調整，減少計算資源消耗，同時保持模型泛化能力。

測試時自適應從接收到新查詢開始，微調後的大模型根據訓練階段學到的知識生成初步回答，然後進入自動疊代過程，自我評估並識別需要額外支持的聲明。

一旦識別出需要額外信息的聲明，啟動檢索過程，在預構建的語料庫中搜尋相關段落，並將這些段落與先前回答結合，生成更完善、準確的內容。