“軒轅”是度小滿開源的國內首個千億級中文金融大模型，軒轅大模型是在1760億參數的Bloom大模型基礎上訓練而來，在金融名詞理解、金融市場評論、金融數據分析和金融新聞理解等任務上，效果相較於通用大模型大幅提升，表現出明顯的金融領域優勢。
千億級的軒轅模型已可以在Huggingface中申請下載，面向所有金融機構開放。
基本介紹
- 中文名：軒轅
- 釋義：度小滿開源的國內首個千億級中文金融大模型
- 開源時間：2023年5月
發展歷史,主要特點,
發展歷史
2023年5月，度小滿正式開源國內首個千億級中文金融大模型——“軒轅”。
主要特點
在金融場景中的任務評測中，軒轅全面超越了市場上的主流開源大模型，贏得了150次回答中63.33%的勝率，充分凸顯了其在金融領域的顯著優勢。在通用能力評測中，軒轅有10.2%的任務表現超越ChatGPT 3.5，61.22%的任務表現與之持平，涉及數學計算、場景寫作、邏輯推理、文本摘要等13個主要維度。
為了提升軒轅大模型對金融領域問題的理解能力，度小滿將自身業務中積累的金融領域的千億tokens的中文預訓練數據集用來訓練模型。該數據集涵蓋了金融研報、股票、基金、銀行、保險等各個方向的專業知識。度小滿表示，經過清洗和標註的高質量數據集，不僅在通用性方面與ChatGPT達到持平成為可能，且顯著提升了模型在金融垂直領域的性能。
