“耀MagicOS百模生態計畫”是為致力於攜手合作夥伴共同打造端雲協同的大模型服務“新生態”而制定的計畫。
2024年1月10日,在榮耀MagicOS 8.0發布會及開發者大會上,榮耀終端有限公司CEO趙明宣布了“百模生態計畫”。
基本介紹
- 中文名:榮耀MagicOS百模生態計畫
- 公布時間:2024年1月10日
計畫宣布,內容解讀,
計畫宣布
2024年1月10日,在榮耀MagicOS 8.0發布會及開發者大會上,榮耀終端有限公司CEO趙明宣布了“百模生態計畫”。
內容解讀
在榮耀MagicOS8.0的發布會上,榮耀發布了“百模生態計畫”,致力於攜手合作夥伴共同打造端雲協同的大模型服務“新生態”,榮耀將為百大模型提供入口,讓雲側通用大模型和各種行業垂域大模型可以通過貨架化方式融入到MagicOS中,端側平台級AI大模型作為中控,理解用戶意圖,拆解編排任務,高效安全地連線雲側大模型,分發、融合、調度原子化服務,完成複雜任務閉環。
隨著大模型落地不斷深化,大模型到端側套用成趨勢。端側套用是指大模型直接利用端側晶片的算力生成結果。但動輒千百億級參數的大模型所需的龐大算力、存儲和能耗對端側晶片提出了高要求,此外端側用戶對高性能、低時延、數據隱私等存在特別需求。因此,雲側部署的大模型加端側套用的大模型是綜合平衡性能、成本、功耗、隱私、速度之下的最佳選擇。
魔法大模型負責理解用戶意圖,在後台將用戶的簡單提示轉化為更專業的提示,再由文心大模型提供知識問答、生活建議等專業服務。比如,當用戶要求“幫我制定健康計畫”時,魔法大模型會分析用戶健康信息,自動生成具象化提示詞,再調度文心大模型,生成更全面的個人定製健身計畫。過程中,魔法大模型通過端側防護網,濾掉敏感信息,並確保個人隱私不上雲,守護安全。本次合作展現了終端廠商與雲服務廠商的全新生態合作模式,也是榮耀與百度技術生態的完美契合。