騰訊雲行業大模型

2023年6月19日，騰訊公布騰訊雲行業大模型研發進展，依託騰訊雲TI平台打造行業大模型精選商店，為客戶提供MaaS（Model-as-a-Service）一站式服務，助力客戶構建專屬大模型及智慧型套用。

騰訊雲聯合22家客戶正式啟動行業大模型共建合作，並攜手17家生態夥伴共同發起了“騰訊雲行業大模型生態計畫”，致力於共同推進大模型在產業領域的創新和落地。基於騰訊HCC高性能計算集群和大模型能力，騰訊雲已經為傳媒、文旅、政務、金融、泛互、零售、能源、醫療等20多個行業提供了超過50個大模型行業解決方案。

基本介紹

• 中文名：騰訊雲行業大模型
• 隸屬公司：騰訊 

MaaS升級

2023騰訊全球數字生態大會上，騰訊首次對外公布騰訊混元大模型進展，並宣布從技術底座、平台能力、智慧型套用三大維度升級MaaS能力。

● 在技術底座方面，騰訊發布自研的混元通用大模型。騰訊混元大模型是騰訊雲行業大模型的堅實底座，其中文創作能力、在複雜語境下的邏輯推理能力以及任務執行能力，已在騰訊內部多個產品和業務中成功接入並獲得成果，並將通過騰訊雲陸續面向行業客戶開放。騰訊雲已上架和支持接入了Llama 2、Falcon、Bloom等20多個行業最新主流的開源模型，覆蓋智慧型對話、文本生成、寫作等套用場景。客戶可利用騰訊雲TI平台對上述開源模型進行訓練，基於Jupyter Notebook快速啟動模型精調，低代碼操作完成模型部署。

● 在平台能力方面，騰訊雲升級TI平台工具鏈，接入騰訊雲HCC高性能計算節點及星脈高性能計算網路，可提供3.2Tbps的網路頻寬。全新升級的太極Angel大模型加速框架，較行業常用方案性能提升30%以上。全新的工具鏈，具備高性能的大模型精調與部署能力，覆蓋大模型開發、套用全生命周期，讓客戶只需加入自己獨有的場景數據，即可在短時間內精調出專屬的模型方案。

● 在智慧型套用方面，企業可接入騰訊升級後的SaaS、PaaS產品矩陣，通過豐富的、即插即用的智慧型套用，快速裝備模型能力。升級後的智慧型客服機器人擴展了知識邊界，大幅提升接待對話體驗，減少運營成本；企點分析AI助手，通過“對話式數據分析、輔助分析模型配置更新、智慧型結論提取、一鍵生成分析報告”等核心能力，改造傳統分析流程，提升企業數據的分析洞察產出效率；全新發布AI大模型加持的“通用口型”版小樣本數智人，無需訓練，上傳素材1小時內即可獲取專屬數智分身。

產品全景

企業在套用大模型時，常常面臨計算資源少、數據質量差、投入成本高、專業經驗少等挑戰。

為此，騰訊雲全新公布MaaS全景圖，依託騰訊雲TI平台打造行業大模型精選商店，為企業客戶提供涵蓋模型預訓練、模型精調、智慧型套用開發等一站式行業大模型解決方案。在TI平台內置高質量行業大模型基礎上，企業加入自己獨有的場景數據，就可以快速生成自己的專屬模型；同時，也可根據自身業務場景需求，“量體裁衣、按需定製”不同參數、不同規格的模型服務。

● 在算力方面，騰訊雲在2023年4月發布了專為大模型訓練設計的新一代HCC高性能計算集群，採用最新一代的騰訊雲星星海自研伺服器，具備3.2Tbps互聯頻寬，算力性能提升了3倍。此外，騰訊雲即將推出向量資料庫，源自騰訊集團每日處理千億次檢索的向量引擎（OLAMA），單索引支持10億級向量規模，更適用於AI運算、檢索，數據接入AI的效率也比傳統方案提升10倍。這些創新將為客戶的模型訓練提供支持和動力。

● 在平台層面，依託騰訊雲TI平台，為客戶提供一站式模型服務，涵蓋完善的模型工具、成熟的流程方法、全面的配套服務、領先的安全保障能力。TI平台內置金融、傳媒、文旅、政務、工業等多個行業場景的高質量行業大模型，提供包括數據標註、訓練、評估、測試和部署等全套工具的大模型工具鏈，沉澱了從“業務分析、數據處理、大模型選擇”到“模型評測”的一體化完整方法論，同時支持MLOps的體系及工具，保障客戶需求的順利交付。

● 在配套服務和安全保障方面，騰訊雲提供本地化的訓練、落地及陪跑最佳化服務，為客戶掃清落地障礙；依託二十餘年的安全經驗和風控能力，提供AIGC全鏈路內容合規解決方案；針對客戶對數據安全需求，提供私有化部署等多種交付方案，加速企業快速創建和部署AI套用。

產品能力

騰訊雲TI平台行業精調解決方案，支持客戶用自己的數據一站式訓練精調，構建自己的大模型。

1、基於騰訊在產業網際網路領域沉澱的經驗，騰訊雲TI平台內置了多個行業大模型，涵蓋金融、傳媒、文旅、政務、教育等多個行業場景，企業可以結合自身場景數據按需定製精調，也可以根據自身需求開展多模型訓練任務，降低大模型套用門檻。

2、TI-ONE平台提供完善的大模型工具鏈，包括數據標註、訓練、評估、測試和部署等全套工具，同時具備強大的多機多卡訓練加速能力，客戶可快速在TI-ONE平台上進行一站式的大模型精調。

3、提供行業大模型全生命周期一體化的完整方法論，覆蓋「模型選型-訓練共建-部署套用」全流程，包括「業務分析-數據分析-數據清洗-數據標註-大模型選擇-訓練加速-模型評測-套用落地」等，同時支持MLOps的體系及工具，保障客戶需求的順利交付。

4、在配套服務方面，騰訊雲提供本地化的訓練、落地及陪跑最佳化服務，為客戶掃清落地障礙；針對客戶需求，提供私有化部署、公有雲託管、混合雲部署等靈活部署方案，助力企業快速創建和部署AI套用。

5、安全、合規，也是企業需要考慮的關鍵因素。在問題側、模型側、答案側三個層面進行敏感信息的過濾和規避，讓最終的答案符合安全、規範的要求。同時，依託騰訊二十餘年的安全經驗和天御風控能力，提供AIGC全鏈路內容合規解決方案。

合作計畫

● 與客戶開展行業大模型共建合作：騰訊雲聯合來自金融、文旅、傳媒、政務、教育等數十個行業的22家客戶共同啟動行業大模型共建合作，依託騰訊雲領先的行業大模型能力，構建垂直行業模型及套用。

● 與行業生態夥伴共同發起“騰訊雲行業大模型生態計畫”：騰訊雲攜手17家來自不同行業的生態夥伴，共同發起“騰訊雲行業大模型生態計畫”，致力於共同推進大模型在產業領域的創新和落地。

● 與中國信通院共同構建行業大模型標準體系：騰訊標準團隊攜手信通院，共同啟動了“行業大模型標準體系及能力架構”研究，該研究涵蓋模型行業能力、模型工程化性能、模型算力網路、模型安全可靠等方面，為行業大模型的建設和套用提供相關能力和評價標準體系。2023騰訊全球數字生態大會上，騰訊雲與信通院共同發布了《行業大模型標準體系及能力架構研究報告》，報告內包括行業需求分析與資源評估、行業數據與模型共建、行業精調與最佳化部署等關鍵環節，能夠幫助行業夥伴洞悉行業套用場景、模型開發、模型能力、模型套用、模型運營、安全可信等維度，從而對大模型進行綜合評估。

產品套用

騰訊雲行業大模型能力已在騰訊會議、騰訊企點、騰訊雲AI代碼助手等多款頭部SaaS產品中率先套用。

● 騰訊企點·全新一代智慧型客服、企點分析AI助手：基於騰訊雲行業大模型能力，騰訊企點研發探索全新一代智慧型客服和企點分析AI助手，旨在全面提升企業的客服和數據分析能力。新一代智慧型客服解決了傳統智慧型機器人的覆蓋率低、接待上限低和知識維護量大等難題，並基於行業大模型能力，通過標準化數據採集和治理，以業務視角提出問題並快速獲得可視化圖表結果，大幅提升數據分析效率。在知識構建、對話互動、用戶體驗三方面提升騰訊企點智慧型客服管理端效率及用戶端體驗；向客戶開放騰訊企點分析·AI助手內測申請，通過“對話式分析”助力企業客戶打造增長新引擎。

● 騰訊會議·AI會議助手：騰訊會議宣布即將推出覆蓋會議全流程場景的AI小助手，只需通過簡單自然的會議指令，基於對會議內容的理解，就可以完成信息提取、內容分析、會管會控等多種複雜任務，如會後自動生成智慧型總結摘要、基於智慧型錄製的能力幫助用戶高效回顧等，提升用戶開會和信息流轉效率。

● 騰訊雲新一代AI代碼助手：騰訊雲新一代AI代碼助手用AI加持來重塑開發體驗和團隊能力，讓開發者通過全新的人機協作，達到高效創作。AI代碼助手支持多種程式語言和主流開發框架、以及常用開發環境；覆蓋開發關鍵流程，包括溝通、編碼、排錯、評審和調優，承接機械性工作，釋放開發者時間和精力來專注代碼創作，實現開發全面加速。同時也可以基於正負反饋，不斷訓練調優代碼生成過程，實現工具持續改進。

● 騰訊雲AI繪畫：騰訊雲推出AI繪畫產品，依託騰訊自研的AI繪畫模型，提供AI圖像生成與編輯技術API服務，使用戶能夠根據輸入的文本或圖片，智慧型創作出與輸入相關的圖像內容。騰訊雲AI繪畫的中文理解能力，支持中文元素的圖像生成，例如古詩詞理解、水墨剪紙等，目前已開放超過25種生成風格；此外，騰訊雲AI繪畫降低了API接口耗時，相較業內平均水平降低50%，為高質量、高效率的內容創作提供支持。

落地案例

依託在高性能算力及大模型能力方面的積累，騰訊雲已經攜手央視總台、福建大數據集團、上海大學等行業頭部企業，在大模型行業套用方面共創了50多個行業解決方案，在智慧型客服、OCR、跨模態檢索等領域有落地實踐。

● 文旅領域套用：某文旅客戶利用騰訊雲自然語言模型實現了定製旅行服務。用戶只需提供自己的偏好、預算和大致路線，即可生成詳細的旅行方案，並提前安排好每天的行程。

● 內容創作套用：騰訊雲MaaS助力閱文集團文生圖、圖生圖的推理部署和加速。閱文基於騰訊雲TI平台搭載的Angel推理加速引擎，推理能力平均提升30%，將文生文領域成本降低到原來的1/4。此外，TI平台提供動態batch和自動服務調度機制，提高了服務吞吐量，模型最佳化和部署模組一鍵加速和發布模型，減輕服務部署的維護成本。

● 政務領域套用：福建大數據集團攜手騰訊雲打造了互動式大模型套用"小閩助手"，為市民提供智慧型諮詢服務。騰訊雲助力某稅務部門打造專屬政務大模型，解決傳統智慧型客服知識邊界受限，問題攔截率、覆蓋率低，政策法規、辦事指南的持續疊代造成後續運營維護成本高的問題。

● 教育領域套用：上海大學藉助騰訊雲TI平台將大模型套用在諮詢和問答場景，幫助學生解答選課、就業指導、創業政策等問題，應對就業壓力。

● 傳媒領域套用：央視頻通過騰訊雲TI平台原生模型構建了智慧型媒體AI中台，集成了修復、標籤、智慧型翻譯等30多種底層算法能力，實現了低解析度視頻素材轉換、智慧型剪輯和快速輸出，提升了產出和分發效率。

● 金融領域套用：某頭部銀行利用騰訊雲TI-OCR實現了95%以上準確率的檔案智慧型識別和關鍵字提取，將檔案數據轉化為結構化數據，全面提升運營效率。