算法原理
根據用戶輸入的文本,對用戶意圖進行判斷。當意圖為普通對話時,使用用戶輸入的文本及當前Session 的對話記錄作為提示詞調用大語言模型生成文本回復;當意圖為檢索增強時,使用用戶輸入的文本在 360 搜尋進行檢索,並將用戶輸入的文本和搜尋結果一起作為提示詞,調用大語言模型生成文本回復。
運行機制
1.當用戶在對話框中輸入文本(Query)並點擊“傳送”按鈕時,系統會對請求 Query 進行風險判定,只有無風險請求才會調用模型生成回復,有風險則直接返回兜底回復;2.針對無風險請求,系統首先獲取當前Session 的對話記錄並對Query 進行改寫,並根據用戶意圖進行相對應的處理。當意圖是普通對話時,使用改寫後的 Query 作為提示詞調用大預言模型生成文本回復;當意圖是檢索增強時,先通過搜尋引擎檢索網頁內容,再將返回的網頁內容和改寫後的Query 一起作為提示詞,調用大預言模型生成文本回復;3.在將最終結果返回給用戶前,系統會對生成的文本進行風險判定,只有無風險的結果才會返回給用戶,否則返回兜底回復。
套用場景
搜尋引擎、瀏覽器、輸入法下的智慧型對話及文本創作等場景
算法目的
基於大語言模型技術,更好地滿足用戶生成文本、對話、搜尋等需求,提升用戶體驗和生產力。