《基於隱式分解的時間序列結構模型的推理與預測研究》是依託廈門大學,由蔡嶺擔任項目負責人的面上項目。
基本介紹
- 中文名:基於隱式分解的時間序列結構模型的推理與預測研究
- 項目類別:面上項目
- 項目負責人:蔡嶺
- 依託單位:廈門大學
項目摘要,結題摘要,
項目摘要
結構模型在高維數據的建模與推理中的廣泛套用,同時也逐漸成為人工智慧、計算機視覺與機器學習等研究領域的研究熱點。為了應對時間序列上高維數據的推理與預測所面臨的多重挑戰,時間序列上結構模型與相關方法具有重大研究價值,而其中的關鍵點在於如何將高維複雜結構模型分解為多個簡單模型分別求解。本項目著眼於時間序列上結構模型的推理與預測的基礎性研究,主要貢獻是形成一套完善的、針對高維時間序列數據的分析框架,具體研究內容包括以下三個研究點:(1)基於最大邊緣值的時間序列隱式上下文關聯方法;(2) 基於解耦分解的結構體混合推理方法以及(3) 動態結構體的拓撲演化與形變模型。這三個連貫一體的研究點分別對結構模型進行分解、推理和更新,互為耦合併相互支撐。本項目以輸出一套高效的線上時間序列高維數據的分析預測平台,為動態結構分析與知識發現提供理論基礎,並促進時間序列結構模型在多個相關學科領域中的套用。
結題摘要
為了應對高維空間中數據建模分析與推理預測所面臨的多重挑戰,本課題研究工作近四年來聚焦於低維流型的結構性模型相關理論方法,在以下幾個方面已經取得了顯著進展:1、結構性的超圖拓撲網路與相關方法。傳統圖結構中所有邊的度數都是強制性的2,但超圖結構中可以使用其無限度數的超邊來編碼高階數據相關性(除成對連線之外)。所提出的基於超圖結構的神經網路框架(hypergraph neural networks framework)能表達有效地表達複雜數據的相關性,並且結合新設計的超邊緣卷積運算,能更好地利用高階數據相關性進行表示學習。在多個套用場景中,超圖神經網路框架對多模態數據的分析與預測取得了比現有算法好的性能表現。2、弱監督學習中的結構性約束方法。常見深度學習模型都需要標記完整的數據集訓練,而成本低且數量多的弱標籤數據難以得到套用。通過加入結構性的約束可有效解決弱監督學習中存在的噪音干擾,疊代地訓練得到性能優良的網路模型和最佳化弱標籤數據。3、結構相關性與數據語義標題生成。對於非結構化數據的結構化標題生成,可實現數據的內容聚合與語義檢索。本項目所提出的結構化語義推理模型模擬數據間的相關性,而結構化的編碼器-推斷器-解碼器方法在標題生成中顯式地集成了詞法和句法多樣性,在MSCOCO基準數據集上優於現有方法。4、高維神經網路的結構分析與裁剪。為了有效利用卷積神經網路中的結構化信息,本項目提出了一種有效的結構化裁剪方法,以端到端的方式裁剪網路冗餘結構部分(包括卷積運算元,網路分支和網路塊),無需反覆疊代裁剪和重新訓練。與以前的強依賴於標籤的修剪方法不同,所提方法採用無標籤生成對抗學習(Generative Adversarial Learning)生成稀疏軟掩碼可將特定結構的輸出降低到零,從而獲得更高的加速比和更低的錯誤率。