基於Tsallis非廣延統計力學的模型選擇理論與套用研究

《基於Tsallis非廣延統計力學的模型選擇理論與套用研究》是依託天津大學，由侯越先擔任項目負責人的面上項目。

基本介紹

• 中文名：基於Tsallis非廣延統計力學的模型選擇理論與套用研究
• 項目類別：面上項目
• 項目負責人：侯越先
• 依託單位：天津大學

項目摘要

模型選擇的基本任務是發現可最大限度地刻畫數據的真實生成源的內在規律的模型。大量先期工作嘗試解決面向函式預測或機率分布估計任務的模型選擇問題。然而，現有的方法在計算複雜性、理論保證或參數辨識等方面存在若干困難。本項目關注於在Tsallis非廣延統計力學框架下，結合信息幾何方法，發展新穎的模型選擇理論和方法，並實現有實際意義的套用。項目主要研究內容如下：元理論方面，以信息幾何為工具分析非廣延統計力學的主要理論成分及由此發展出的非廣延一般化最大熵模型，對其做一般化解釋和發展，並實現有效的q參數辨識方法；機率分布估計方面，發展基於非廣延熵偏差理論結果的一般化最大熵模型，並基於不同的q參數和不同的貝葉斯先驗擴展已有的理論結果；預測方面，發展有序非廣延熵及其熵偏差理論結果，著重於解決噪聲先驗的整合和函式波動性刻畫的完備性問題，並實現與傳統信息判據的集成；最後，在典型實際套用中驗證理論結果和模型的有效性

結題摘要

項目基於Tsallis非廣延統計力學框架，發展了頻率主義和貝葉斯熵偏差估計理論，給出了若干閉形式估計結果，並利用上述結果構造了基於Tsallis熵偏差補償的機率密度估計模型。整合信息幾何方法和Tsallis熵偏差補償方法，發展了波爾茲曼機和深度學習模型理論解釋，澄清了參數約簡和模型選擇的可信信息優先原則的形式框架及算法條件，據此發展了形式化的可信信息優先方法用於一般的參數約簡和模型選擇問題。發展了上述理論結果若干新穎套用，套用範圍涉及信息檢索、自然語言處理和模式識別。