歸納學習中的不確定性研究

《歸納學習中的不確定性研究》是依託河北大學，由王熙照擔任項目負責人的面上項目。

基本介紹

• 中文名：歸納學習中的不確定性研究
• 項目類別：面上項目
• 項目負責人：王熙照
• 依託單位：河北大學

項目摘要

不確定性是近十多年來在許多領域倍受關注的一個研究課題。本項目擬對歸納學習中的不確定性開展一個系統的研究。重點研究不確定性在歸納學習過程中的量化表示及可調整性和不確定性的極值化（極大化或極小化）對歸納學習過程的影響，包括（1）極小不確定性原則的建立以及此原則下的決策樹歸納；（2）極大化模糊上積分對模糊分類器融合系統性能的改善；（3）極大不確定性原則的建立以及基於此原則歸納學習系統不確定性與系統泛化能力間關係的研究；（4）極大不確定性原則下主動學習的樣例選取機制研究和對分類器性能的改善；（5）不確定性極值化的相關最最佳化模型及求解算法研究。歸納學習中不確定性的系統研究可豐富不確定性理論、擴大不確定性理論的套用範圍，它對建立基於不確定性減少的知識發現模式有著指導意義，在複雜環境下的智慧型控制、可靠性分析、決策支持等領域，尤其在醫療圖像處理中有著廣泛的套用前景。

結題摘要

不確定性作為影響學習系統的一個關鍵因素，對構建新的學習機制、改善學習系統的自適應能力、以及提高學習系統的整體性能有著不可忽視的作用。本項目首次系統研究了不確定性在不同歸納學習過程中的量化表示及調整，不確定性極值對於歸納學習過程的影響，不確定性與學習系統的泛化能力之間的關係等。主要研究內容和重要結果包括： 1. 在決策樹歸納學習中，對不確定性給出新的量化表示，如一般廣義熵函式、結合信息熵和不可指定性的不確定性度量。證實了基於“極小化不確定性原則”構建連續值屬性決策樹，能夠顯著降低決策樹歸納的計算複雜性，並能有效地提高學習系統的泛化能力。 2. 在基於模糊積分的歸納學習中，提出用模糊上積分來表示分類器在互動作用中的不確定性。通過極大化這種不確定性建立的模糊上積分線性最佳化模型改善了模糊分類器融合系統的分類性能；提出的基於模糊積分的極限學習機 (ELM)集成考慮了融合分類器之間的互動作用，基本上消除了ELM算法的不穩定性和過擬合等問題。 3. 在主動學習過程中，提出了基於最大化不可指定性樣例選取的歸納學習方法。其核心思想是在選擇訓練樣例時，使得模糊決策樹的調整量最小。理論和實驗上均表明了基於這種選擇機制歸納出的模糊決策樹的泛化能力優於基於隨機選擇機制歸納出的模糊決策樹。 4. 在集成學習的框架下，我們研究了模糊不確定性和基分類器的泛化能力之間關係，討論了模糊性對分類邊界的影響，驗證了條件最大熵原則，得出結論：在分類精度給定的情況下，模糊基分類器的不確定性越大，泛化能力越強。這對於複雜分類邊界問題構建高性能分類器具有指導意義。 5. 在不確定性與泛化能力的套用研究中，提出了一種基於模糊積分的不完全小波包子空間集成人臉識別方法。模糊積分表示了基分類器互動中的不確定性，同時充分利用各個小波子空間的識別信息，有效提高了人臉識別的準確率。 以上是本項目通過研究了不確定性的量化表示對歸納學習系統性能影響得到的主要結果。項目研究迄今出版專著2部，完成學習系統一個，發表學術論文50多篇。其中，SCI檢索30篇。JCR一區TOP論文1篇，JCR二區論文10篇，高被引用論文3篇。這些研究成果豐富了不確定性理論和套用，對於複雜環境下的智慧型控制、高性能複雜分類系統的構建、大數據決策支持系統等領域有著廣泛的套用。