《弱分類器的選擇與集成方法研究》是依託北京科技大學，由郝紅衛擔任項目負責人的面上項目。
基本介紹
- 中文名：弱分類器的選擇與集成方法研究
- 依託單位：北京科技大學
- 項目負責人：郝紅衛
- 項目類別：面上項目
項目摘要,結題摘要,
項目摘要
集成學習利用多個弱分類器來解決同一個問題，能顯著提高分類系統的泛化能力。研究表明，所有分類器都參與集成效果並非最好，從眾多分類器中選擇一部分差異性較大的分類器進行集成可以提高集成的效率並改善其效果。因此分類器的選擇方法以及作為選擇依據的差異性度量就成為選擇性集成學習中的關鍵問題。針對上述問題，本項目提出一種新的分類器整體差異性度量，在此基礎上，將分類器的選擇與集成過程相結合，提出分類器的動態選擇與循環集成方法。動態選擇是指根據識別對象的難易程度（由識別結果的可信度來判定），選擇相應數量的分類器參與集成。先用所提出的分類器整體差異性度量對分類器進行排序，再根據識別對象的難易程度從已排序的分類器中依次遞補，從而避免了搜尋過程，提高了選擇的效率；循環集成是指當對象很難識別時，可以循環利用入選分類器進行集成，進一步提高集成的效率和效果。本項目的研究對機器學習、模式識別理論及套用具有十分重要的意義。
結題摘要
集成學習利用多個弱分類器來解決同一個問題，能顯著提高分類系統的泛化能力。研究表明，所有的分類器都參與集成效果並非最好，從眾多分類器中選擇一部分差異性較大的分類器進行集成可以提高集成的效率並改善其效果。因此分類器的選擇方法以及作為選擇依據的差異性度量就成為選擇性集成學習中的關鍵問題。針對上述問題，本項目提出一種新的分類差異性度量，在此基礎上，將分類器的選擇與集成過程相結合，提出分類器的動態選擇與循環集成方法。 總的說來，通過3年的研究，本項目的技術成果主要包括以下方面。首先，提出一種結合稀疏性的差異性度量最佳化方法。其次，提出三種基於差異性的最佳化選擇方法：基於稀疏性和差異性的啟發式分類器選擇算法、基於樣本權重的差異性度量最佳化方法和基於排序的動態分類器集成選擇算法。 同時，在本項目的資助下，項目組成員共發表29篇SCI/EI/ISTP期刊/會議學術論文 ，其中SCI論文6篇（含1篇業內頂級期刊IEEE.Trans. Pattern Analysis and Machine Intelligence論文）。
