粗糙雙胞胎支持向量機算法的研究及套用

《粗糙雙胞胎支持向量機算法的研究及套用》是依託中國農業大學,由徐義田擔任項目負責人的專項基金項目。

基本介紹

  • 中文名:粗糙雙胞胎支持向量機算法的研究及套用
  • 依託單位:中國農業大學
  • 項目負責人:徐義田
  • 項目類別:專項基金項目
項目摘要,結題摘要,

項目摘要

雙胞胎支持向量機是一種新穎的支持向量機算法,其模型轉化為求解兩個較小規模的二次規劃問題,而不是標準支持向量機的一個較大規模的二次規劃問題,因此它的運算速度提高了四倍,近兩年它受到高度重視。但為正類樣本點構造分類超平面時,所有的正類樣本點都參與了目標函式的構建,而只有小數錯分的負類點參入其中,這對正類點容易產生過擬合現象,降低模型的預測能力。另外模型中對那些錯分的負類點給予了相同的懲罰,而實際上它們所處的位置不同,對超平面有著不同的影響。. 根據以上兩點缺陷,對現有的雙胞胎支持向量機進行改進是很有必要的。本項目將粗糙集理論引入到雙胞胎支持向量機中,通過構造粗糙上間隔、粗糙下間隔和粗糙邊界,這樣更多的負類點被考慮了;同時對位於下間隔中的負類點給予較大的懲罰,對位於粗糙邊界中的負類點給予較小的懲罰,改進後的模型將具有更強的推廣能力。本項目將圍繞分類和回歸問題進行詳細地研究。

結題摘要

項目組成員通過短短一年的研究,取得了可喜的研究成果,2012年共發表7篇標註基金號的被SCI、EI檢索的科研論文,其中項目申請人以第一作者身份發表5篇。另有3篇未標註基金號的被SCI、EI檢索的國外期刊論文。主要成果如下:1、構建了基於粗糙間隔的雙胞胎支持向量分類機. 通過構造粗糙上間隔、下間隔和粗糙邊界,對位於不同間隔中的數據點給予不同的懲罰。同時更多的數據點在目標函式中被考慮到,這從一定程度上克服了“過擬合”問題,從而增強了模型的推廣能力。另外我們還對模型中的參數進行了相關的研究,得到支持向量比例的下界和錯分比例的上界。2、構建基於加權的雙胞胎支持向量回歸機. 在構造上、下界函式時,對不同位置的數據點給予不同的懲罰,起到了加權的作用。與經典的支持向量回歸機和雙胞胎支持向量回歸機相比,加權雙胞胎支持向量回歸機擁有較強的泛化能力。另外我們還對加權樣本的比例進行了相關的研究。3、構建了基於結構風險最小化的雙胞胎最小二乘支持向量分類機. 通過在目標函式中引入了規則化項,使改進的雙胞胎最小二乘支持向量分類機遵循結構風險最小化原則而不是經驗風險最小化原則,提高了模型的泛化能力。4、構建一種雙胞胎多分類支持向量機. 將雙胞胎的思想引入到多分類問題中,構建了雙胞胎多分類支持向量機。該模型充分利用TSVM和K-SVCR的優勢,採用了1對1對余的結構,因此產生三輸出結果。由於所有訓練樣本點的信息都被充分利用,因此產生了較高的預測精度。另外,我們在多輸出支持向量回歸機,支持向量機的魯棒性等方面也做了相關的研究。

相關詞條

熱門詞條

聯絡我們