《分類器的局部性正則化設計技術研究》是依託南京航空航天大學,由陳松燦擔任項目負責人的面上項目。
基本介紹
- 中文名:分類器的局部性正則化設計技術研究
- 項目類別:面上項目
- 項目負責人:陳松燦
- 依託單位:南京航空航天大學
- 批准號:60773061
- 申請代碼:F06
- 負責人職稱:教授
- 研究期限:2008-01-01 至 2010-12-31
- 支持經費:28(萬元)
《分類器的局部性正則化設計技術研究》是依託南京航空航天大學,由陳松燦擔任項目負責人的面上項目。
《分類器的局部性正則化設計技術研究》是依託南京航空航天大學,由陳松燦擔任項目負責人的面上項目。項目摘要分類器設計是模式識別系統中的重要環節之一,對分類性能起著至關重要的作用。其最終目標是保證所設計的分類器對於大量的未知樣...
《判別性正則化技術及其在半監督學習中的拓展研究》是依託東南大學,由薛暉擔任項目負責人的青年科學基金項目。中文摘要 正則化技術是模式識別領域中提高分類器推廣性能的主要技術之一,其藉助於正則化項的形式,將問題的先驗知識引入至分類器設計之中,使得分類器光滑穩定,從而有效地改進了分類性能。但是由於傳統正則化...
1)將稀疏表示引入圖的構造,設計稀疏保持投影(SPP)算法,以克服LPP等的不足;(2)半監督化SPP,期望藉助儘可能少的無標樣本提升監督算法(如LDA)的性能;(3)設計自教(self-taught)降維技術,克服傳統降維方法獨立同分布假設的限制;(4)將上述思想融入分類器的設計,以發展出稀疏保持的正則化分類算法;...
1.1.1模式識別技術的發展概況 2 1.1.2相關概念 3 1.1.3描述模式的基本方法 3 1.1.4模式識別系統的組成部分 4 1.1.5統計模式識別的主要研究內容 5 1.2最佳化設計特徵空間問題 6 1.2.1特徵選擇 7 1.2.2特徵提取 8 1.3分類器設計問題 9 1.3.1分類器設計的基本方法 11 1.3.2分類器判別函式的...
我們的研究內容與目標是:(1)針對分數階擴散方程反問題的具體特徵,利用正問題的正則性估計,從理論上分析條件後驗機率分布的適定性和相容性;(2)基於貝葉斯反演中條件後驗機率分布的理論分析,利用近年來發展的各種不確定性量化方法,設計出快速求解分數階擴散方程反問題的數值算法,最後利用若干數值例子加以驗證。...
是正則化係數。當 時,該式被稱為L₂正則化或Tikhonov正則化(Tikhonov regularization)。SVM的結構風險按 表示,線上性可分問題下,硬邊界SVM的經驗風險可以歸0,因此其是一個完全最小化結構風險的分類器;線上性不可分問題中,軟邊界SVM的經驗風險不可歸0,因此其是一個L₂正則化分類器,最小化結構風險...
1.4.2 分類器設計 1.4.3 深度學習理論在通信輻射源個體識別中的套用現狀 1.5 通信輻射源個體識別面臨的挑戰 1.6 專用數據集 1.6.1 kenwood數據集 1.6.2 krisun數據集 1.6.3 USW數據集 1.6.4 SW數據集 第2章 通信輻射源個體識別基礎 2.1 引言 2.2 通信輻射源個體指紋特徵產生機理...
5.11.2 局部不變性和平滑正則化 97 5.11.3 流形學習 99 第 2 部分深度網路:現代實踐 第6 章深度前饋網路 105 6.1 實例:學習XOR 107 6.2 基於梯度的學習 110 6.2.1 代價函式 111 6.2.2 輸出單元 113 6.3 隱藏單元 119 6.3.1 整流線性單元及其擴展 120 6.3.2 logistic ...
6.4.2 正則化(收縮模型)... 136 6.5 statmodels 包的使用... 138 6.6 習題... 139 第7 章 k-近鄰算法...143 7.1 k-近鄰分類器(分類結果變數)... 143 7.1.1 確定近鄰記錄... 143 7.1.2 分類規則...144 7.1.3 實例:駕駛式割草機......
既然深度學習的對抗樣本是由於模型的線性特徵所導致,那就可以設計一種快速的方法來產生對抗樣本進行對抗訓練。Szegedy等人的研究認為對抗樣本可以通過使用標準正則化技術解決,可是Goodfellow等人使用常見的正則化方法,如dropout,預訓練和模型平均進行測試,並沒能顯著地提高深度模型對於對抗樣本的抗干擾能力。根據神經網路的...
15.3.2 MNIST數據集多分類套用 205 15.4 本章小結 206 第16章 正則化 207 16.1 正則化概述 207 16.2 數據集增強 207 16.3 提前終止 208 16.4 Dropout 208 16.5 Batch Normalization 211 16.6 本章小結 213 第17章 深度學習中的最佳化 214 17.1 最佳化技術概述 214 17.2 最佳化...
4.2 容量和正則化:Rademacher理論 4.3 基於核的類的模式穩定性 4.4 一種實用的方法 4.5 小結 4.6 進一步閱讀和高級主題 第二部分 模式分析算法 第5章 特徵空間中的基本算法 5.1 均值和距離 5.1.1 一種簡單的新穎檢測算法 5.1.2 一種簡單的分類算法 5.2 計算投影:Gram-Schmidt法、QR法和Cholesky...
8.2 注意力機制的分類·· 399 8.2.1 基於項的注意力和基於位置的注意力·· 400 8.2.2 全局注意力和局部注意力·· 402 8.2.3 自身注意力機制·· 404 8.3 注意力機制和RNN的結合·· 405 8.4 注意力機制的套用·· 406 8.4.1 目標檢測·· 406 8.4.2 圖片標註·· 407 8.4.3 機器...
6.4 軟間隔與正則化 87 6.4.1 式(6.35) 的推導 87 6.4.2 式(6.37) 和式(6.38) 的推導 87 6.4.3 式(6.39) 的推導 87 6.4.4 式(6.40) 的推導 88 6.4.5 對率回歸與支持向量機的關係 88 6.4.6 式(6.41) 的解釋 89 6.5 支持向量回歸 89 6.5.1 式(6.43) ...
6.2.4 為什麼正則化很重要 134 6.3 小二乘分類 135 6.4 支持向量機 138 6.5 邏輯回歸 140 6.5.1 計算梯度 140 6.5.2 比較支持向量機和 邏輯回歸 140 6.5.3 邏輯回歸作為機率 分類器 142 6.6 多類設定 143 6.6.1 一對其餘,一票反對 一票 143 6.6.2 多項式邏輯回歸 144 ...
2.1.1 智慧型的分類 28 2.1.2 認識智慧型的不同觀點 29 2.1.3 智慧型的層次 30 2.2 人工智慧的概念 30 2.2.1 人工智慧的發展史 30 2.2.2 人工智慧的研究目標 31 2.2.3 人工智慧的研究方法 31 2.2.4 人工智慧的分類 33 2.2.5 人工智慧的特徵 34 2.3 人工智慧的技術套用 35 2.4 人工智慧...
式中第一項包含學習樣本,是數據擬合項,表示模型的經驗風險(empirical risk);式中第二項僅與回歸模型有關,回歸模型的核矩陣越複雜其取值越高,表示模型的結構風險(structural risk),因此按統計學習理論,GPR是一個包含正則化的求解系統,但二者的比例,即殘差的方差由MLE給出。求解GPR似然極大值等價於求解負...
全書共16章,大致分為3個部分:第1部分(第1~3章)介紹機器學習的基礎知識;第2部分(第4~10章)討論一些經典而常用的機器學習方法(決策樹、神經網路、支持向量機、貝葉斯分類器、集成學習、聚類、降維與度量學習);第3部分(第11~16章)為進階知識,內容涉及特徵選擇與稀疏學習、計算學習理論、半監督學習、...
4.提出了基於一致性正則化的多源跨領域遷移學習框架,能利用源領域上的局部數據,而且考慮了子分類器在目標領域上的預測的一致性。還提出挖掘領域間共性與特性的協同PLSA模型,從生成模型角度解決了從多領域間挖掘共享概念的學習問題,上述工作在IEEETKDE發表兩篇論文,Google他引70次,莊福振博士獲得2013年人工智慧學會...
13.3.7 正則化 332 13.3.8 特徵選擇 333 13.3.9 稀疏表示和字典學習 335 13.4 Python實現 337 參考文獻 352,第1章 機器學習緒論 1 1.1 機器學習的定義 1 1.1.1 緒論 1 1.1.2 機器學習發展歷程 2 1.1.3 機器學習算法的分類 3 1.2 學習算法 4 ...
5.2.2 正則化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 745.3 超參數和驗證集. . . . . . . . . . . . . . . . ...
1.4 目前的先進技術 24 1.5 人工智慧的風險和收益 27 小結 30 參考文獻與歷史注釋 31 第 2 章 智慧型體 32 2.1 智慧型體和環境 32 2.2 良好行為:理性的概念 34 2.2.1 性能度量 34 2.2.2 理性 35 2.2.3 全知、學習和自主 36 2.3 環境的本質 37 2.3.1 指定任務環境 37 2.3.2 任務環境...
人工智慧概論及套用是北京郵電大學出版社出版書籍,作者是王剛。內容簡介 本書主要從套用的角度介紹了人工智慧、機器學習、深度學習的相關技術和套用,培養讀者利用人工智慧技術解決實際問題的能力。本書設計了簡單且使用的實踐案例,並配備相關電子資源及操作視頻指導,方便讀者直觀地學習人工智慧知識。全書共分9章,內容...