內容簡介
全書共分為7章。第1章介紹深度置信網路的概念、發展及其研究現狀;第2章介紹區分深度置信網路;第3章介紹自適應深度置信網路;第4章介紹量子深度置信網路;第5章介紹主動深度置信網路;第6章介紹主動模糊深度置信網路;第7章介紹基於深層架構的手寫識別方法。
本書適合作為高等院校
計算機專業高年級本科生、研究生的參考書,同時可供對機器學習比較熟悉並且對深度學習有所了解的廣大科技工作者和研究人員
參考。
深度置信網路作為經典的深度學習方法,可以包含較多的隱藏層,更好地學習各種複雜數據的結構和分布。本書從深度置信網路的概念、研究內容和套用出發,提出了一系列基於深度置信網路的分類方法,使用半監督學習和監督學習方法來提升分類性能。另外,將深度學習方法套用到手寫中文識別中,提出了基於深層架構的手寫識別方法,有效地提升了手寫識別正確率。
圖書目錄
第1章緒論1
1.1引言1
1.2機器學習方法2
1.2.1監督學習方法3
1.2.2半監督學習方法4
1.3深度學習方法6
1.4本書的研究內容9
1.5本書的結構安排12
第2章區分深度置信網路方法15
2.1引言15
2.2圖像分類16
2.3區分深度置信網路17
2.3.1半監督學習問題描述17
2.3.2區分深度置信網路結構18
2.3.3區分深度置信網路的無監督學習方法19
2.3.4區分深度置信網路的監督學習方法21
2.3.5區分深度置信網路算法流程25
2.4區分深度置信網路實驗26
2.4.1區分深度置信網路實驗設定26
2.4.2在小規模人工數據集上的實驗27
2.4.3在中規模圖片數據集上的實驗28
2.4.4在大規模手寫數據集上的實驗30
2.4.5在不同規模和深度的深層架構上的實驗31
2.5本章小結35
第3章自適應深度置信網路方法36
3.1引言36
3.2自適應深度置信網路37
3.2.1監督學習問題描述37
3.2.2自適應深度置信網路結構37
3.2.3自適應深度置信網路的無監督學習方法38
3.2.4自適應深度置信網路的監督學習方法40
3.2.5自適應深度置信網路算法流程40
3.3自適應深度置信網路實驗42
3.3.1自適應深度置信網路實驗設定42
3.3.2在中規模圖片數據集上的實驗43
3.3.3在中規模手寫字母數據集上的實驗43
3.3.4在大規模手寫數字數據集上的實驗46
3.4本章小結50
第4章量子深度置信網路方法51
4.1引言51
4.2量...
4.2.1量子深度置信網路結構52
4.2.2量子深度置信網路的監督學習方法55
4.2.3量子深度置信網路算法流程56
4.3量子深度置信網路實驗57
4.3.1量子深度置信網路實驗設定57
4.3.2在小規模花數據集上的實驗58
4.3.3在小規模診斷數據集上的實驗60
4.3.4在大規模手寫數據集上的實驗61
4.4本章小結65
第5章主動深度置信網路方法66
5.1引言66
5.2情感分類67
5.3主動深度置信網路70
5.3.1主動學習問題描述70
5.3.2主動深度置信網路的主動學習方法71
5.3.3主動深度置信網路算法流程73
5.4主動深度置信網路實驗75
5.4.1主動深度置信網路實驗設定75
5.4.2主動深度置信網路性能76
5.4.3主動學習效果78
5.4.4損失函式效果79
5.4.5使用不同數量標註數據實驗80
5.5本章小結82
第6章主動模糊深度置信網路方法83
6.1引言83
6.2模糊深度置信網路84
6.2.1模糊深度置信網路結構85
6.2.2模糊參數提取86
6.2.3模糊深度置信網路算法88
6.2.4使用模糊深度置信網路分類89
6.3主動模糊深度置信網路91
6.3.1主動模糊深度置信網路算法描述91
6.3.2使用主動模糊深度置信網路分類92
6.4主動模糊深度置信網路實驗93
6.4.1主動模糊深度置信網路實驗設定93
6.4.2模糊深度置信網路性能94
6.4.3主動模糊深度置信網路性能95
6.4.4使用不同數量的標註數據實驗97
6.4.5本書所提出的各種方法的訓練時間99
6.5本章小結101
第7章基於深度學習的手寫中文識別102
7.1引言102
7.2手寫識別103
7.3使用深層架構的手寫識別系統104
7.4手寫識別系統中用到的深層架構105
7.5手寫中文識別實驗106
7.5.1在HITOR3C資料庫上的實驗107
7.5.2在CASIAOLHWDB1資料庫上的實驗111
7.5.3在SCUTCOUCH2009資料庫上的實驗111
7.6本章小結115
結論116
參考文獻120ContentsContents
Chapter1Introduction1
1.1BackgroundandMotivation1
1.2MachineLearning2
1.2.1SupervisedLearning3
1.2.2SemisupervisedLearning4
1.3DeepLearning6
1.4ResearchContentsandMainContributionsofThisBook9
1.5OrganizationofThisBook12
Chapter2ResearchonDiscriminateDeepBeliefNetworksMethods15
2.1Introduction15
2.2CurrentStatusofImageClassification16
2.3DiscriminativeDeepBeliefNetworks17
2.3.1ProblemFormulationofSemisupervisedLearning17
2.3.2ArchitectureofDiscriminativeDeepBelief
Networks18
2.3.3UnsupervisedLearningofDiscriminativeDeep
BeliefNetworks19
2.3.4SupervisedLearningofDiscriminativeDeep
BeliefNetworks21
2.3.5AlgorithmProcedureofDiscriminativeDeep
BeliefNetworks25
2.4ExperimentsforDiscriminativeDeepBeliefNetworks26
2.4.1ExperimentalSettingofDiscriminativeDeep
BeliefNetworks26
2.4.2ExperimentsonSmallscaleArtificialDataset27
2.4.3ExperimentsonMiddlescaleImageDataset28
2.4.4ExperimentsonLargescaleHandwrittenDataset30
2.4.5ExperimentsonDifferentScalesandDepthof
DeepArchitecture31
2.5SummaryofThisChapter35
Chapter3ResearchonAdaptiveDeepBeliefNetworksMethods36
3.1Introduction36
3.2AdaptiveDeepBeliefNetworks37
3.2.1ProblemFormulationofSupervisedLearning37
3.2.2ArchitectureofAdaptiveDeepBeliefNetworks37
3.2.3UnsupervisedLearningofAdaptiveDeepBelief
Networks38
3.2.4SupervisedLearningofAdaptiveDeepBelief
Networks40
3.2.5AlgorithmProcedureofAdaptiveDeep
BeliefNetworks40
3.3ExperimentsforAdaptiveDeepBeliefNetworks42
3.3.1ExperimentalSettingofAdaptiveDeepBelief
Networks42
3.3.2ExperimentsonMiddlescaleImageDataset43
3.3.3ExperimentsonMiddlescaleHandwritten
AlphabetsDataset43
3.3.4ExperimentsonLargescaleHandwrittenDigit
Dataset46
3.4SummaryofThisChapter50
Chapter4ResearchonQuantumDeepBeliefNetworksMethods51
4.1Introduction51
4.2QuantumDeepBeliefNetworks52
4.2.1ArchitectureofQuantumDeepBeliefNetworks52
4.2.2SupervisedLearningofQuantumDeepBelief
Networks55
4.2.3ProcedureofQuantumDeepBeliefNetworks56
4.3ExperimentsforQuantumDeepBeliefNetworks57
4.3.1ExperimentalSettingofQuantumDeepBelief
Networks57
4.3.2ExperimentsonSmallscaleFlowerDataset58
4.3.3ExperimentsonSmallscaleDiagnosticDataset60
4.3.4ExperimentsonLargescaleHandwrittenDataset61
4.4SummaryofThisChapter65
Chapter5ResearchonActiveDeepBeliefNetworksMethods66
5.1Introduction66
5.2CurrentStatusofSentimentClassification67
5.3ActiveDeepBeliefNetworks70
5.3.1ProblemFormulationofActiveLearning70
5.3.2ActiveLearningofActiveDeepBeliefNetworks71
5.3.3AlgorithmProcedureofActiveDeepBelief
Networks73
5.4ExperimentsforActiveDeepBeliefNetworks75
5.4.1ExperimentalSettingofActiveDeepBelief
Networks75
5.4.2PerformanceofActiveDeepBeliefNetworks76
5.4.3EffectofActiveLearning78
5.4.4EffectofLossFunction79
5.4.5ExperimentwithVarianceofLabeledData80
5.5SummaryofThisChapter82
Chapter6ResearchonActiveFuzzyDeepBeliefNetworksMethods83
6.1Introduction83
6.2FuzzyDeepBeliefNetworks84
6.2.1ArchitectureofFuzzyDeepBeliefNetworks85
6.2.2FuzzyParameterExtraction86
6.2.3FuzzyDeepBeliefNetworksAlgorithm88
6.2.4ClassificationUsingFuzzyDeepBeliefNetworks89
6.3ActiveFuzzyDeepBeliefNetworks91
6.3.1AlgorithmDescriptionofActiveFuzzyDeep
BeliefNetworks91
6.3.2ClassificationUsingActiveFuzzyDeepBelief
Networks92
6.4ExperimentsforFuzzyDeepBeliefNetworks93
6.4.1ExperimentalSettingofFuzzyDeepBelief
Networks93
6.4.2PerformanceofFuzzyDeepBeliefNetworks94
6.4.3PerformanceofActiveFuzzyDeepBelief
Networks95
6.4.4ExperimentswithDifferentNumberofLabeled
Data97
6.4.5TrainingTimeofDifferentMethodsProposedin
ThisBook99
6.5SummaryofThisChapter101
Chapter7DeepLearningBasedChineseCharacterHandwriting
Recognition102
7.1Introduction102
7.2CurrentStatusofHandwritingRecognition103
7.3HandwritingRecognitionwithDeepNetworksSystem104
7.4DeepNetworksinHandwritingRecognitionwithDeep
NetworksSystem105
7.5ExperimentsforHandwrittenChineseRecognition106
7.5.1ExperimentsonHITOR3CDatabase107
7.5.2ExperimentsonCASIAOLHWDB1Database111
7.5.3ExperimentsonSCUTCOUCH2009Database111
7.6SummaryofThisChapter115
Conclusions116
References120