神經網路中線上學習算法的收斂性

《神經網路中線上學習算法的收斂性》是依託大連理工大學,由吳微擔任醒目負責人的面上項目。

基本介紹

• 中文名：神經網路中線上學習算法的收斂性
• 依託單位：大連理工大學
• 項目類別：面上項目
• 項目負責人：吳微
• 批准號：19971012
• 申請代碼：A0504
• 負責人職稱：教授
• 研究期限：2000-01-01 至 2002-12-31
• 支持經費：10（萬元）

項目摘要

線上學習算法廣泛地套用於神經網路權值的最佳化計算，但其收斂性迄今尚未證明。主要難點在於無法用“和的平方”來壓倒“平方的和”。我們建立了一種機率型不等式，指出和的平方在某種機率意義下不小於某常數乘以平方的和，從而解決了這一關鍵問題，並成功地針對一種典型模型給出了收斂性。預期這一研究方法可以用來解決一批線上學習算法的收斂性問題。