發(fā)布時(shí)間：2018-06-02 10:46

  本文選題：深度信念網(wǎng) + 自適應(yīng)學(xué)習(xí)率��； 參考：《自動(dòng)化學(xué)報(bào)》2017年08期

【摘要】：針對(duì)深度信念網(wǎng)(Deep belief network,DBN)預(yù)訓(xùn)練耗時(shí)長(zhǎng)的問題,提出了一種基于自適應(yīng)學(xué)習(xí)率的DBN(Adaptive learning rate DBN,ALRDBN).ALRDBN將自適應(yīng)學(xué)習(xí)率引入到對(duì)比差度(Contrastive divergence,CD)算法中,通過自動(dòng)調(diào)整學(xué)習(xí)步長(zhǎng)來提高CD算法的收斂速度.然后設(shè)計(jì)基于自適應(yīng)學(xué)習(xí)率的權(quán)值訓(xùn)練方法,通過網(wǎng)絡(luò)性能分析給出學(xué)習(xí)率變化系數(shù)的范圍.最后,通過一系列的實(shí)驗(yàn)對(duì)所設(shè)計(jì)的ALRDBN進(jìn)行測(cè)試,仿真實(shí)驗(yàn)結(jié)果表明,ALRDBN的收斂速度得到了提高且預(yù)測(cè)精度也有所改善.
[Abstract]:In order to solve the problem of long pre-training time of Deep belief Network (DBN), an adaptive learning rate (DBN(Adaptive learning rate DBN) based on adaptive learning rate (DBN(Adaptive learning rate DBN / ALRDBN) is proposed. The convergence speed of CD algorithm is improved by automatically adjusting the learning step size. Then the weight training method based on adaptive learning rate is designed, and the range of learning rate coefficient is given through network performance analysis. Finally, through a series of experiments to test the designed ALRDBN, the simulation results show that the convergence speed of ALRDBN has been improved and the prediction accuracy has been improved.
【作者單位】： 北京工業(yè)大學(xué)信息學(xué)部;計(jì)算智能與智能系統(tǒng)北京市重點(diǎn)實(shí)驗(yàn)室;
【基金】：國(guó)家自然科學(xué)基金(61533002,61473034) 國(guó)家杰出青年科學(xué)基金(61225016) 內(nèi)涵發(fā)展—引進(jìn)人才科研啟動(dòng)費(fèi)資助~~
【分類號(hào)】：TP183

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 何可佳;;基于概率的自適應(yīng)學(xué)習(xí)預(yù)測(cè)策略[J];計(jì)算機(jī)工程;2010年10期

2 劉建偉;孫正康;羅雄麟;;域自適應(yīng)學(xué)習(xí)研究進(jìn)展[J];自動(dòng)化學(xué)報(bào);2014年08期

3 石曉榮,王青,張明廉,畢靜;基于多傳感器數(shù)據(jù)融合的機(jī)動(dòng)目標(biāo)跟蹤自適應(yīng)學(xué)習(xí)方法[J];系統(tǒng)仿真學(xué)報(bào);2002年05期

4 姚敏;神經(jīng)網(wǎng)的自適應(yīng)學(xué)習(xí)準(zhǔn)則及其算法[J];系統(tǒng)工程與電子技術(shù);1995年03期

5 薛羽;莊毅;許斌;張友益;;基于自適應(yīng)學(xué)習(xí)群體搜索技術(shù)的集成進(jìn)化算法[J];系統(tǒng)工程理論與實(shí)踐;2014年02期

6 薛羽;莊毅;孟新;張友益;;自適應(yīng)學(xué)習(xí)集成優(yōu)化算法及矩陣特征值求解[J];計(jì)算機(jī)研究與發(fā)展;2013年07期

7 周中良;王陽;何景峰;;基于自適應(yīng)學(xué)習(xí)的多傳感器融合時(shí)間管理[J];電光與控制;2007年06期

8 崔惠萍;傅鋼善;;基于多Agent的自適應(yīng)學(xué)習(xí)系統(tǒng)的研究[J];教育信息化;2006年07期

9 趙永標(biāo);胡燕;朱博;;Wasserman自適應(yīng)學(xué)習(xí)率算法的改進(jìn)[J];中國(guó)水運(yùn)(理論版);2006年06期

10 李志聰;鐘紹春;;自適應(yīng)學(xué)習(xí)系統(tǒng)中樸素貝葉斯分類的應(yīng)用研究[J];計(jì)算機(jī)工程與科學(xué);2009年09期

相關(guān)博士學(xué)位論文 前3條

1 劉志勇;基于本體的自適應(yīng)學(xué)習(xí)方法及應(yīng)用研究[D];吉林大學(xué);2010年

2 于淼;復(fù)雜非線性系統(tǒng)的自適應(yīng)學(xué)習(xí)控制[D];浙江大學(xué);2012年

3 許敏;領(lǐng)域自適應(yīng)學(xué)習(xí)算法及其應(yīng)用研究[D];江南大學(xué);2014年

，

本文編號(hào)：1968479