- 會議論文
導入LM法之平行倒傳遞演算法
A Parallel Back-Propagation Algorithm with the Levenberg Marquardt Method
摘要
傳統倒傳遞類神經網路採用最陡坡降法(Steepest Descent Method)來訓練與更新權值，有以下缺點：(1)容易收斂至局部最小值(Local minima)；(2)權值更新速率慢，學習時間長；(3)可能造成發散結果。 基於以上倒傳遞類神經網路的缺點，本文提出LM-HLP(Levenberg Marquardt-Hide Layer Partition)演算法，希望將傳統倒傳遞演算法加以改良。我們將傳統的倒傳遞演算法原本採用的最陡坡降訓練法則，改為Levenberg Marquardt(LM)訓練法則，並且使用批次學習法來訓練倒傳遞類神經網路，再加上Block_Cyclic分佈方法將輸入的大量資料平均分配到各處理器上，以平行處理的方式執行例傳遞的學習演算法。本文所提出之LM-HLP平行演算法可以讓倒傳遞類神經網路的學習過程能更有效率且讓結果不易陷入局部最小值。
被引用紀錄
陳清良（2014）。應用類神經網路與粒子群演算法於冰水主機負載分配最佳化〔博士論文，國立臺北科技大學〕。華藝線上圖書館。https://doi.org/10.6841/NTUT.2014.00386
廖崇仁（2011）。運用倒傳遞網路於精密加工之加工母機預測〔碩士論文，朝陽科技大學〕。華藝線上圖書館。https://www.airitilibrary.com/Article/Detail?DocID=U0078-1511201110382833
林庭毅（2012）。基於多尺度方均根、多尺度熵、費雪法與倒傳遞網路之軸承錯誤診斷系統〔碩士論文，國立臺灣師範大學〕。華藝線上圖書館。https://www.airitilibrary.com/Article/Detail?DocID=U0021-1610201315293021
延伸閱讀
- Lin, K. M. (2011). 運用計算統一設備架構實現之平行化布爾可滿足性解法器 [master's thesis, National Taiwan University]. Airiti Library. https://doi.org/10.6342/NTU.2011.01461
- 趙復慷（2004）。以賑f轉換作為前處理的去雜訊方法來改善平均間距估測〔碩士論文，國立臺灣大學〕。華藝線上圖書館。https://doi.org/10.6342/NTU.2004.10153
- Chen, W. L. (2010). 運用對稱逐次過放鬆法於差分有限回饋多輸入多輸出系統下之預編碼設計 [master's thesis, National Tsing Hua University]. Airiti Library. https://doi.org/10.6843/NTHU.2010.00610
- Ragab, K., & Fouda, Y. M. (2014). Parallel Vectoring Algorithm for Pattern Matching. Research Journal of Applied Sciences, Engineering and Technology, 8(9), 1066-1074. https://www.airitilibrary.com/Article/Detail?DocID=20407467-201409-201502160004-201502160004-1066-1074
- Lee, J. H., Cho, S. W., & Jeong, S. H. (2013). Application of the Levenberg-Marquardt Scheme to the MUSIC Algorithm for AOA Estimation. International Journal of Antennas and Propagation, 2013(), 883-890-093. https://doi.org/10.1155/2013/402842