結合GA與CG優選最佳倒傳遞類神經網路 --以雨水下水道水位預測模式為例

Hybrid GA and CG for Optimizing the BPNN --A Case Study of Sewer Stage Forecast Modeling

邱建堯(Chien-Yao Chiu)

指導教授 ： 張斐章

共同指導教授 ： 張麗秋

國立臺灣大學/生物資源暨農學院/生物環境系統工程學研究所/碩士(2005年)

https://doi.org/10.6342/NTU.2005.00308

摘要

典型的倒傳遞類神經網路(Back Propagation Neural Network ,BPNN)以最陡坡降法為搜尋機制，初始權重值採用隨機亂數為其初始值，此法容易造成搜尋時間上的浪費與容易落入區域解等問題。而且在複雜的可行解空間中，不同的初始值將產生不同的區域解，導致搜尋結果良莠不齊，使得傳統求解最佳權重經常必須以大量次數的搜尋方式進行。
本研究提出遺傳演算法(Genetic Algorithm, GA)結合共軛梯度演算法(Conjugated Gradient Algorithm, CG)之複合型搜尋機制，以求取BPNN權重的最佳解。藉由GA在高維度空間的強大搜尋能力來解決傳統以隨機亂數設定權重初始值，而使得求解過程耗時繁複的問題；接著，再透過CG快速簡易的演算特性，對GA搜尋結果進行更進一步的修正，期望提升BPNN預測模式的表現。
本研究以台北市文山區集水區中港下水道系統之一階段BPNN水位預測模式為例，比較以隨機亂數初始化網路權重、GA優選網路權重與複合型搜尋機制等三種求解方式的優劣，結果證明複合型搜尋機制能有效且快速的求得BPNN網路權重最佳解。研究並以複合型搜尋機制建構中港下水道水位二階段BPNN預測模式，並證實亦有相當良好的表現。

關鍵字

倒傳遞類神經網路 ； 下水道系統 ； 遺傳演算法 ； 共軛梯度演算法 ； 複合型搜尋機制

並列摘要

The standard back propagation neural network (BPNN) uses the steepest descent method to search the optimal solution for the random initial value of connecting weights. However, the search result of this approach is highly dependent on the initial weights. It is difficult to tell whether the initial weights are close to the global minima and the searched solution could easily reach a local minimum when the weight space is complex. To solve this problem, the search process usually is run with a large number of sets of initial weights. That consumes lots of time for try-and-error and it is not an effective searching strategy.
In this study, we propose a hybrid searching strategy, combining Genetic Algorithms (GA) with the Conjugate Gradient Algorithm (CG) as the search engine of BPNN, to improve the standard searching strategy. In this hybrid strategy, GA can globally search the weight space to get a number of better candidate solutions in its iterative generations. After GA process reached a stable condition, CG is then used to optimize the weights of BPNN. This hybrid searching strategy is not only effective but also has high possibility to reach the global optima.
For demonstrating the performance of the proposed searching strategy, the urban drainage system of Zhong-Gang Catchment located in Wenshan District of Taipei City is used to evaluate its applicability and efficiency. We apply the proposed model to search the optima weights of BPNN to predict one-step-ahead and two-step-ahead sewer stage during flood events. The results show that the proposed strategy is robust and efficiency.

並列關鍵字

Back Propagation Neural Network ； sewer drainage system ； Genetic Algorithm ； Conjugated Gradient Algorithm ； hybrid searching strategy

參考文獻

7. 林永堂，2004，結合OLS與SGA建構輻狀基底類神經網路於洪水預測之研究，國立台灣大學生物環境系統工程學系碩士論文。

20. 張斐章、張雅婷、張麗秋，2004，”結合人工智慧與專家知識之智慧型水庫操作系統”，中國農工學報，50(4)：14-27。

24. 梁晉銘、張斐章、陳彥璋，2000，”複合演算類神經-模糊推論模式應用於洪水預測”，中華水土保持學報，31(3)：183-191。

5. 江衍銘，2002，二階段動態回饋式類神經網路於流量預測，國立台灣大學生物環境系統工程學系碩士論文。

16. 張斐章、王元鵬，2004，”以禁忌演算法優選輻狀基底類神經網路之參數”，台灣水利，52(4)：43-52。