基於連續覆蓋演算法達成支撐向量機器中模糊規則的擷取

Based on Sequential Covering Algorithm to Achieve Fuzzy Rule Extraction for Support Vector Machine

邱彥霖(Yen-Lin Chiu)

指導教授 ： 姚志佳

朝陽科技大學/資訊學院/資訊工程系/碩士(2013年)

摘要

本論文中以支撐向量機為基礎，使用規則擷取(Rule Extraction)的方式，配合連續覆蓋法(sequentialcovering algorithm)與模糊理論(Fuzzy logic)提出一個三階段的模糊法則建構演算法來達成支撐向量機器中的規則擷取，第一階段首先分析支撐向量機器的特徵向量與一般訓練資料的不同點，接著藉由空間分佈的概念去篩選出本論文所需要的特徵向量。第二階段利用特徵向量來建構出一般性的規則，這當中會針對所建構出來的規則進行覆蓋(covering)的過程，以達到規則數減少同時涵蓋率最大化的目標。第三階段則將規則轉換成模糊規則並以目標函數暨學習機制修正模糊規則。利用模糊理論中歸屬函數的優點，使得每個規則都有自己的歸屬函數，在判別類別時有了歸屬值可以比較，不再是單純的0、1，因此訓練資料在分類判斷上就可以依據歸屬程度來分類，降低誤判的機會。較於其他分類演算法，此演算法的優點在於所產生的法則具有法則數量較少以及保持高正確性。

關鍵字

連續覆蓋法 ； 模糊規則 ； 支撐向量機器 ； 規則擷取

並列摘要

In this thesis, a three phases of rule extraction algorithm, based on sequential covering algorithm and fuzzy logic, is proposed to extract fuzzy rules for support vector machines. In first phase, feature vectors are selected by analyzing the properties of training patterns. In second phase, rules are generated by using feature vector. Within this phase, sequential covering algorithm is used to reduce the rules and maximize the covering scope. In third phase, fuzzy logic is introduced so that general rules are transferred to fuzzy rules. Besides, learning mechanism is used to achieve optimization. Compared to other classification algorithms, our proposed algorithm achieves lower rules and high accuracy.

並列關鍵字

Sequential covering algorithm ； Fuzzy rule ； Rule extraction ； Support vector machines

參考文獻

[1] 林育利，使用類神經網路結合支撐向量機之分類器研究，碩士論文，國立中央大學光機電工程研究所，2008。

[2] J. Ozols and A. Borisov, “Fuzzy classification based on pattern projections analysis,” PatternRecognition, vol.34, no 4, pp. 763-781, Apr. 2001.

[3] C.-L. Huang and C.-J. Wang, “A GA-based feature selection and parameters optimizationfor support vector machines,” Expert Systems with Applications, vol. 31, no. 2, pp. 231-240, Aug. 2006.

[4] V. N. Vapnik, Statistical Learning Theory, Wiley, New York, 1998.

[5] Y.-J. Lee and O. L. Mangasarian, “SSVM：A smooth support vector machine for classification,” Computational Optimization and Applications, vol.20, no. 1, pp. 5-22, 2001.