面向非平衡數據分類的支持向量機改進算法研究.pdf

1、在現實世界的分類問題中,關于研究對象的數據往往是類不平衡的,即不同類別的樣本數目有很大差異,在不平衡數據集中,某些類別在數量處于劣勢(簡稱“小類”),甚至被其他類別(簡稱“大類”)“淹沒”,而已有的絕大部分分類算法并不顯式地考慮類不平衡問題,導致小類的分類精確性較差,因此在處理不平衡數據上分類效果不理想,往往將小類樣本錯分為大類,不能達到分類的目的。
　　 一般認為,支持向量機被認為是處理不平衡問題的較理想工具,因為支持向量機的

2、決策過程僅僅受少量的支持向量影響,與其它樣本無關,因此受類不平衡的影響有限。本文通過支持向量機、隨機森林和線性判別等分類算法的對比實驗表明,支持向量機在處理非平衡數據集時并沒有顯著優(yōu)勢,在部分數據集上甚至表現不如其它算法。為了解釋這個問題,本文通過人造數據分析了影響支持向量機分類效果的內在原因,提出了關于類不平衡問題的一個新觀點:類不平衡不是簡單地表現為不同類別樣本在樣本數目上的差異,而應該是在決策面附近兩類樣本的密度。從而很好地解釋了

3、為什么支持向量機在處理某些非平衡問題表現突出(文本分類),而在處理其它問題時表現不理想。
　　 另一方面,基于采樣的不平衡處理方法,沒有考慮大類數據分布中可能存在的多樣性,即大類本身包含了多個數據分布。在該情形下,一個線性決策面,是不符合實際數據分布情況的。常用的上采樣和下采樣方法,即使面臨一個線性可分問題,在這種情形下得到的決策面也不符合數據實際分布情況。本文提出了基于聚類的組合支持向量機決策器(Cluster-svms),充