數(shù)據(jù)流集成分類器算法研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展與應用,人們每天可以收集到大量高速、動態(tài)和連續(xù)到達的信息,如傳感器網(wǎng)絡數(shù)據(jù)、電話記錄、金融數(shù)據(jù)和商業(yè)交易數(shù)據(jù)等。傳統(tǒng)靜態(tài)數(shù)據(jù)集作為信息的載體己無法有效表達該類信息,因此,數(shù)據(jù)流作為一種新的數(shù)據(jù)類型被提出并廣泛應用于上述領域。數(shù)據(jù)流作為一種連續(xù)到達的、潛在無限輸入的數(shù)據(jù)有序序列,與傳統(tǒng)靜態(tài)數(shù)據(jù)集相比,具有以下幾個特征:(1)數(shù)據(jù)高速到達;(2)數(shù)據(jù)規(guī)模宏大;(3)數(shù)據(jù)流是有序數(shù)據(jù);(4)數(shù)據(jù)流具有動態(tài)變化性;(5)數(shù)

2、據(jù)流往往伴隨高維特性。上述特征使數(shù)據(jù)流無法被傳統(tǒng)數(shù)據(jù)挖掘分類算法有效處理,因此對數(shù)據(jù)流挖掘算法的研究成為數(shù)據(jù)挖掘領域的熱點之一。
　　 本文聚焦于數(shù)據(jù)流集成分類問題,圍繞個體分類器生成與結(jié)論融合兩個方面,對噪音數(shù)據(jù)流、高速數(shù)據(jù)流以及類標簽不完整數(shù)據(jù)流的集成分類問題展開研究,主要研究工作如下:
　　 首先,針對利用噪音數(shù)據(jù)流訓練集成分類器,集成分類器的分類準確率受噪音數(shù)據(jù)影響嚴重的問題,提出一種交叉驗證容噪數(shù)據(jù)流集成分類器

3、算法。交叉驗證容噪分類算法是一種典型的噪音消除算法,可以在建立分類模型之前有效去除數(shù)據(jù)集中的噪音數(shù)據(jù),使分類模型的分類準確率明顯提高。由于目前并沒有學者對其有效性進行理論證明,因此本文通過有噪音數(shù)據(jù)集的樣本復雜度理論,對其有效性進行了嚴格的理論推導,并根據(jù)推導結(jié)果提出了一種新的交叉驗證容噪分類算法,應用在數(shù)據(jù)流環(huán)境里,進一步提高了集成分類模型對噪音數(shù)據(jù)流的分類能力。
　　 其次,針對高速數(shù)據(jù)流數(shù)據(jù)到達速度遠遠超過處理器的處理能力

4、,處理器無法利用全部數(shù)據(jù)訓練個體分類器的問題,提出一種基于偏倚抽樣的高速數(shù)據(jù)流集成分類器算法。抽樣技術(shù)可以有效縮減待處理的數(shù)據(jù)規(guī)模,減少集成分類器的訓練和更新時間,由于不同的抽樣策略產(chǎn)生的訓練數(shù)據(jù)集,建立集成分類器,其分類準確率具有明顯區(qū)別。因此本文通過集成分類器期望錯誤的偏差方差分解,計算各個待抽樣數(shù)據(jù)的期望錯誤貢獻度,并通過集成分類器分類性能的幾何分析,說明抽取期望錯誤貢獻度大的數(shù)據(jù)作為訓練數(shù)據(jù)更新集成分類器模型,可以有效提高集成分

5、類器的分類準確率,并依此提出了基于偏倚抽樣的高速數(shù)據(jù)流集成分類器算法。
　　 再次,針對數(shù)據(jù)流中數(shù)據(jù)類標簽難以全部獲得的問題,提出一種基于聚類假設的半監(jiān)督數(shù)據(jù)流集成分類器算法。傳統(tǒng)半監(jiān)督分類算法雖然能夠解決類標簽不完整數(shù)據(jù)集的分類問題,但如何將其引入數(shù)據(jù)流環(huán)境,利用數(shù)據(jù)流特性提高半監(jiān)督分類算法的分類準確率仍是一個有待解決的問題。本文通過基于聚類假設的半監(jiān)督分類算法分類誤差分析,表明在訓練個體分類器時增加有標簽數(shù)據(jù)集的規(guī)模可以有效

6、減少分類算法的分類誤差,并利用此結(jié)論,提出了基于聚類假設的半監(jiān)督數(shù)據(jù)流集成分類器算法。
　　 最后,針對選擇性集成分類算法訓練一旦結(jié)束,被選擇的個體分類器組合就以確定,無法針對具體數(shù)據(jù)進行動態(tài)調(diào)整的問題,提出一種兩階段數(shù)據(jù)流選擇性集成分類器算法。本文首先通過分析說明,選擇性集成分類算法獲得的個體分類器集合,雖然在整體數(shù)據(jù)集上具有最優(yōu)的分類性能,但對某具體數(shù)據(jù)分類時,并不一定是最優(yōu)的個體分類器組合。因此,利用支持向量數(shù)據(jù)描述算法,