基于粗糙集與云決策樹的數(shù)據(jù)挖掘理論研究與應(yīng)用.pdf

1、隨著信息技術(shù)以及數(shù)據(jù)倉庫技術(shù)的發(fā)展,在商業(yè)企業(yè)、科研機構(gòu)以及政府部門出現(xiàn)了海量的、不同形式存儲的數(shù)據(jù),對數(shù)據(jù)挖掘方法在智能化和準確度方面提出了更高的要求。決策樹方法因其具有可理解性高,計算量相對較小等特點而受到人們的歡迎。經(jīng)過多年的發(fā)展,決策樹方法經(jīng)已經(jīng)取得了很大進步,內(nèi)容也得到了很大充實,但實際中的數(shù)據(jù)大多都具有隨機性或不確定性,具有精確描述特征的決策樹歸納學(xué)習(xí)已經(jīng)不能適應(yīng)一個系統(tǒng)中不精確知識自動獲取的要求,而云模型方法在處理模糊性和

2、不確定性的問題方面具有自己的獨特性。云決策樹的推理使得決策樹這種優(yōu)良方法可以應(yīng)用于更多的數(shù)據(jù)分析中,發(fā)揮更大的作用。另外,決策樹在處理冗余屬性方面還存在許多問題,而粗糙集理論的屬性約簡是處理冗余屬性很好的方法。對屬性進行約簡就是去除與決策屬性不相關(guān)的條件屬性,這樣對于不同的數(shù)據(jù)集,尤其是大型數(shù)據(jù)集,可使決策樹的規(guī)模明顯減小,節(jié)點數(shù)量明顯減少,從而使得決策樹方法可理解性高、分類速度相對較快、計算復(fù)雜度相對較小以及分類準確率相對較高的特點得

3、到充分體現(xiàn)。
　　 粗糙集理論在處理不確定性問題或知識獲取時,由于通過確定的數(shù)學(xué)公式描述直接對數(shù)據(jù)進行分析與處理,即不需要提供一個先驗知識(如隸屬函數(shù)),從而避免了主觀性的影響,因此可作為其它理論如模糊集理論的一個有效補充,但粗糙集理論本身并不包含處理不確定性和不精確原始數(shù)據(jù)的機制。云決策樹雖然包含處理不確定性和不精確原始數(shù)據(jù)的機制,但需要給出一個隸屬度或隸屬函數(shù)(先驗知識),具有相當?shù)闹饔^性。因此,如果它們二者能夠有機結(jié)合,對

4、于組成的新系統(tǒng),不僅符合人類認知的表達,而且具有客觀性。
　　 本文首先在粗糙集知識約簡的基礎(chǔ)上對云決策樹進行了推理,說明該方法適用于不確定性數(shù)據(jù)的決策問題；然后,將粗糙集分類器與云決策樹方法有機結(jié)合,組成了比單獨的粗糙集分類器或決策樹方法性能更好的系統(tǒng),在仿真結(jié)果中取得了令人滿意的效果；最后,將研究成果應(yīng)用于基于J2EE平臺的數(shù)據(jù)挖掘系統(tǒng)中。本文工作主要包含以下內(nèi)容:
　　 (1)主要研究粗糙集的擴展應(yīng)用。為了對邏輯概

5、念中的概率進行分析,引入流向網(wǎng)絡(luò)的確定性流向分析代替概率的思想,并利用一個簡單實例來闡明這個思想。由于實際中沒有一種普遍的關(guān)于沖突情況的數(shù)學(xué)模型被大家認可,本文在另外一種基于粗糙集理論方法的基礎(chǔ)上來進行分析,并利用一個沖突情況下投票分析的簡單實例來闡明這種方法的有效性。從粗糙隸屬函數(shù)定義出發(fā)研究粗糙整體部分關(guān)系邏輯,給出了粗糙整體部分關(guān)系邏輯的相關(guān)定義及性質(zhì),為整體部分關(guān)系邏輯關(guān)于復(fù)雜結(jié)構(gòu)的推理提供了一種新的思路。
　　 (2)

6、主要研究能夠得到最小約簡的知識約簡算法。為解決NP-hard問題,引入啟發(fā)式搜索概念,并且指出啟發(fā)式搜索可以使約簡過程中的搜索空間大為減小。從信息論角度對決策系統(tǒng)中的屬性重要度進行度量,提出了一種改進的知識約簡啟發(fā)式算法。在此算法中,以互信息作為啟發(fā)式信息,來減小決策系統(tǒng)中知識約簡過程的搜索空間,將取值較多的屬性化為二值屬性,克服了互信息中易傾向于值域中含有較多屬性值的屬性的缺點,并通過人們對汽車評價的實例對提出的算法進行了演示和比較分

7、析,說明了其有效性和實用性。
　　 (3)主要研究在粗糙集屬性約簡基礎(chǔ)上對云決策樹(CDT)的推理,提出了基于屬性約簡的云決策樹方法。分析分類問題涉及的含糊性和不確定性,指出云模型語言值的軟邊界包容了人類思想和感覺的含糊性和模糊性,更符合人類的思維方式和主觀感受,說明對于不確定性數(shù)據(jù)研究云決策樹的必要性和必然性。在研究云模型有效結(jié)合隨機性和模糊性機制的基礎(chǔ)上,通過實例對云決策樹的推理過程進行了演示,并在提取分類規(guī)則的基礎(chǔ)上對數(shù)據(jù)

8、集進行預(yù)測,驗證了其有效性。
　　 (4)研究通過不同分類方法有機結(jié)合開發(fā)更具優(yōu)勢的混合模型的問題,提出了粗糙集分類器與云決策樹混合算法MCATree。首先,通過理論分析,得出粗糙集的數(shù)據(jù)分析方法優(yōu)于貝葉斯定理,即不需要給出先驗概率和后驗概率,從理論上指出MCATree要優(yōu)于NBTree。然后,對MCA(最大覆蓋算法)與CDT的分類準確度進行了比較,說明兩種方法對于不同數(shù)據(jù)集準確度的差異,對MCA與CDT有機結(jié)合的可能性進行了實

9、際意義上的驗證。在此基礎(chǔ)上,提出了一種新的混合算法MCATree。并通過MCATree與CDT、MCA的仿真對比分析得出混合方法不僅擅長處理大規(guī)模數(shù)據(jù)集,而且相比粗糙集分類器與云決策樹兩種方法可有效提高分類的準確度,以及得到的規(guī)則更貼近人類的思維方式和實際需要。
　　 (5)主要在MCATree算法研究的基礎(chǔ)上,提出一個基于J2EE平臺的數(shù)據(jù)挖掘系統(tǒng)應(yīng)用模型,并對該數(shù)據(jù)挖掘系統(tǒng)進行了實現(xiàn)。提出了將系統(tǒng)置于B/S結(jié)構(gòu)的方案,這樣做