余弦度量下的高維數據降維及分類方法研究.pdf

1、博士學位論文余弦度量下的高維數據降維及分類方法研究DimensionalityReductionandClassificationofHighdimensionalDatausingCosineMetric學號：11109038答辯日期：20150609大連理工大學DalianUniversityofTechnology大連理工大學博士學位論文摘要近些年，隨著數字化、多媒體等技術的迅速發(fā)展，促使機器學習領域飛速發(fā)展，其中，維數約簡、數據

2、分類是兩個非常重要的課題。目前，在維數約簡、數據分類方法中，大多采用歐氏距離度量樣本間的相似性，少有其他度量方法的研究。隨著度量學習研究的深入，使得樣本間的相似性度量得到重視。本文主要研究余弦度量下的維數約簡和分類問題，并將其應用到人體運動時間序列分析和數據流學習中。在對維數約簡算法及分類算法深入分析的基礎上，取得了如下創(chuàng)新性成果：(1)針對局部切空間排列算法無法學習局部高曲率數據集的問題，給出了描述數據集局部曲率的參數及局部的魯棒子空

3、間。在非線性降維方面，提出一種局部最小偏差空間排列算法，該算法考慮到局部切空間低魯棒性的缺陷，在計算局部最小偏差空間的同時，能夠發(fā)現數據的局部高曲率現象，通過參數控制及鄰域間的連接信息，減少計算局部高曲率空間的可能，進而利用空間排列技術進行降維。進一步地，為了實現人體運動時間序列的分割，將最小偏差空間排列算法及局部曲率拓展為序列彎曲的流形學習方法，該方法根據序列數據的局部彎曲指標描述人體運動的連貫性，利用過渡片段數據局部彎曲較大的特點，

4、尋找分割點。通過濾波技術及分段線性近似算法對局部彎曲指標數據進行處理，結合降維后的特征曲線，實現人體運動時間序列的分割。然而，非線性降維的應用并不廣泛，相比之下，線性降維應用前景較好。在線性降維方面，以往的許多提取局部樣本信息的全局線性算法的學習效果優(yōu)于主成分分析(Principalcomponentanalysis，PCA)等全局算法，但這些算法都沒有提取數據集局部的特征，導致局部樣本沒有得到徹底學習。在分析局部空間的基礎上，提出一種

5、保留局部特征的全局線性流形學習算法——最大相似嵌入(Maximalsimilarityembedding，MSE)，該算法通過余弦度量來反映數據的局部幾何特征，并通過整體的相似性的最大化達到降維的目的。最大相似嵌入能夠學習稀疏分布的流形，廣泛應用于人臉識別等領域，并成功避免了小樣本問題。(2)通過線性判別分析及最大邊界準則算法深入分析了離散度對子空間選擇的影響，并給出了線性判別分析(Lineardiscriminantanalysis，