聚類分析是將研究對象分為相對同質(zhì)的群組的統(tǒng)計分析技術(shù)，聚類分析的核心就是發(fā)現(xiàn)有用的對象簇。K-means聚類算法由于具有出色的速度和良好的可擴展性，一直備受廣大學(xué)者的關(guān)注。然而，傳統(tǒng)的K-means算法，未考慮各個屬性對于最終聚類結(jié)果的影響差異性，這使得聚類的精度有一定的影響。針對上述問題，本文提出一種改進的特征加權(quán)算法。改進算法通過采用信息熵和ReliefF特征選擇算法對特征進行加權(quán)選擇，修正聚類對象間的距離函數(shù)，使算法達到更準確更高效的聚類效果。仿真實驗結(jié)果表明，與傳統(tǒng)的K-means算法相比，改進后的算法聚類結(jié)果穩(wěn)定，聚類的精度有明顯提升。

　　數(shù)據(jù)挖掘是目前人工智能和數(shù)據(jù)庫領(lǐng)域研究的熱點問題，指從大量的數(shù)據(jù)中提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識的過程。聚類分析現(xiàn)在已經(jīng)成為數(shù)據(jù)挖掘領(lǐng)域中一個非常重要的研究方向。MacQueen 提出的K-means 算法是聚類分析中最常用的方法之一。它采用距離作為相似性的評價指標，即認為兩個對象的距離越近，其相似度就越大。該算法認為簇是由距離靠近的對象組成的，因此把得到緊湊且獨立的簇作為最終目標。K-means 算法假設(shè)樣本的每個特征對最終聚類的貢獻程度一樣，但在實際情況中某些特征在聚類的過程中起到很大的作用，而某些特征的作用卻很小，甚至對聚類過程沒有影響。

?

　　針對傳統(tǒng)K-means 算法的這一問題，學(xué)者們進行了大量研究，研究表明：通過對特征賦予不同的特征權(quán)值，能夠有效解決上述問題并提高聚類性能。目前，計算特征權(quán)重的算法有很多種：等人提出一種結(jié)合限制數(shù)據(jù)的特征權(quán)值量化函數(shù)，該函數(shù)通過用戶指定的限制數(shù)據(jù)進行特征權(quán)值量化并對不同的限制數(shù)據(jù)賦予不同的置信度，解決了限制數(shù)據(jù)分布不均勻和限制數(shù)據(jù)中可能包含不一致性的問題；LiJie 等人提出將針對分類問題的ReliefF 算法應(yīng)用于聚類問題，通過ReliefF 算法計算特征權(quán)重值，并對各維特征進行加權(quán)，提高聚類的性能；Meng Qian 等人提出通過梯度下降技術(shù)最小化特征評估函數(shù)FLearning （w）為每個特征分配權(quán)重并進行加權(quán)，該算法采用遺傳算法和模擬退火算法的優(yōu)點，減弱冗余特征的影響，解決了容易陷入局部最優(yōu)解的問題。Songtao Shang 等人提出一種改進的基尼指數(shù)算法計算特征權(quán)重，該算法克服了原始Gini 的缺點，將條件概率與后驗概率結(jié)合，抑制訓(xùn)練集不平衡時的影響。利用信息論中的信息熵計算特征權(quán)重并對各位特征加權(quán)，有效的解決了特征對聚類的影響。

　　綜上所述，為了提高傳統(tǒng)K-means 算法的聚類精度，國內(nèi)外學(xué)者對K-means 算法進行了大量改進探索研究，并取得了一些階段性的成果。本文擬研究傳統(tǒng)K-means 算法在聚類過程中聚類對象的每個特征對聚類結(jié)果的貢獻度，使貢獻程度大的特征優(yōu)先利用，理論上講可以有效提升K-means 算法聚類的準確率和精度。因此，本文提出將熵值法和ReliefF 特征選擇算法有機融合，通過采用信息熵和ReliefF 特征選擇算法對特征進行加權(quán)選擇，修正聚類對象間的距離函數(shù)，使算法達到更準確更高效的聚類效果。實驗結(jié)果表明，改進后的算法聚類結(jié)果穩(wěn)定，且具有較高的準確率，達到預(yù)期目的。