聚類分析方法的延伸

Ⅰ 聚類分析是什麼研究手段

類通過把目標數據放入少數相對同源的組或「類」（cluster）里。分析表達數據，（1）通過一系列的檢測將待測的一組基因的變異標准化，然後成對比較線性協方差。（2）通過把用最緊密關聯的譜來放基因進行樣本聚類，例如用簡單的層級聚類（hierarchical clustering）方法。這種聚類亦可擴展到每個實驗樣本，利用一組基因總的線性相關進行聚類。（3）多維等級分析（multidimensional scaling analysis,MDS）是一種在二維Euclidean 「距離」中顯示實驗樣本相關的大約程度。（4）K-means方法聚類，通過重復再分配類成員來使「類」內分散度最小化的方法。
聚類方法有兩個顯著的局限：首先，要聚類結果要明確就需分離度很好（well-separated）的數據。幾乎所有現存的演算法都是從互相區別的不重疊的類數據中產生同樣的聚類。但是，如果類是擴散且互相滲透，那麼每種演算法的的結果將有點不同。結果，每種演算法界定的邊界不清，每種聚類演算法得到各自的最適結果，每個數據部分將產生單一的信息。為解釋因不同演算法使同樣數據產生不同結果，必須注意判斷不同的方式。對遺傳學家來說，正確解釋來自任一演算法的聚類內容的實際結果是困難的（特別是邊界）。最終，將需要經驗可信度通過序列比較來指導聚類解釋。
第二個局限由線性相關產生。上述的所有聚類方法分析的僅是簡單的一對一的關系。因為只是成對的線性比較，大大減少發現表達類型關系的計算量，但忽視了生物系統多因素和非線性的特點。
從統計學的觀點看，聚類分析是通過數據建模簡化數據的一種方法。傳統的統計聚類分析方法包括系統聚類法、分解法、加入法、動態聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。採用k-均值、k-中心點等演算法的聚類分析工具已被加入到許多著名的統計分析軟體包中，如SPSS、SAS等。
從機器學習的角度講，簇相當於隱藏模式。聚類是搜索簇的無監督學習過程。與分類不同，無監督學習不依賴預先定義的類或帶類標記的訓練實例，需要由聚類學習演算法自動確定標記，而分類學習的實例或數據對象有類別標記。聚類是觀察式學習，而不是示例式的學習。
從實際應用的角度看，聚類分析是數據挖掘的主要任務之一。就數據挖掘功能而言，聚類能夠作為一個獨立的工具獲得數據的分布狀況，觀察每一簇數據的特徵，集中對特定的聚簇集合作進一步地分析。

Ⅱ 關於聚類分析

1。聚類分析的特點
聚類分析（cluster analysis）是根據事物本身的特性研究個體的一種方法，目的在於將相似的事物歸類。它的原則是同一類中的個體有較大的相似性，不同類的個體差異性很大。這種方法有三個特徵：適用於沒有先驗知識的分類。如果沒有這些事先的經驗或一些國際、國內、行業標准，分類便會顯得隨意和主觀。這時只要設定比較完善的分類變數，就可以通過聚類分析法得到較為科學合理的類別；可以處理多個變數決定的分類。例如，要根據消費者購買量的大小進行分類比較容易，但如果在進行數據挖掘時，要求根據消費者的購買量、家庭收入、家庭支出、年齡等多個指標進行分類通常比較復雜，而聚類分析法可以解決這類問題；聚類分析法是一種探索性分析方法，能夠分析事物的內在特點和規律，並根據相似性原則對事物進行分組，是數據挖掘中常用的一種技術。
這種較成熟的統計學方法如果在市場分析中得到恰當的應用，必將改善市場營銷的效果，為企業決策提供有益的參考。其應用的步驟為：將市場分析中的問題轉化為聚類分析可以解決的問題，利用相關軟體（如SPSS、SAS等）求得結果，由專家解讀結果，並轉換為實際操作措施，從而提高企業利潤，降低企業成本。
2.應用范圍
聚類分析在客戶細分中的應用

消費同一種類的商品或服務時，不同的客戶有不同的消費特點，通過研究這些特點，企業可以制定出不同的營銷組合，從而獲取最大的消費者剩餘，這就是客戶細分的主要目的。常用的客戶分類方法主要有三類：經驗描述法，由決策者根據經驗對客戶進行類別劃分；傳統統計法，根據客戶屬性特徵的簡單統計來劃分客戶類別；非傳統統計方法，即基於人工智慧技術的非數值方法。聚類分析法兼有後兩類方法的特點，能夠有效完成客戶細分的過程。
例如，客戶的購買動機一般由需要、認知、學習等內因和文化、社會、家庭、小群體、參考群體等外因共同決定。要按購買動機的不同來劃分客戶時，可以把前述因素作為分析變數，並將所有目標客戶每一個分析變數的指標值量化出來，再運用聚類分析法進行分類。在指標值量化時如果遇到一些定性的指標值，可以用一些定性數據定量化的方法加以轉化，如模糊評價法等。除此之外，可以將客戶滿意度水平和重復購買機會大小作為屬性進行分類；還可以在區分客戶之間差異性的問題上納入一套新的分類法，將客戶的差異性變數劃分為五類：產品利益、客戶之間的相互作用力、選擇障礙、議價能力和收益率，依據這些分析變數聚類得到的歸類，可以為企業制定營銷決策提供有益參考。
以上分析的共同點在於都是依據多個變數進行分類，這正好符合聚類分析法解決問題的特點；不同點在於從不同的角度尋求分析變數，為某一方面的決策提供參考，這正是聚類分析法在客戶細分問題中運用范圍廣的體現。

聚類分析在實驗市場選擇中的應用

實驗調查法是市場調查中一種有效的一手資料收集方法，主要用於市場銷售實驗，即所謂的市場測試。通過小規模的實驗性改變，以觀察客戶對產品或服務的反應，從而分析該改變是否值得在大范圍內推廣。
實驗調查法最常用的領域有：市場飽和度測試。市場飽和度反映市場的潛在購買力，是市場營銷戰略和策略決策的重要參考指標。企業通常通過將消費者購買產品或服務的各種決定因素（如價格等）降到最低限度的方法來測試市場飽和度。或者在出現滯銷時，企業投放類似的新產品或服務到特定的市場，以測試市場是否真正達到飽和，是否具有潛在的購買力。前述兩種措施由於利益和風險的原因，不可能在企業覆蓋的所有市場中實施，只能選擇合適的實驗市場和對照市場加以測試，得到近似的市場飽和度；產品的價格實驗。這種實驗往往將新定價的產品投放市場，對顧客的態度和反應進行測試，了解顧客對這種價格的是否接受或接受程度；新產品上市實驗。波士頓矩陣研究的企業產品生命周期圖表明，企業為了生存和發展往往要不斷開發新產品，並使之向明星產品和金牛產品順利過渡。然而新產品投放市場後的失敗率卻很高，大致為66%到90%。因而為了降低新產品的失敗率，在產品大規模上市前，運用實驗調查法對新產品的各方面（外觀設計、性能、廣告和推廣營銷組合等）進行實驗是非常有必要的。
在實驗調查方法中，最常用的是前後單組對比實驗、對照組對比實驗和前後對照組對比實驗。這些方法要求科學的選擇實驗和非實驗單位，即隨機選擇出的實驗單位和非實驗單位之間必須具備一定的可比性，兩類單位的主客觀條件應基本相同。
通過聚類分析，可將待選的實驗市場（商場、居民區、城市等）分成同質的幾類小組，在同一組內選擇實驗單位和非實驗單位，這樣便保證了這兩個單位之間具有了一定的可比性。聚類時，商店的規模、類型、設備狀況、所處的地段、管理水平等就是聚類的分析變數。 轉

Ⅲ 聚類分析法

聚類分析，亦稱群分析或點分析，是研究多要素事物分類問題的數量方法。其基本原理是，根據樣本自身的屬性，用數學方法按照某些相似性或差異性指標，定量地確定樣本之間的親疏關系，並按親疏關系的程度對樣本進行聚類（徐建華，1994）。

聚類分析方法，應用在地下水中，是在各種指標和質量級別標准約束條件下，通過樣品的各項指標監測值綜合聚類，以判別地下水質量的級別。常見的聚類分析方法有系統聚類法、模糊聚類法和灰色聚類法等。

（一）系統聚類法

系統聚類法的主要步驟有：數據標准化、相似性統計量計算和聚類。

1.數據標准化

在聚類分析中，聚類要素的選擇是十分重要的，它直接影響分類結果的准確性和可靠性。在地下水質量研究中，被聚類的對象常常是多個要素構成的。不同要素的數據差異可能很大，這會對分類結果產生影響。因此當分類要素的對象確定之後，在進行聚類分析之前，首先對聚類要素進行數據標准化處理。

假設把所考慮的水質分析點（G）作為聚類對象（有m個），用i表示（i=1，2，…，m）；把影響水質的主要因素作為聚類指標（有n個），用j表示（j=1，2，…，n），它們所對應的要素數據可用表4-3給出。在聚類分析中，聚類要素的數據標准化的方法較多，一般採用標准差法和極差法。

表4-3 聚類對象與要素數據

對於第j個變數進行標准化，就是將x_ij變換為x′_ij。

（1）總和標准化

區域地下水功能可持續性評價理論與方法研究

這種標准化方法所得的新數據x′_ij滿足

區域地下水功能可持續性評價理論與方法研究

（2）標准差標准化

區域地下水功能可持續性評價理論與方法研究

式中：

；

由這種標准化方法所得的新數據x′_ij，各要素的平均值為0，標准差為1，即有

區域地下水功能可持續性評價理論與方法研究

（3）極差標准化

區域地下水功能可持續性評價理論與方法研究

經過這種標准化所得的新數據，各要素的極大值為1，極小值為0，其餘的數值均在［0，1］閉區間內。

上述式中：x_ij為j變數實測值；x_j為j變數的樣本平均值；s_j為樣本標准差。

2.相似性統計量

系統聚類法要求給出一個能反映樣品間相似程度的一個數字指標，需要找到能量度相似關系的統計量，這是系統聚類法的關鍵。

相似性統計量一般使用距離系數和相似系數進行計算。距離系數是把樣品看成多維空間的點，用點間的距離來表示研究對象的緊密關系，距離越小，表明關系越密切。相似系數值表明樣本和變數間的相似程度。

（1）距離系數

常採用歐幾里得絕對距離，其中i樣品與j樣品距離d_ij為

區域地下水功能可持續性評價理論與方法研究

d_ij越小，表示i，j樣品越相似。

（2）相似系數

常見的相似系數有夾角餘弦和相關系數，計算公式為

1）夾角餘弦

區域地下水功能可持續性評價理論與方法研究

在式（4-20）中：-1≤cosθ_ij≤1。

2）相關系數

區域地下水功能可持續性評價理論與方法研究

式中：d_ij為i樣品與j樣品的歐幾里得距離；cosθ_ij為i樣品與j樣品的相似系數；r_ij為i樣品與j樣品的相關系數；x_ik為i樣品第k個因子的實測值或標准化值；x_jk為j樣品第k個因子的實測值或標准化值；

為i樣品第k個因子的均值，

；

為j樣品第k個因子的均值，

；n為樣品的數目；k為因子（變數）數。

3.聚類

在選定相似性統計量之後，根據計算結果構成距離或相似性系數矩陣（n×n），然後通過一定的方法把n個樣品組合成不同等級的分類單位，對類進行並類，即將最相似的樣品歸為一組，然後，把次相似的樣品歸為分類級別較高的組。聚類主要有直接聚類法、距離聚類法（最短距離聚類法、最遠距離聚類法）。

（1）直接聚類法

直接聚類法，是根據距離或相似系數矩陣的結構一次並類得到結果，是一種簡便的聚類方法。它首先把各個分類對象單獨視為一類，然後根據距離最小或相似系數最大的原則，依次選出一對分類對象，並成新類。如果一對分類對象正好屬於已歸的兩類，則把這兩類並為一類。每一次歸並，都劃去該對象所在的列與列序相同的行。經過n-1次把全部分類對象歸為一類，最後根據歸並的先後順序作出聚類分析譜系圖。

（2）距離聚類法

距離聚類法包括最短距離聚類法和最遠距離聚類法。最短距離聚類法具有空間壓縮性，而最遠距離聚類法具有空間擴張性。這兩種聚類方法關於類之間的距離計算可以用一個統一的公式表示：

區域地下水功能可持續性評價理論與方法研究

當γ=-0.5時，式（4-22）計算類之間的距離最短；當γ=0.5時，式（4-22）計算類之間的距離最遠。

最短、最遠距離法，是在原來的n×n距離矩陣的非對角元素中找出d_pq=min（d_ij）或d_pq=max（d_ij），把分類對象G_p和G_q歸並為一新類G_r，然後按計算公式：

d_pq=min（d_pk，d_qk）（k≠ p，q） （4-23）

d_pq=max（d_pk，d_qk）（k≠ p，q） （4-24）

計算原來各類與新類之間的距離，這樣就得到一個新的（n-1）階的距離矩陣；再從新的距離矩陣中選出最小或最大的d_ij，把G_i和G_j歸並成新類；再計算各類與新類的距離，直至各分類對象被歸為一類為止。最後綜合整個聚類過程，作出最短距離或最遠距離聚類譜系圖（圖4-1）。

圖4-1 地下水質量評價的聚類譜系圖

（二）模糊聚類法

模糊聚類法是普通聚類方法的一種拓展，它是在聚類方法中引入模糊概念形成的。該方法評價地下水質量的主要步驟，包括數據標准化、標定和聚類3個方面（付雁鵬等，1987）。

1.數據標准化

在進行聚類過程中，由於所研究的各個變數絕對值不一樣，所以直接使用原始數據進行計算就會突出絕對值大的變數，而降低絕對值小的變數作用，特別是在進行模糊聚類分析中，模糊運算要求必須將數據壓縮在［0，1］之間。因此，模糊聚類計算的首要工作是解決數據標准化問題。數據標准化的方法見系統聚類分析法。

2.標定與聚類

所謂標定就是計算出被分類對象間的相似系數r_ij，從而確定論域集U上的模糊相似關系R_ij。相似系數的求取，與系統聚類分析法相同。

聚類就是在已建立的模糊關系矩陣R_ij上，給出不同的置信水平λ（λ∈［0，1］）進行截取，進而得到不同的分類。

聚類方法較多，主要有基於模糊等價關系基礎上的聚類與基於最大樹的聚類。

（1）模糊等價關系方法

所謂模糊等價關系，是指具有自反性（r_ii=1）、對稱性（r_ij=r_ji）與傳遞性（R·R⊆R）的模糊關系。

基於模糊等價關系的模糊聚類分析方法的基本思想是：由於模糊等價關系R是論域集U與自己的直積U×U上的一個模糊子集，因此可以對R進行分解，當用λ-水平對R作截集時，截得的U×U的普通子集R_λ就是U上的一個普通等價關系，也就是得到了關於U中被分類對象元素的一種。當λ由1下降到0時，所得的分類由細變粗，逐漸歸並，從而形成一個動態聚類譜系圖（徐建華，1994）。此類分析方法的具體步驟如下。

第一步：模糊相似關系的建立，即計算各分類對象之間相似性統計量。

第二步：將模糊相似關系R改造為模糊等價關系R′。模糊等價關系要求滿足自反性、對稱性與傳遞性。一般而言，模糊相似關系滿足自反性和對稱性，但不滿足傳遞性。因此，需要採用傳遞閉合的性質將模糊相似關系改造為模糊等價關系。改造的方法是將相似關系R自乘，即

R²=R·R

R⁴=R²·R²

︙

這樣計算下去，直到：R^2k=R^k·R^k=R^k，則R′=R^k便是一個模糊等價關系。

第三步：在不同的截集水平下進行聚類。

（2）最大樹聚類方法

基於最大樹的模糊聚類分析方法的基本思路是：最大樹是一個不包含迴路的連通圖（圖4-2）；選取λ水平對樹枝進行截取，砍去權重低於λ 的枝，形成幾個孤立的子樹，每一棵子樹就是一個類的集合。此類分析方法的具體步驟如下。

圖4-2 最大聚類支撐樹圖

第一步：計算分類對象之間的模糊相似性統計量r_ij，構建最大樹。

以所有被分類的對象為頂點，當兩點間r_ij不等於0時，兩點間可以用樹干連接，這種連接是按r_ij從大到小的順序依次進行的，從而構成最大樹。

第二步：由最大樹進行聚類分析。

選擇某一λ值作截集，將樹中小於λ值的樹干砍斷，使相連的結點構成一類，即子樹，當λ由1到0時，所得到的分類由細變粗，各結點所代表的分類對象逐漸歸並，從而形成一個動態聚類譜系圖。

在聚類方法中，模糊聚類法比普通聚類法有較大的突破，簡化了運算過程，使聚類法更易於掌握。

（三）灰色聚類法

灰色聚類是根據不同聚類指標所擁有的白化數，按幾個灰類將聚類對象進行歸納，以判斷該聚類對象屬於哪一類。

灰色聚類應用於地下水水質評價中，是把所考慮的水質分析點作為聚類對象，用i表示（i=1，2，…，n）；把影響水質的主要因素作為聚類指標，用j表示（j=1，2，…，m），把水質級別作為聚類灰數（灰類），用k表示（k=1，2，3）即一級、二級、三級3個灰類（羅定貴等，1995）。

灰色聚類的主要步驟：確定聚類白化數、確定各灰色白化函數f_jk、求標定聚類權重η_jk、求聚類系數和按最大原則確定聚類對象分類。

1.確定聚類白化數

當各灰類白化數在數量上相差懸殊時，為保證各指標間的可比性與等效性，必須進行白化數的無量綱化處理。即給出第i個聚類對象中第j個聚類指標所擁有的白化數，i=1，2，…，n；j=1，2，…，m。

2.確定各灰色白化函數

建立滿足各指標、級別區間為最大白化函數值（等於1），偏離此區間愈遠，白化函數愈小（趨於0）的功效函數f_ij（x）。根據監測值C_ki，可在圖上（圖4-3）解析出相應的白化函數值f_jk（C_ik），j=1，2，…，m；k=1，2，3。

3.求標定聚類權重

根據式（4-25），計算得出聚類權重η_jk的矩陣（n×m）。

區域地下水功能可持續性評價理論與方法研究

式中：η_jk為第j個指標對第k個灰類的權重；λ_jk為白化函數的閾值（根據標准濃度而定）。

圖4-3 白化函數圖

註：圖4-3白化函數f（x）∈［0，1］，具有下述特點：①平頂部分，表示該量的最佳程度。這部分的值為最佳值，即系數（權）為1，f（x）=max=1（峰值），x∈［x₂，x₃］。②白化函數是單調變化的，左邊部分f（x）=L（x），單調增，x∈（x₁，x₂］，稱為白化的左支函數；右邊部分f（x）=R（x），單調減，x∈［x₃，x₄），稱為白化的右支函數。③白化函數左右支函數對稱。④白化函數，為了簡便，一般是直線。⑤白化函數的起點和終點，一般來說是人為憑經驗確定。

4.求聚類系數

σ_ik=∑f_jk（d_ij）η_jk （4-26）

式中：σ_ik為第i個聚類對象屬於第k個灰類的系數，i=1，2，…，n；k=1，2，3。

5.按最大原則確定聚類對象分類

由σ_ik構造聚類向量矩陣，行向量最大者，確定k樣品屬於j級對應的級別。

用灰色聚類方法進行地下水水質評價，能最大限度地避免因人為因素而造成的「失真、失效」現象。

聚類方法計算相對復雜，但是計算結果與地下水質量標准級別對應性明顯，能夠較全面反映地下水質量狀況，也是較高層次定量研究地下水質量的重要方法。

Ⅳ 一文總結聚類分析步驟！

一、聚類

1.准備工作

（1） 研究目的

聚類分析是根據事物本身的特性研究個體分類的方法，聚類分析的原則是同一類別的個體有較大相似性，不同類別的個體差異比較大。

（2） 數據類型

1）定量：數字有比較意義，比如數字越大代表滿意度越高，量表為典型定量數據。

2）定類：數字無比較意義，比如性別，1代表男，2代表女。

PS： SPSSAU會根據數據類型自動選擇聚類方法。

K-modes聚類： 數據類型僅定類時。

2.上傳數據到SPSSAU

登錄賬號後進入SPSSAU頁面，點擊右上角「上傳數據」，將處理好的數據進行「點擊上傳文件」上傳即可。

3.SPSSAU操作

（1）拖拽分析項

1） SPSSAU進階方法→聚類。

2）檢查

檢查分析項是否都在左側分析框中。

3）進行拖拽

（2）選擇參數

聚類個數： 聚類個數設置為幾類主要以研究者的研究思路為標准，如果不進行設置，SPSSAU默認聚類個數為3，通常情況下，建議設置聚類數量介於3~6個之間。

標准化： 聚類演算法是根據距離進行判斷類別，因此一般需要在聚類之前進行標准化處理，SPSSAU默認是選中進行標准化處理。數據標准化之後，數據的相對大小意義還在（比如數字越大GDP越高），但是實際意義消失了。

保存類別： 分析選擇保存『保存類別』，SPSSAU會生成 新標題 用於標識，也可以右上角「我的數據」處查看到分析後的「聚類類別」。

新標題類似如下：Cluster_********。

4.SPSSAU分析

（1）聚類類別基本情況匯總分析

使用聚類分析對樣本進行分類，使用Kmeans聚類分析方法，從上表可以看出：最終聚類得到4類群體，此4類群體的佔比分別是20.00%, 30.00%, 20.00%, 30.00%。整體來看， 4類人群分布較為均勻，整體說明聚類效果較好。

（2）聚類類別匯總圖分析

上圖可以直觀的看到各個類別所佔百分比，4類群體的佔比分別是20.00%, 30.00%, 20.00%, 30.00%。

（3）聚類類別方差分析差異對比

使用方差分析去探索各個類別的差異特徵，從上表可知：聚類類別群體對於所有研究項均呈現出顯著性(p<0.05),意味著聚類分析得到的4類群體，他們在研究項上的特徵具有明顯的差異性，具體差異性可通過平均值進行對比，並且最終結合實際情況，對聚類類別進行命名處理。

（4）聚類項重要性對比

從上述結果看，所有研究項均呈現出顯著性，說明不同類別之間的特徵有明顯的區別，聚類的效果較好。

（5）聚類中心

5.其它說明

（1）聚類中心是什麼？

聚類中心是聚類類別的中心點情況，比如某類別時年齡對應的聚類中心為20，意味著該類別群體年齡基本在20歲左右。初始聚類中心基本無意義，它是聚類演算法隨機選擇的聚類點，如果需要查看聚類中心情況，需要關注於最終聚類中心。實際分析時聚類中心的意義相對較小，其僅為聚類演算法的計算值而已。

（2）k-prototype聚類是什麼？

如果說聚類項中包括定類項，那麼SPSSAU默認會進行K-prototype聚類演算法（而不是kmeans演算法）。定類數據不能通過數字大小直接分析距離，因而需要使用K-prototype聚類演算法。

（3）聚類分析時SSE是什麼意思？

在進行Kmeans聚類分析時SPSSAU默認輸出誤差平方和SSE值，該值可用於測量各點與中心點的距離情況，理論上是希望越小越好，而且如果同樣的數據，聚類類別越多則SSE值會越小（但聚類類別過多則不便於分析）。

SSE指標可用於輔助判斷聚類類別個數，建議在不同聚類類別數量情況下記錄下SSE值，然後分析SSE值的減少幅度情況，如果發現比如從3個聚類到4個類別時SSE值減少幅度明顯很大，那麼此時選擇4個聚類類別較好。

二、分層聚類

1.准備工作

（1）研究目的

從分析角度上看，聚類分析可分為兩種，一種是按樣本（或個案）聚類，此類聚類的代表是K-means聚類方法；另外一種是按變數（或標題）聚類，此類聚類的代表是分層聚類。

（2）數據類型

2.上傳數據到SPSSAU

登錄賬號後進入SPSSAU頁面，點擊右上角「上傳數據」，將處理好的數據進行「點擊上傳文件」上傳即可。

3.SPSSAU操作

（1）拖拽分析項

1） SPSSAU進階方法→分層聚類。

2）檢查

檢查分析項是否都在左側分析框中。

3）進行拖拽

（2）確定參數

SPSSAU會默認聚類為3類並且呈現表格結果，如果希望更多的類別個數，可自行進行設置。

4.SPSSAU分析

（1）聚類項描述分析

上表格展示總共8個分析項（即8個裁判數據）的基本情況，包括均值，最大或者最小值，中位數等，以便對於基礎數據有個概括性了解。整體上看，8個裁判的打分基本平均在8分以上。

（2）聚類類別分布表分析

總共聚類為3個類別，以及具體分析項的對應關系情況。在上表格中展示出來，上表格可以看出：裁判8單獨作為一類；裁判5，3，7這三個聚為一類；以及裁判1，6，2，4作為一類。

（PS：聚類類別與分析項上的對應關系可以在上表格中得到，同時也可以查看聚類樹狀圖得出更多信息。至於聚類類別分別應該叫做什麼名字，這個需要結合對應有關系情況，自己單獨進行命名。）

（3）聚類樹狀圖分析

上圖為聚類樹狀圖的展示，聚類樹狀圖是將聚類的具體過程用圖示法手法進行展示；最上面一行的數字僅僅是一個刻度單位，代表相對距離大小；一個結點表示一次聚焦過程。

樹狀圖的解讀上，建議單獨畫一條垂直線，然後對應查看分成幾個類別，以及每個類別與分析項的對應關系。比如上圖中，紅色垂直線最終會拆分成3個類別；第1個類別對應裁判8；第2個類別對應裁判5，3，7；第3個類別對應裁判1，6，2，4。

如果是聚為四類；從上圖可看出，明顯的已經不再合適。原因在於垂直線不好區分成四類。也即說明有2個類別本應該在一起更合適（上圖中的裁判1與6/2/4）；但是如果分成4類，此時裁判1會單獨成一類。所以畫垂直線無法區分出類別。因而綜合分析來看，最終聚類為3個類別最為適合。

當然在分析時也可以考慮分成2個類別，此時只需要對應將垂直線移動即可。

5.其它說明

（1）針對分層聚類，需要注意以下幾點：

（2）什麼時候做因子分析後再做聚類分析？

如果題項較多，可先做因子分析，得到每個維度（因子）的數據，再進行聚類。

三、總結

聚類分析廣泛的應用於自然科學、社會科學等領域。在分析時可以比較多次聚類結果，綜合選擇更適合的方案。

以上就是聚類分析步驟匯總，更多干貨請前往官網查看！

Ⅳ 什麼是聚類分析聚類演算法有哪幾種

聚類分析又稱群分析，它是研究（樣品或指標）分類問題的一種統計分析方法。聚類分析起源於

分類學，在古老的分類學中，人們主要依靠經驗和專業知識來實現分類，很少利用數學工具進行

定量的分類。隨著人類科學技術的發展，對分類的要求越來越高，以致有時僅憑經驗和專業知識

難以確切地進行分類，於是人們逐漸地把數學工具引用到了分類學中，形成了數值分類學，之後又

將多元分析的技術引入到數值分類學形成了聚類分析。

聚類分析內容非常豐富，有系統聚類法、有序樣品聚類法、動態聚類法、模糊聚類法、圖論

聚類法、聚類預報法等。

聚類分析計算方法主要有如下幾種：分裂法(partitioning methods)：層次法(hierarchical

methods)：基於密度的方法(density-based methods): 基於網格的方法(grid-based

methods): 基於模型的方法(model-based methods)。

Ⅵ 聚類分析法（CA）

3.2.3.1 技術原理

聚類分析又稱群分析（CA），它是研究（對樣品或指標）分類問題的一種多元統計方法。首先認為所研究的樣品或指標（變數）之間存在著程度不同的相似性（親疏關系），根據一批樣品的多個觀測指標具體找出一些能夠度量樣品或指標之間相似程度的統計量，以這些統計量為劃分類型的依據，把一些相似程度較大的樣品（或指標）聚合為一類，把另一些彼此之間相似程度較大的樣品（或指標）聚合為另一類，根據分類對象不同，可分為對樣品分類的Q型聚類分析和對指標分類的R型聚類分析兩種類型。聚類分析可用SPSS軟體直接實現，在水質時空變異、水化學類型分區中得到廣泛的應用。聚類分析的功能是建立一種分類方法，它將一批樣品或變數，按照它們在性質上的親疏、相似程度進行分類，聚類分析的內容十分豐富，按其聚類的方法可分為以下幾種：系統聚類法、調優法、最優分割法、模糊聚類法等。

聚類分析根據分類對象的不同又分為R型和Q型兩大類，R型是對變數（指標）進行分類，Q型是對樣品進行分類。為了對樣品（或變數）進行分類，就必須研究它們之間的關系，描述樣品間親疏相似程度的統計量很多，目前用得最多的是距離和相似系數。距離方法主要有：閔科夫斯基（Minkowski）距離、絕對值距離、歐氏距離等。

樣品間的親疏程度除了用距離描述外，也可用相似系數來表示，相似系數的構造主要有以下兩種方法：對於定量變數，我們通常採用的相似系數有x_i和x_j之間的夾角餘弦和相關系數。

3.2.3.2 方法流程

目前使用最多的聚類方法是系統聚類法，其基本思想是：先將n個樣品各自看成一類，共有n個類，然後計算類與類間的距離，選擇距離最小的兩類合並成一個新類，使總類數減少為n-1，接著再計算這n-1類兩兩間的距離，從中找出距離最近的兩類合並，總類數又減少一個，剩下n-2個類，照此下去，每合並一次，減少一類，直至所有樣品都合並成一類為止。在並類的過程當中，可以根據聚類的先後以及並類時兩類間的距離，畫出能直觀反映各樣品間相近和疏遠程度的聚類圖（也稱譜系圖），根據這張聚類圖有可能找到最合適的分類方案。系統聚類法的聚類原則決定於樣品間的距離（或相似系數）及類間距離的定義，類間距離的不同定義就產生了不同的系統聚類分析方法，類間距離的定義方法主要有最短距離法、最長距離法、中間距離法、重心法、類平均法。在合理地選定（或定義）樣品間的距離以後，再適當定義類間的距離，就確定了一種聚類規則，之後按照系統聚類法的一般步驟加以聚類（圖3.4）。

圖3.4 聚類分析技術流程圖

3.2.3.3 適用范圍

聚類分析能夠將變數及樣本按照相應的規則進行分類，在大樣本多參數數據降維方面具有相對的優勢，尤其是對於在時間、空間上具有復雜變化的數據，聚類分析能夠根據變數和樣本的相關性和相似性，將數據有效地劃分為不同的類別，並通過樹狀圖反映出樣品隨距離或變數間相似性變化的情況，為查清變數和樣品之間關系提供了依據，也為查明污染來源奠定了基礎。

Ⅶ 聚類分析（Cluster Analysis）

聚類，將相似的事物聚集在一起，將不相似的事物劃分到不同的類別的過程。是將復雜數據簡化為少數類別的一種手段。

設有m個樣本單位，每個樣本測的n項指標（變數），原始資料矩陣：

指標的選擇非常重要：
必要性要求：和聚類分析的目的密切相關，並不是越多越好
代表性要求：反映要分類變數的特徵
區分度要求：在不同研究對象類別上的值有明顯的差異
獨立性要求：變數之間不能高度相關（兒童生長身高和體重非常相關）
散布性要求：最好在值域范圍內分布不太集中

在各種標准量度值scale差異過大時，或數據不符合正態分布時，可能需要進行數據標准化。
（1） 總和標准化 。 分別求出各聚類指標所對應的數據的總和， 以各指標的數據除以該指標的數據的總和。

根據聚類對象的不同，分為Q型聚類，R型聚類

（1）常見距離統計量 - 閔可夫斯基距離系列（線性距離）

p=2，時為歐氏距離（n維空間中的幾何距離）
p=∞，時為切比雪夫距離（棋盤格距離）

（2）常見距離統計量 - 馬氏距離（協方差距離）
均值為μ，協方差矩陣為∑的向量x=(1,2,...n)
相比於歐式距離，馬氏距離考慮到各種指標之間的聯系（如身高和體重並不獨立，）且馬氏距離具有尺度無關性（scale-invariant），因此可不必做標准化。
如果協方差矩陣為單位矩陣（各指標之間完全相互獨立），則馬氏距離化為歐幾里得距離。
如果協方差矩陣為對角矩陣，則馬氏距離化為正規化的歐幾里得距離（normalized Euclidean distance）

（3）常見距離統計量 - 文本距離
文本距離通常用來度量文本之間的相似度，在生物研究中常見於序列比對分析。

常見相似系數統計量
相似系數= 1，表明完全相似
相似系數= -1 表明完全相反
相似系數 = 0 表明完全獨立
相關系數：

類與類之間 距離的度量方法：
系統聚類法不僅需要度量個體與個體之間的距離，還要度量類與類之間的距離。類間距離被度量出來之後，距離最小的兩個小類將首先被合並成為一類。 由類間距離定義的不同產生了不同的系統聚類法。

目前有1000多種聚類演算法：沒有一種聚類演算法可以包打天下，聚類演算法中的各種參數也必須依據具體問題而調節
常見聚類演算法的分類：
1，層次聚類（Hierarchical clustering）
2，劃分聚類（Partitioning clustering）
3，密度聚類（Density-based）
4，期望最大化聚類（Expectation Maximization）
5，網格聚類（Grid-based）
6，模型聚類（Model-based）

1. 層次聚類的方法
基本思想：
在聚類分析的開始，每個樣本（或變數）自成一類； 然後，按照某種方法度量所有樣本（或變數）之間的親疏程度，並把最相似的樣本（或變數）首先聚成一小類； 接下來，度量剩餘的樣本（或變數）和小類間的親疏程度，並將當前最接近的樣本（或變數）與小類聚成一類；如此反復，知道所有樣本聚成一類為止。
舉例：
有一組數據D={a,b,c,d,e} 給了它們之間的距離矩陣。
首先，每一個例子都是一個類：

2. 劃分聚類的方法
劃分聚類演算法：
給定一個包含n個樣本的數據集，基於劃分的方法（Partitioning Method）就是將n個樣本按照特定的度量劃分為k個簇（k≤n），使得每個簇至少包含一個對象，並且每個對象屬於且僅屬於一個簇，而且簇之間不存在層次關系。

基於劃分的方法大多數是基於距離來劃分的，首先對樣本進行初始化分，然後計算樣本間的距離，重新對數據集中的樣本進行劃分，將樣本劃分到距離更近的簇中，得到一個新的樣本劃分，迭代計算直到聚類結果滿足用戶指定的要求。

要想得到最優的聚類結果，演算法需要窮舉數據集所有可能的劃分情況，但是在實際應用中數據量都比較大，利用窮舉方法聚類顯然是不現實的，因此大部分基於劃分的聚類方法採用貪心策略，即在每一次劃分過程中尋求最優解，然後基於最優解進行迭代計算，逐步提高聚類結果的質量。雖然這種方式有可能得到局部最優結果，但是結合效率方面考慮，也是可以接受的。

演算法：

舉例：
有一個二維空間的一些點，我們要將它們分成3個類，即K=3。

我們首先隨機選擇3個初始質心，每一個質心為一類：

然後我們計算每一個不是質心的點到這三個質心的距離：

將這些點歸類於距離最近的那個質心的一類：

重新計算這三個分類的質心：

不斷重復上述兩步，更新三個類：

當穩定以後，迭代停止，這時候的三個類就是我們得到的最後的三個：

最著名的是k-means聚類演算法和K-medoids演算法（中心點聚類）

處理「大海中的若干孤島」，以密度來區分島

大部分基於密度的方法（Density-based Method）採用距離度量來對數據集進行劃分，在球狀的數據集中能夠正確劃分，但是在非球狀的數據集中則無法對樣本進行正確聚類，並且受到數據集中的雜訊數據影響較大。基於密度的方法可以克服這兩個弱點。

基於密度的方法提出「密度」的思想，即給定鄰域中樣本點的數量，當鄰域中密度達到或超過密度閾值時，將鄰域內的樣本包含到當前的簇中。若鄰域的密度不滿足閾值要求，則當前的簇劃分完成，對下一個簇進行劃分。基於密度的方法可以對數據集中的離群點進行檢測和過濾。

演算法 ：

基於網格的方法（Grid-based Method）將數據集空間劃分為有限個網格單元，形成一個網路結構，在後續的聚類過程中，以網格單元為基本單位進行聚類，而不是以樣本為單位。由於演算法處理時間與樣本數量無關，只與網格單元數量有關，因此這種方法在處理大數據集時效率很高。基於網格的方法可以在網格單元劃分的基礎上，與基於密度的方法、基於層次的方法等結合使用。

基於模型的方法（Model-based Method）假定數據集滿足一定的分布模型，找到這樣的分布模型，就可以對數據集進行聚類。基於模型的方法主要包括基於統計和基於神經網路兩大類，前者以高斯混合模型（Gaussian Mixture Models，GMM）為代表，後者以自組織映射網路（Self Organizing Map，SOM）為代表。目前以基於統計模型的方法為主。

以下內容後續補充：

數據示例：

數據示例：

為了有效利用聚類演算法， 首先需要度量觀測值見的距離，在R中常通過stats包里的dist函數來實現：
dist(x, method = "euclidean", diag = FALSE, upper = FALSE, p = 2)
dist 函數計算對象（矩陣或數據框）中兩兩間的距離，返回的是距離矩陣（dist類對象）。dist函數的參數描述如下。

另一個計算點之間的距離的方法是cluster包裡面的daisy函數：

daisy函數計算數據集中每對觀測值的不相似度。daisy函數的參數描述如下：

k-means聚類是最簡單的聚類演算法之一。R中可以通過stats包裡面的kmeans函數實現k-means聚類：
kmeans(x, centers, iter.max = 10, nstart = 1, algorithm = c("Hartigan-Wong", "Lloyd", "Forgy", "MacQueen"), trace=FALSE)
kmeans函數的參數描述如下：

Ⅷ 聚類分析（2）聚類技術

系列文章： 聚類分析（1）之市場細分

聚類分析方法分為快速聚類和系統聚類（層次聚類）。快速聚類spss使用的是K-means聚類演算法。該聚類方法需要指定聚類數量，通常我們需要多次嘗試並分析多少個類合適。聚類分析適合大樣本量情況。樣本個數超過500，變數數超過50（並不是強制的）。

聚類分析數據類型為數值型，非數值型變數需要做轉換，二分類變數（0,1）可以參與聚類分析。聚類多數適用於連續變數，分類變數適用對應分析。

聚類分析對極端值敏感，同時變數數據的量綱也會影響到聚類結果，需要做標准化處理。

結果依賴於第一次初始分類，聚類中絕大多數重要變化均發生在第一次分配中。

聚類分析中，關於分類時，一種是利用相似系數，性質越接近的，相似系數就越接近1或者-1，通過此來確定歸類。另一種是利用空間距離，將每一個點看做m維空間上的一個點，並在空間中定義距離。

在spss中可以設定迭代次數。

來自《Python數據科學：技術詳解與商業實踐》。聚類效果的評估基於結果的可解釋性，通常需要多次聚類才能找到合適的分類。

數據包含6個變數（欄位），除了客戶編號為名義變數外，其他都是連續變數。

不論什麼做什麼數據分析，第一步就是查看原始數據的分布，這里應該查看一下各變數的數據分布狀態：均值，極大極小值，方差，缺失情況。

通過spss分析-描述

可以看出1.量綱差異較大。2極大極小值組距很大。從這方面可以講，我們需要做標准化處理。先嘗試不做標准化處理。

通過業務知識等，決定先設定5個細分人群，後面可以再嘗試4和6。

先做標准化處理：spss分析-描述。在左下角中有一個「將標准化值另存為變數」，標准化為Z分數。確定後會生成新的標准化後的變數。

對標准化後的變數聚類：分析-分類-K-means

選擇迭代次數同時將分類結果存在表中。

默認迭代次數是10次，迭代次數過少，可能已經迭代完了仍無法收斂，所以需要增加迭代次數。將分類結果保存在表中，是指對每個樣本標注被分到哪一類了。這一步的目的是為了後續通過其他方法（比如比較均值）來看5類人群之間的差異。停

輸出4個表格，都是經過標准化處理的。主要查看是否已經迭代收斂。然後下一步就是做均值比較等，目的是查看5類人群是否有差異，分類是否合理。同時還可以在對4和6類人群試做分類。聚類分析無法檢驗標准，

通過比較均值，可以了解5類人群之間的差異

輸出的結果

從結果中可以看出

第一類：高端商用客戶，總通話時間長，工作日上班時間通話比例高

第二類：少使用低端客戶，總通話時間短，各時段通話時間都短

第三類：中端商用客戶，總通話時間居中，工作日上班時間通話比例高

第四類：中端日常用客戶，總通話時間居中，工作日下班時間通話比例高

第五類：長聊客戶，每次通話時間長