[Python教學] Scikit-learn：非監督學習－聚類與降維

歡迎來到Scikit-learn教學系列的第六篇文章！在前幾篇中，我們學習了監督學習的分類與回歸模型，以及模型選擇與超參數調優。這一篇將進入非監督學習的領域，聚焦於聚類與降維。我們將介紹非監督學習的基本概念、使用Scikit-learn實現常見的聚類與降維演算法，並通過實作範例展示如何應用這些技術分析無標籤資料。準備好探索資料的隱藏結構吧！

非監督學習概述

• 聚類（Clustering）：將資料分為相似群組，例如客戶分群或圖像分割。
• 降維（Dimensionality Reduction）：將高維資料壓縮到低維，保留重要資訊，方便視覺化或加速模型訓練。

Scikit-learn提供了簡單且強大的工具來實現這些任務。

聚類演算法

聚類演算法將資料點分為若干群組，同一群組內的資料點相似。以下是兩種常見演算法：

1. K均值聚類（K-Means Clustering）：將資料分為K個群組，通過最小化群內方差進行分群。
2. DBSCAN（Density-Based Spatial Clustering of Applications with Noise）：基於資料點的密度進行分群，能識別異常值。

降維技術

降維技術將高維資料映射到低維空間，常用於視覺化或減少計算成本。以下是兩種常見方法：

1. 主成分分析（Principal Component Analysis, PCA）：通過線性變換找到資料的主要變異方向。
2. t-SNE（t-Distributed Stochastic Neighbor Embedding）：非線性降維，特別適合視覺化高維資料。

實作：對客戶資料進行聚類與降維

我們將使用一個模擬的客戶資料集（或Scikit-learn的make_blobs生成合成資料），進行K均值聚類與PCA降維，然後視覺化結果。假設資料包含客戶的消費行為特徵（例如年消費金額、購買頻率等）。

程式碼範例

以下程式碼展示如何對合成資料進行聚類與降維：

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.datasets import make_blobs
from sklearn.preprocessing import StandardScaler
from sklearn.cluster import KMeans, DBSCAN
from sklearn.decomposition import PCA
from sklearn.metrics import silhouette_score

# 生成合成資料
X, y_true = make_blobs(n_samples=300, centers=4, cluster_std=1.0, random_state=42)

# 資料前處理
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# K均值聚類
kmeans = KMeans(n_clusters=4, random_state=42)
kmeans_labels = kmeans.fit_predict(X_scaled)
kmeans_silhouette = silhouette_score(X_scaled, kmeans_labels)

# DBSCAN聚類
dbscan = DBSCAN(eps=0.5, min_samples=5)
dbscan_labels = dbscan.fit_predict(X_scaled)
dbscan_silhouette = silhouette_score(X_scaled, dbscan_labels) if len(np.unique(dbscan_labels)) > 1 else None

# PCA降維
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)

# 視覺化聚類結果
plt.figure(figsize=(12, 5))

# K均值結果
plt.subplot(1, 2, 1)
sns.scatterplot(x=X_pca[:, 0], y=X_pca[:, 1], hue=kmeans_labels, palette='deep', s=100)
plt.title(f'K-Means Clustering (Silhouette: {kmeans_silhouette:.4f})')
plt.xlabel('PCA Component 1')
plt.ylabel('PCA Component 2')

# DBSCAN結果
plt.subplot(1, 2, 2)
sns.scatterplot(x=X_pca[:, 0], y=X_pca[:, 1], hue=dbscan_labels, palette='deep', s=100)
plt.title(f'DBSCAN Clustering (Silhouette: {dbscan_silhouette if dbscan_silhouette else "N/A"})')
plt.xlabel('PCA Component 1')
plt.ylabel('PCA Component 2')

plt.tight_layout()
plt.savefig('clustering_results.png')
plt.show()

# 視覺化PCA解釋方差
explained_variance_ratio = pca.explained_variance_ratio_
plt.figure(figsize=(6, 4))
sns.barplot(x=['PC1', 'PC2'], y=explained_variance_ratio)
plt.title('Explained Variance Ratio by PCA Components')
plt.ylabel('Variance Ratio')
plt.savefig('pca_variance.png')
plt.show()

# 評估K均值不同群數
silhouette_scores = []
k_range = range(2, 7)
for k in k_range:
    kmeans = KMeans(n_clusters=k, random_state=42)
    labels = kmeans.fit_predict(X_scaled)
    score = silhouette_score(X_scaled, labels)
    silhouette_scores.append(score)

plt.figure(figsize=(6, 4))
sns.lineplot(x=k_range, y=silhouette_scores, marker='o')
plt.title('Silhouette Score vs Number of Clusters')
plt.xlabel('Number of Clusters (k)')
plt.ylabel('Silhouette Score')
plt.savefig('kmeans_silhouette.png')
plt.show()

程式碼解釋

1. 資料生成與前處理： 使用make_blobs生成300筆合成資料，包含4個群組。 使用StandardScaler標準化特徵，確保聚類與降維的穩定性。
2. 聚類： 應用K均值（n_clusters=4）與DBSCAN（eps=0.5, min_samples=5）進行分群。 使用silhouette_score評估聚類品質（值越接近1越好）。
3. 降維： 使用PCA將資料降至2維，方便視覺化。 繪製散點圖，展示K均值與DBSCAN的聚類結果。
4. 視覺化： 繪製PCA解釋方差圖，展示每個主成分的貢獻。 繪製不同K值下的Silhouette分數，幫助選擇最佳群數。

運行程式碼後，你會看到K均值與DBSCAN的聚類結果、PCA降維後的散點圖、解釋方差圖，以及Silhouette分數曲線。

練習：對Iris資料集應用聚類與降維

請完成以下練習：

1. 使用Scikit-learn的load_iris()載入Iris資料集（忽略標籤，僅使用特徵）。
2. 對特徵進行標準化。
3. 使用K均值聚類（n_clusters=3）與DBSCAN（自選eps與min_samples）進行分群。
4. 使用PCA將資料降至2維，繪製K均值與DBSCAN的聚類結果散點圖，保存為iris_clustering.png。
5. 計算K均值與DBSCAN的Silhouette分數，並在圖表標題中顯示。
6. 繪製PCA解釋方差圖，保存為iris_pca_variance.png。

以下是起點程式碼：

from sklearn.datasets import load_iris
from sklearn.preprocessing import StandardScaler
from sklearn.cluster import KMeans, DBSCAN
from sklearn.decomposition import PCA
from sklearn.metrics import silhouette_score
import matplotlib.pyplot as plt
import seaborn as sns

# 載入Iris資料集
iris = load_iris()
X = iris.data

# 你的程式碼從這裡開始...

總結

恭喜你掌握了非監督學習的基礎！本篇文章介紹了聚類（K均值、DBSCAN）與降維（PCA）的概念與應用，並通過合成資料展示了完整流程。你現在能夠發現資料的隱藏結構並視覺化結果。

在下一篇文章中，我們將學習進階應用 - 管道與模型組合，探索如何簡化工作流程並提升模型表現。請完成練習，並在留言區分享你的Iris資料集聚類圖！

資源與進階學習

• Scikit-learn非監督學習文件：https://scikit-learn.org/stable/unsupervised_learning.html
• 練習平台：Kaggle（https://www.kaggle.com/competitions）