本章要回答的三个问题:K-Means 的 K 到底怎么选,收敛到坏局部最优怎么办?降维为什么先做 PCA,主成分的方差最大化怎么推导?聚类和降维的结果没有标签可对,效果究竟怎么评?
无监督题在面试里的角色很微妙:出场频率不如监督学习,但淘汰率不低。原因在于它的答案里没有「准确率」这类一眼见分晓的数字,候选人很容易用「聚类就是把相似的聚在一起」这类循环论证糊弄过去;而面试官的追问一旦落到「轮廓系数怎么算」「PCA 第一主成分的数学含义」「K-Means 失败的典型场景」,糊弄立刻现形。这一章就训练你把两个最常被问的无监督方法——K-Means 与 PCA——讲到能白板推导、能说清评估、能预判失败模式的深度。
本章还有一条暗线:无监督是第 5 章特征工程的近亲(降维与标准化同属特征变换)、是第 4 章自监督表示学习的远祖(学表示不学标签)。面试官问无监督,常常醉翁之意在「你能不能在没有标准答案的工作里建立判断标准」。
检验标准照旧:合上书对着空气各讲一分钟,卡壳处回炉。
| 节 | 主问题 | 追问落点 |
|---|---|---|
| 3.1 聚类 | K-Means 怎么跑,K 怎么选,什么时候失败 | 初始化敏感性与 K-Means++;密度聚类与层次聚类的补位 |
| 3.2 降维 | 主成分是什么,为什么正交,怎么选维数 | 特征分解与 SVD 的关系;线性局限与流形方法的接棒 |
需要向量的内积、范数与投影的几何直觉,PCA 推导会用到拉格朗日乘子法(与 SVM 的对偶同款工具);评估小节需要第 1 章建立的「指标为决策服务」的意识。不要求任何测度论层面的聚类理论。
读完本章,你在面试里应该能驾驭「给你一批无标签数据你怎么入手」的完整回答:先探数据形状,聚类找群体,降维看结构,评估靠内部指标加业务验证。第 4 章起进入深度学习,你会发现自监督预训练就是在无监督的地基上盖的楼——那里没有 K-Means,但有同一个灵魂:没有标签时,让数据自己提供训练信号。
无监督章自测的及格线是「能预判失败」:说出 K-Means 在环形数据上的行为、PCA 丢掉判别信息的场景。无标准答案的工作里建立判断标准,正是这章训练的能力。
无监督题没有公式答案,评分全在「判断标准的自觉」。推荐三句式:先说清目标(这次聚类的业务用途、这次降维的目的)、再说手段与假设(方法隐含的几何或统计假设是否与数据匹配)、最后说验证(内部指标加业务校验双轨)。三句式的本质是把开放题翻译成受限题——把「怎么聚类」翻译成「在你的目标与假设下怎么聚类」,答案立刻有了骨架。
另补一个高频开场句式的提醒:无监督题被问「先做什么」时,标准第一步永远是「看数据形状」——维度、样本量、量纲、是否混合类型。K-Means 与 PCA 的适用前提(数值型、已标准化、维度可控)全部写在数据体检里;先体检后选方法,是本章所有节共享的第一动作,也是面试官判断你有没有真实分析经验的最快探针。