99-附录 高频问答速查表

附录：高频问答速查表

这份速查表收录全书各章出现率最高的问答对，每条答案压缩成面试可口的长度。它只用于面试前一小时的唤醒，不适合首次学习——没有走过正文的追问链，这些压缩结论在两层追问后就会见底。

机器学习基础

问：偏差和方差分别是什么，怎么权衡？
答：偏差是模型拟合能力不足导致的系统性误差，表现为训练误差和验证误差同高；方差是模型对训练数据扰动的敏感度，表现为训练误差低而验证误差高。增加模型容量、训练更久降偏差；加正则、增数据、集成降方差。诊断顺序是先看两条误差曲线的相对位置再决定动哪边。

问：L1 和 L2 正则的区别？
答：L1 是绝对值惩罚，等值线是菱形，最优解易落在坐标轴上产生稀疏权重，可用于特征选择；L2 是平方惩罚，等值线是圆形，把权重整体压小但不归零。几何解释比"L1 稀疏"这个结论更有说服力。

问：为什么 ROC-AUC 对不平衡数据不敏感？
答：ROC 的两个轴（真阳性率、假阳性率）都是条件概率，分母各自固定，不随类别比例变化；PR 曲线则依赖正类先验。所以极不平衡场景下 PR 曲线更悲观也更真实，ROC 看起来偏乐观。

问：XGBoost 为什么快且准？
答：三个设计：目标函数用二阶泰勒展开使增益计算通用化；每层扫描候选分位点做近似分裂，支持大规模数据；正则项显式计入叶子数和权重平方，控制过拟合。再加工程层面的列抽样、缓存感知和并行特征扫描。

问：过拟合了怎么办？
答：按成本递增排查：先扩数据或清洗噪声标签，再加正则（权重衰减、Dropout、早停），然后降模型容量，最后才考虑换架构。答出顺序本身就是加分。

深度学习

问：手推反向传播的核心？
答：链式法则。前向建计算图，反向按拓扑序逆行，每个运算用预注册的局部导数把上游梯度乘下来传给输入。梯度消失爆炸的根源是导数连乘，每层导数典型值小于一则指数衰减。

问：为什么除以根号 dk？
答：点积的方差随维度增长，数值过大会把 softmax 推进饱和区，梯度趋于零。除以根号 dk 把方差归一回单位量级，保持梯度健康。

问：BN 训练和推理的差异？
答：训练用当前 batch 统计量并更新滑动平均，推理用累计的滑动平均。因此 BN 对 batch size 敏感，小 batch 场景换 GroupNorm 或 LayerNorm。

问：残差连接为什么重要？
答：让梯度有一条加法直通路径，不必经过权重层连乘，深网络的梯度流得以维持；网络学的是增量修正，优化地形更平滑。ResNet 之后几乎所有深架构都保留了这个设计。

计算机视觉

问：NMS 的流程和缺陷？
答：按置信度排序，取最高分框删掉与其 IoU 超阈值的其余框，循环至空。缺陷是密集目标互相重叠时误删，改进方向有 Soft-NMS（降权而非删除）和 DETR 的集合预测（端到端无 NMS）。

问：两阶段和单阶段检测器的本质区别？
答：两阶段先生成候选区域再分类回归，精度高速度慢；单阶段直接在密集锚点上回归，快但正负样本极不平衡，靠 Focal Loss 这类设计补偿。选择看场景：离线分析求精度用两阶段，端侧实时用单阶段。

问：小目标为什么难检测？
答：下采样后小目标的特征像素所剩无几，且 anchor 正样本稀缺。对策：提高输入分辨率、用 FPN 的高分辨率层、密集 anchor 或 anchor-free 分配、小目标复制粘贴增强。

问：量化为什么掉精度，怎么缓解？
答：权重和激活从 FP32 压到 INT8 时动态范围折叠，离群值被截断。缓解：量化感知训练让网络提前适应量化噪声，或对离群通道做混合精度保留。

自然语言处理

问：BERT 和 GPT 的根本区别？
答：训练目标不同：BERT 用掩码语言模型，看到双向上下文但预训练与生成任务错位；GPT 用自回归预测下一词，天然适配生成但只能看左侧。双向与自回归的冲突决定了两者能力圈的分野。

问：多头注意力为什么有效？
答：多组 QKV 并行，各自在不同表示子空间里建模关系（句法、共指、位置邻近），拼接后信息互补。单头注意力容易把注意力集中到单一模式上。

问：LoRA 的原理和秩怎么选？
答：把微调的权重增量约束为两个低秩矩阵乘积，冻结基座只训增量，参数量降两个数量级。秩经验取八到六十四，任务简单取小，数据少时秩大易过拟合。

问：BLEU 的局限？
答：基于 n 元组精确匹配，无法识别同义改写，对语序敏感度差，与人工评价相关性在开放生成任务上较弱。生成质量评估的趋势是模型裁判加人工抽检。

面试实战

问：拿到陌生算法题的第一动作？
答：先给暴力解保底，再从数据规模反推期望复杂度（十万级数据对应线性对数算法），从复杂度倒推算法族。全程口述思路，不要沉默。

问：系统设计先做什么？
答：先澄清需求——功能边界、延迟和可用性要求、规模量级。提问本身就是得分行为，上来画图是最大忌讳。

问：行为面最大的坑？
答：背答案。追问两层后编造的故事必然崩塌。正确做法是把真实经历结构化：具体的坎、你的行动、量化的结果。

愿这份速查表陪你走完面试的最后一公里。祝上岸。

数学与统计补充问答

问：协方差矩阵为什么是半正定的？
答：对任意向量 w，w 转置乘协方差矩阵乘 w 等于数据在 w 方向投影的方差，方差非负，故半正定。PCA 取其最大特征值方向就是取投影方差最大方向。

问：中心极限定理在机器学习哪里用到？
答：bootstrap 重采样的有效性（样本均值近似正态）、集成学习的方差分析（多模型平均的方差按根号 n 下降）、以及 batch 梯度是全梯度的无偏估计（大数定律的近亲）。答的时候举一两个落地例子比背定理陈述好。

问：MLE 和 MAP 的区别？
答：最大似然只最大化数据概率；最大后验再乘上参数先验。等价视角：MAP 等于 MLE 加正则——高斯先验对应 L2，拉普拉斯先验对应 L1。这一条把频率派贝叶斯派和正则化串成一线，是数学题里性价比最高的答案之一。

部署与工程补充问答

问：模型上线后效果下降，排查顺序？
答：先对齐线上线下特征（训练服务偏差是最常见根因，特征口径、缺失值填充方式任何不一致都是嫌疑）；再查数据分布漂移（输入分布的统计距离、置信度直方图对比）；再验证服务本身（版本是否正确加载、预处理顺序）；最后才考虑模型重训。顺序的原则是"先查工程再查算法"，八成的"模型变差"是工程问题。

问：A/B 测试怎么做才可信？
答：三件事做对——随机分流且分流单元与统计单元一致、样本量提前算功效（不是看几天算几天）、一次实验只验证一个主指标其余为护栏指标。常见错误是中途看结果显著就收实验（多重peeking 会大幅提高假阳性）。

问：模型灰度发布的机制？
答：按流量比例切分新旧模型，观察主指标与护栏指标，达标逐步放大。工程要点是分流要sticky（同一用户固定看到同一版本，避免体验抖动和统计污染）、回滚要快（版本化部署加一键切回）。

学习方法问答

问：算法岗面试要不要准备八股文（操作系统、网络）？
答：看岗位。做模型训练的基础八股够用即可，重心压在算法深度；做推理部署和机器学习系统岗的，八股权重陡增——进程线程、TCP UDP、内存管理这些题在这些岗位是必考项。用一句话决策：JD 里出现"系统""平台""推理优化"字样的，八股按大厂标准准备。

问：没有大厂实习怎么弥补？
答：三样替代品：有深度的开源贡献（哪怕一个组件的文档和测试完善）、可复现的竞赛成绩（名次不一定要顶尖，关键是复盘报告写得清楚）、以及一个有真实用户的小项目。这三样的共同点是可验证——面试官能直接查看产出，可信度高于简历上任何形容词。

问：面试复盘怎么做？
答：每场面试后两小时内记录：被问倒的题（原题和当时的思考过程）、答得没底气的题、面试官的追问方向。每周汇总一次，把高频失分点转成下一周的复习主题。这个循环跑三周，你会直观看到自己的失分热区在收缩——备考的掌控感就来自这里。

结尾寄语

技术面试的本质是一场信息不对称下的双向匹配：你在展示能力，也在评估团队。准备的本质是把三年的积累压缩进五小时的对话——压缩质量取决于平时的积累密度，也取决于最后一个月的结构化整理。这份教程覆盖了知识侧的结构，最后一公里是把它变成你自己的语言。祝每一位读者都能在面试里展现出训练有素的松弛感：那种"我知道我知道什么、也知道我不知道什么"的笃定，是所有准备的终点。

结语之后的一页

最后放一张全书考点一览的收束图，把四章浓缩成一个可以整体回忆的结构：

备考的本质是把这张图从纸面搬进大脑——不是逐字背诵，是每个盒子都能随时展开成追问链，每条连线都能讲出因果。祝你面试顺利。

概念边界的最后一组快答

问：机器学习、深度学习、人工智能三者关系？ 答：人工智能是最大圈，机器学习是实现它的主流路径，深度学习是机器学习中用多层神经网络的那一支。三者是包含关系不是并列关系，答成并列直接暴露基础。

问：监督、无监督、自监督的区别？ 答：监督有人工标注的答案，无监督只有数据找结构，自监督从数据自身构造答案（遮词预测、下一词预测），它让无标注海量数据进入监督范式，是预训练时代的钥匙。

问：生成模型和判别模型？ 答：判别模型学条件概率直接给边界，生成模型学联合分布能采样出新样本。前者通常精度占优，后者能造数据。扩散模型属于生成，分类器属于判别，这组对照几乎每场都问。