8.2 延迟优化与基准测试

8.2 延迟优化与基准测试

测得快，不等于跑得快——基准测试里最贵的学费，就是看着实验室数字漂亮上线，实盘分布却面目全非。原因不在造假，在语境：基准跑的是理想流量、空载内核、预热完毕的缓存；实盘面对的是脉冲行情、邻居干扰、冷启动路径。本节讲一套让测量接近真相的方法论：延迟怎么分解归因、基准怎么设计才可复现、优化循环怎么组织，以及延迟与吞吐这对矛盾怎么权衡。它把第四章的预算表与第五章的清场清单串成一个持续的工程循环——优化不是项目，是呼吸。

本节目标

1. 完成一次端到端延迟分解：打点、采集、分段归因的完整流程；
2. 设计可复现的基准测试：负载模型、预热策略、环境隔离三要素；
3. 组织优化循环：假设、实验、验证、回归四步，避免无依据的微优化；
4. 用分位数而非平均值报告延迟，理解长尾对策略的真实含义；
5. 分析延迟与吞吐的联合边界，为不同策略类型选不同的平衡点。

一、分解与归因：先诊断后开药

任何优化立项前先回答：时间花在哪了。分解靠全链路打点：行情到达网卡、进入用户态、订单簿更新完成、信号产出、闸门通过、报文离卡，每个断点一个单调时钟时间戳，随事件流落盘。采集要覆盖长时段（至少包含高波动时段），因为延迟分布是状态依赖的——平静时段的分布对脉冲时段毫无代表性。归因则是把端到端总时长按打点切成段，对每段分别看分位数：多数优化的目标段只占总均值的一小部分，却贡献长尾的大头。

打点本身有观测成本，热路径上的纪律是一次时钟读取加一次内存写入：时间戳写进事件结构的预分配字段，格式化与落盘全部异步。若打点让链路慢了，你优化的就是测量本身——观测者效应在纳秒世界不是哲学玩笑，是每天要对付的现实。

def report_latency(samples):
    # 均值只在汇报里陪衬，分位数才是决策语言
    s = sorted(samples)
    n = len(s)
    return {
        "p50": s[int(n * 0.50)],
        "p99": s[int(n * 0.99)],
        "p999": s[min(n - 1, int(n * 0.999))],
        "max": s[-1],
    }
# 一份合格的优化前后对比，至少含 p50 与 p999 两行：
# p50 降说明常态变好，p999 降说明确定性变好 —— 两者来源不同，药方不同。
​

图：一次优化立项的延迟分解示例

二、基准的可复现性：三要素与一个陷阱

可复现的基准有三个要素。负载模型：用真实行情回放（而非合成流量）驱动，流量形态决定缓存与分支预测的行为——合成均匀流量测出的数字对脉冲行情没有预测力。预热策略：缓存、分支预测器、对象池都要先灌满再计时，冷启动数据单独报告。环境隔离：基准机上没有邻居进程、没有定时任务、网卡中断绑定在专用冷核——任何一项破防，数字就不是你测的那个东西。

一个陷阱要单独点破：微基准的叠加谬误。把各组件的基准耗时加起来，通常小于端到端实测——缓存效应（组件串联后互相污染缓存）、内存带宽竞争、分支历史互扰，都只在组合中出现。所以微基准用于组件开发期的快速反馈，验收永远以端到端回放基准为准，两层数字各管各的用途。

三、优化循环与边界权衡

优化的组织形式是一个循环：假设（从分解数据里选目标段，给出机理解释——这次慢在分支预测失败还是缓存未命中）、实验（改动只含一个变量，基准前后各跑一轮）、验证（分位数对比，p999 不恶化才算数）、回归（改动合入后进入长时压测清单，防止未来回退）。没有机理假设的改动不进循环——"试一下说不定更快"的微优化会污染代码可读性，收益却不可持续。

延迟与吞吐的权衡按策略类型定平衡点。做市与吃单策略要的是低延迟：单核单队列、请求阻塞在等待上也认了，核利用率低是设计而非浪费。行情处理与数据分析要的是吞吐：批处理、多队列并行、允许队列排队。两套诉求在同一系统里并存时，物理隔离是唯一体面的解法——不同的核、不同的队列、不同的调优参数，绝不让吞吐侧的批处理逻辑混进延迟侧的关键路径。行业常说的"延迟吞吐联合边界"，落到操作层面就是这条隔离纪律。

案例复盘：一次两微秒优化项目的完整档案

背景：信号计算段 p50 为二点三微秒，立项目标压到一点五微秒以内，两周窗口。

操作：第一周做机理归因：性能计数器显示分支预测失败率异常，热点函数里一个按信号类型分支的调度逻辑是源头；同时发现每笔信号计算做了一次浮点除法（换算手续费率），该除数在日内恒定。改动两个：类型分派改查表、常量除法改预计算乘法。

结果：p50 降到一点四微秒，但 p999 从六微秒升到九微秒——查表的首次访问引发缓存未命中，集中在冷启动与罕见类型上。补一道预热（启动期把所有表项摸一遍）并给罕见类型保留直接计算路径，p999 回落到五点二微秒。

解读：这个案子浓缩了优化循环的全部要点：改动前有机理假设、每次只动一个变量、以分位数验收、发现长尾恶化立即补方案。若只盯着 p50 的改善收工，这次优化会在某个波动日以一次延迟尖刺的形式讨回代价。

变式：不同段的优化手法库不同：软件段（信号、网关）靠代码纪律与算法替换；硬件段（收包）靠配置与卸载；物理段（线路）靠钱。立项前先判断目标段属于哪一层，用错了手法库的优化项目，通常两周后以"无可行方案"结项。

进阶讨论：测量的三个边界问题

观测本身会改变测量结果吗？ 会，且必须管理。打点、日志、计数器都消耗时钟与缓存资源，观测密度越高失真越大。工程上的平衡是分层：常态观测走轻量路径（单点时间戳），排障期临时加密集打点，测完撤掉——把重观测当作诊断工具而不是常驻设施。

跨机构的延迟数字可以直接比吗？ 不可以直接比。打点位置、时钟源、流量模型任何一处口径不同，数字就没有可比性；行业里流传的"某某机构做到几微秒"，多数连测量起止点都不一致。可比的只有自家口径下的前后对比，以及同一供应商同一口径下的横向选型对比。

优化到什么程度该停？ 经济答案比技术答案可靠：当下一微秒的边际收益（成交率改善折算的期望利润）低于边际成本（研发工时加基建投入）时停。多数链路的常态是：前几轮优化收益以微秒计，随后以百纳秒计，最后进入"为优化而优化"的递减区——识别拐点本身就是测量体系的价值之一。

本节要点回顾

• 先分解归因后开药：全链路打点要覆盖高波动时段，打点本身必须零负担；
• 分位数是决策语言：p50 与 p999 分别对应常态与确定性，药方不同；
• 基准三要素：真实回放负载、充分预热、环境隔离；微基准只管开发期反馈；
• 优化循环四步：机理假设、单变量实验、分位数验证、长时回归；
• 延迟与吞吐物理隔离：让批处理逻辑靠近延迟路径，是性价比最低的架构污染。