4.1 低延迟网络技术


4.1 低延迟网络技术

一个常见的误解是:网络快就是带宽大。对高频交易而言这个答案错得离谱——决定生死的不是每秒能传多少数据,而是一个报文从这头到那头要多久,以及这个时间稳不稳。行情报文通常只有几百字节,把千兆换万兆带来的带宽对它毫无意义,但把光纤换成微波省下的一毫秒,价值以亿计。本节沿着报文的物理旅程,把传播介质、交换设备、接入技术三层逐层讲透,让你在评审任何"低延迟方案"时,能算出它宣称的微秒里有多少是物理、多少是营销。

本节目标

  1. 用传播速度换算光纤、铜缆、微波链路的延迟下限,并解释为什么微波更快;
  2. 说明交换机转发带来的延迟构成,理解"少一跳"的工程价值;
  3. 讲清内核旁路的工作原理,比较内核协议栈与用户态轮询驱动的差距;
  4. 评估远程直接内存访问等进阶技术的适用场景与代价;
  5. 为一条链路编制传播预算表,识别其中的不可压缩部分。

一、介质层:跟光速谈判的三种材料

报文的传播速度由介质决定。光纤里光走的是玻璃,速度约为真空中光的七成,折算下来每公里约五微秒——这是多数同城与跨城链路的基准。铜缆(机房内的直连缆)电信号传播与光同量级,短距离内还省去光电转换,所以托管机房里几米的交叉连接缆反而是延迟最友好的介质。微波在空气中传播接近真空光速,每公里约三点三微秒,且可以走近似直线的路径,不像光纤必须绕开地铁与桥墩——两条效应叠加,让微波链路在长距离上显著领先。芝加哥到新泽西的经典案例:光纤单程约六毫秒半,微波塔链把单程压到五毫秒以内,每缩短一点,跨市场套利者愿意支付的年租金就以千万美元计。

这层知识的实用结论有三条。其一,距离是唯一不可优化的量,机房选址(第四章 4.2)因此是所有网络决策的前提。其二,"更直"与"更快介质"是仅有的两个自由度,行业从光纤竞速走到微波竞速再到毫米波,翻来覆去就在这两个自由度上做文章。其三,传播延迟不抖——抖的是设备与协议栈,所以长尾治理的主战场从来不在介质层。

二、设备层:每一跳都是收费站

报文每经过一台交换机,就要经历接收、查表、转发三个步骤,商用低延迟交换机的单跳转发在数百纳秒量级,直通模式下可以更低。听起来不多,但对一条微秒级预算的链路,每多一跳就是一大笔支出。工程上的对策按优先级排:减少跳数(托管机房里申请与交易所接入点最近机柜、点对点直连);选对交换机(金融级型号的转发延迟比企业级低一半以上,价差十倍不止);压实走线(几米的光缆差额就是零点几微秒,头部机构真的会重新规划机柜排布来缩短它)。

值得单独一提的是链路聚合与冗余的代价。双链路冗余是可靠性的必需品,但主备切换瞬间会造成毫秒级中断——对秒级业务无感,对高频策略意味着错过一批行情。成熟的做法是双活:两条链路同时收发,行情侧按时间戳取先到者,订单侧则写死单一路径避免乱序。冗余的形态必须与延迟语义一起设计,这是很多通用网络经验在这里失灵的地方。

三、接入层:把内核从热路径上请出去

介质与设备决定了报文到网卡的时间,接入技术决定它从网卡到应用内存的时间。传统路径是内核协议栈:网卡中断、内核收包、协议解析、socket 唤醒,一整套流程下来数微秒起步,外加不可控的调度抖动。内核旁路技术把这条路改掉了:应用通过用户态驱动直接轮询网卡的接收队列,报文经零拷贝送达预注册的内存区,全程内核不参与——收发开销从微秒级压到数百纳秒,且消除了中断带来的抖动源。

代价清单同样清楚。轮询模式意味着 CPU 空转等包(第三章说过,热路径专用核兜底);用户态驱动绕过了内核的缓冲管理与统计能力,监控、防火墙这些"顺路福利"全部失效,要自己另建;每家网卡的旁路方案互不兼容,选型即绑定。这套交换在低延迟领域毫无悬念——热路径必旁路;但旁路之外还有更进一步的选择:远程直接内存访问让对端机器直接读写本机内存,把协议处理也省掉,适合跨机协同的场景;现场可编程门阵列收包则把报文解析做到硬件里,报文进 FPGA 出来直接是结构化字段,这是第六章之前很多头部机构订单链路的真实形态。

图:同一段路程三种走法的延迟对照

图:同一段路程三种走法的延迟对照

四、预算表:把物理写进设计文档

网络方案评审的最佳工具是一张传播预算表:把"交易所出口到我方网卡"的每一段列出来——机房内几米、机房到机房多少公里、什么介质、几跳设备——每段标注传播延迟与设备延迟,合计即链路的物理下限。这张表有三个用途:采购时验证供应商承诺(宣称十微秒的专线,物理下限若就是八微秒,说明只有两微秒的设备余量,性价比立判);排障时定位异常(实测均值长期贴着预算线是健康,某段突然抬升即线路劣化);扩容时评估新市场(新交易所距离多远、预算够不够、要不要微波,决策直接可算)。

案例复盘:一条"慢了两微秒"的专线

背景:某团队采购了两条不同供应商的同城专线,物理距离相同,实测延迟却差了两微秒多,供应商互相推诿。

操作:团队按预算表逐段排查:两家的光纤路径长度不同——一家走了直埋路由,另一家为避开一段市政管廊绕行了一公里多,折算正好约五微秒;再核对设备,绕行一家的中间多了一跳汇聚交换。

结果:换用直埋路由供应商并把专线接入点迁移到更近的机柜,链路延迟回到物理下限附近。两微秒在跨市场价差策略上折算成成交率的提升,数月即覆盖全部迁移成本。

解读:网络采购的功课在合同之前:路径长度、跳数、接入点位置三项才是价格谈判的筹码,"低延迟专线"四个字本身不是。预算表让物理事实成为合同条款,这是工程师对采购最有价值的贡献。

变式:跨城与跨洋链路的谈判维度不同:前者可谈路由与介质,后者基本只能谈接入点与冗余形态;同城机房内部则连介质都不用谈,重点全在走线长度与交叉连接质量。预算表的结构不变,谈判的重心随距离尺度迁移。

本节要点回顾

  • 传播速度由介质决定:光纤每公里约五微秒,微波约三点三微秒,距离是唯一不可优化的量;
  • 每一跳交换都是收费站,跳数、设备等级、走线长度是设备层的三个自由度;
  • 内核旁路把收发从微秒级压到数百纳秒,代价是自建监控与绑定网卡方案;
  • 冗余形态必须与延迟语义共设计,双活收单、单路发单是常见折中;
  • 传播预算表是采购、排障、扩容三用的基础文档,物理事实应写进合同。

作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U