2.3.2.2 缓冲策略

文档摘要

2.3.2.2 缓冲策略缓冲策略，不是缓存策略，也不是队列策略——它是一道被长期误读的窄门。你见过多少次这样的场景？系统在压测时吞吐量陡增，但响应延迟却像被钉在P95线上纹丝不动；日志里反复刷出，而监控面板上内存使用率才刚过60%；下游服务明明空闲，上游却持续背压、重试、熔断……工程师们围在屏幕前，争论是线程池配小了，还是GC太猛，抑或Kafka分区数不够。没人低头看看那几行被IDE自动折叠的调用——那里，正躺着一个未被命名、未被度量、未被治理的“缓冲幽灵”。这不是理论推演，这是我在2023年Q4主导某银行核心支付链路重构时亲手切开的伤口。当时，一笔跨行代扣请求平均耗时从87ms飙升至312ms，P99延迟突破1.2秒，而全链路CPU均值不足45%，磁盘IO平稳如常。