6.2.3 并发连接数与请求频率的平衡

文档摘要

6.2.3 并发连接数与请求频率的平衡在高并发网络服务的实战前线，我们常被一个问题反复拷问： “为什么我的服务在压测时吞吐量上不去？明明 CPU 和内存都还有余量，连接数却卡在 3000 就再也涨不动了？” “为什么客户端每秒发 1000 个请求，服务端却持续返回，而日志里连一个异常堆栈都没有？” “为什么把调到 65535，反而延迟飙升、超时倍增，甚至触发内核 OOM Killer 杀掉进程？” 这些问题，表面看是配置没调好，实则直指一个被严重低估却决定系统生死的底层张力——并发连接数（concurrent connections）与请求频率（request rate）之间的动态平衡关系。它不是两个独立参数的简单叠加，而是一组相互耦合、存在强非线性反馈的系统变量；