Nginx 中如何通过 Nginx 保障 API 服务的高并发响应

Nginx保障API高并发的关键在于各环节协同优化：worker_processes设为auto或CPU核心数，worker_connections配10240～65535并同步调高系统nofile限制；启用epoll、multi_accept on、worker_cpu_affinity auto；keepalive_timeout设60s、keepalive_requests设10000；配合least_conn负载均衡与健康检查。

靠 Nginx 保障 API 服务高并发响应，关键不是堆配置，而是让每个环节都“不拖后腿”——从连接调度、资源分配到后端分发，环环相扣。

Worker 进程与连接数要匹配硬件

worker_processes 设为 auto 或 CPU 核心数（比如 8 核就设 8），避免进程过多导致上下文切换开销；每个 worker_connections 建议设为 10240～65535，但必须同步调高系统级限制：

1. 在 nginx.conf 中设置 worker_rlimit_nofile ≥ worker_connections × worker_processes
2. 在 /etc/security/limits.conf 中配 * soft nofile 100000 和 * hard nofile 100000
3. 运行 ulimit -n 确认生效，否则连接数会被系统截断

用对事件模型和连接调度策略

Linux 环境下必须启用 epoll，并配合合理调度逻辑：

1. events 块中写 use epoll，禁用低效的 select/poll
2. 开启 multi_accept on，让单次唤醒能接收多个新连接
3. 高并发场景建议 accept_mutex off，避免 Worker 争抢连接锁造成排队延迟
4. 搭配 worker_cpu_affinity auto，自动绑定 CPU 核心，减少缓存失效

Keepalive 要控时长、控请求数、控缓冲

API 多为短请求，长连接有价值但不能放任：

1. keepalive_timeout 60 —— 太长易积压空闲连接，太短失去复用价值
2. keepalive_requests 10000 —— 单连接最多处理请求数，防内存泄漏或状态累积
3. client_header_buffer_size 4k 和 large_client_header_buffers 4 8k —— 防止大 header 触发磁盘临时文件，影响吞吐
4. tcp_nodelay on + tcp_nopush on —— 小包及时发、大包攒着发，兼顾低延迟与高吞吐

后端负载均衡与健康检查不能省

单台 API 实例扛不住流量，Nginx 必须做智能分发：

1. 定义 upstream 时加 least_conn 或 hash $remote_addr consistent，适配不同业务特征
2. 每个 server 行加上 max_fails=3 fail_timeout=30s，自动剔除异常节点
3. 配合 health_check interval=5 fails=2 passes=2（需 stream 模块或 http 区块内 proxy_next_upstream）
4. 设置 proxy_buffering off 对流式 API（如 SSE、大文件上传）更友好，避免缓冲阻塞