Nginx 中 Non-blocking IO 怎样处理高频网络连接

Nginx处理高频连接的核心是非阻塞I/O与事件驱动机制协同：socket设为O_NONBLOCK，依赖epoll/kqueue只响应就绪事件，通过可中断的连接生命周期管理和系统级调优实现单worker万级并发。

Nginx 处理高频网络连接的核心，不是靠“硬扛”，而是靠非阻塞 I/O 与事件驱动机制的紧密配合——它让单个 worker 进程能同时盯住数万连接，每个连接只在真正有事（可读、可写、超时、断开）时才被处理，其余时间不占 CPU、不抢资源、不卡队列。

非阻塞 socket 是一切的前提

所有客户端连接的 socket 都被设为 O_NONBLOCK 模式。这意味着：

• 调用 recv() 时，哪怕只收到 1 字节，也立刻返回；没数据就直接报 EAGAIN，绝不等待
• send() 同样不等：缓冲区满就返回 EAGAIN，而不是卡在那里等 TCP 窗口腾出空间
• 后续是否继续读/写，完全由 epoll（Linux）或 kqueue（BSD/macOS）通知——Nginx 只响应就绪事件

事件循环统一调度连接生命周期

高频建连/断连不是靠“快速关”来解决的，而是靠把整个连接拆成可中断、可挂起、可复用的阶段：

• TCP 握手完成 → 触发 accept 事件，Nginx 接收并注册 EPOLLIN
• 客户端慢发请求头 → 每次 read 返回 EAGAIN 后，连接仍留在监听列表中，不释放也不阻塞其他请求
• 后端响应未就绪 → 当前连接挂起，worker 转去处理别的就绪连接；响应一到，立刻触发 write 事件续发
• 响应发送中遇 EAGAIN → 自动注册 EPOLLOUT，等 socket 可写再继续，不重试、不忙等

高频场景下必须配的防堆积策略

非阻塞本身不能替代合理约束，否则连接会“堆而不死”，最终耗尽 fd 或卡住 worker：

• 禁用 keepalive：短平快接口设 keepalive_timeout 0，响应完立即断连，空闲连接不占槽位
• 主动清理异常连接：开启 reset_timedout_connection on，对握手失败、读写超时直接发 RST，不等内核回收
• 收紧超时阈值：client_header_timeout 5s、client_body_timeout 10s、send_timeout 15s，防慢速攻击或弱网拖累
• 匹配系统上限：worker_rlimit_nofile 1048576 + ulimit -n 调高，确保 epoll 能管够多 fd

底层协同才能跑满高频吞吐

光靠 Nginx 配置不够，还需和内核及硬件配合：

• 启用 multi_accept on 和 accept_mutex off（确认内核 ≥ 3.9），让单次 epoll_wait 批量 accept，减少锁争抢
• 调大 net.core.somaxconn 和 net.ipv4.tcp_tw_reuse，避免 SYN 丢包和 TIME_WAIT 端口耗尽
• 分散网卡软中断（RPS/RSS），防止 CPU 某核被打满而其他核空闲
• 静态文件走 sendfile on，绕过用户态拷贝；大文件上传启用 aio threads，避免阻塞读盘