Nginx 异步事件驱动架构：高性能连接任务调度如何实现

Nginx通过单worker事件循环+epoll/kqueue+非阻塞I/O+红黑树超时管理+内存池复用，实现高并发低开销连接调度。

nginx 异步事件驱动架构实现高性能连接任务调度，核心不是靠增加线程或进程数量，而是让单个 worker 进程以极轻量的方式，把成千上万个连接的每个操作都转化为可响应、可中断、可复用的事件，全程不等待、不阻塞、不切换上下文。

事件循环统一监听，避免轮询和空转

每个 worker 启动后进入一个紧凑的 while 循环，调用 epoll_wait()（Linux）或 kqueue()（BSD/macOS）交由内核管理就绪状态。内核只在 socket 真正可读、可写或出错时才通知，省去遍历所有 fd 的开销，时间复杂度接近 O(1)。没有事件就绪时，worker 不空转也不 sleep，CPU 时间立即释放给系统或其他就绪任务。

• 一次 epoll_wait 可批量返回多个就绪事件，减少系统调用频次
• 支持边缘触发（ET）模式，避免重复通知，适合高吞吐场景
• 所有连接（监听 socket + 已建立连接）统一注册进同一事件池，调度逻辑一致

非阻塞 I/O 驱动连接全生命周期

从 accept 新连接开始，每个 socket 都设为 non-blocking 模式。recv() 和 send() 操作不会卡住进程：没数据就读到 EAGAIN，发不完就暂存 output buffer 并注册 write 事件，等下次可写再续。整个连接的读头、收体、转发、写回全部拆解为独立事件，在用户态内存中流水执行。

• accept() 配合 multi_accept on，一次收多个已排队连接，降低事件唤醒次数
• recv() 遇到 EAGAIN 立即转向处理其他就绪连接，不闲置 CPU
• send() 未完成时自动挂起，仅保留必要状态，不占用额外线程或协程

超时与资源由红黑树统一纳管

连接级超时（如 keepalive_timeout、client_header_timeout）不靠独立线程轮询，而是插入全局红黑树。事件循环每次进入 epoll_wait 前，先检查树顶是否到期，并将最小超时值传入 timeout 参数——既保证精度，又消除定时器线程开销。连接对象、buffer 内存也通过预分配池（slab）复用，避免频繁 malloc/free 导致抖动。

• 红黑树支持 O(log n) 插入/查找，十万连接下超时管理仍高效
• ngx_connection_t 结构体启动即配、运行中复用，减少内存分配压力
• 静态文件响应启用 sendfile()，跳过用户态拷贝，直接由内核搬运数据

多 worker 协同但不争抢，天然并行

master 进程仅负责配置加载与 worker 生命周期管理，所有连接调度由独立 worker 完成。每个 worker 拥有专属事件循环、内存池和连接池，彼此无锁共享关键资源。配合 worker_cpu_affinity 绑定物理核心，配合 SO_REUSEPORT 或 accept_mutex 控制新连接分发，确保负载均衡且缓存友好。

• worker_processes 设为 CPU 物理核心数，避免上下文切换浪费
• reuseport 开启后，新连接从内核层面直接分发到各 worker，绕过 accept 队列争抢
• HTTP/2 多路复用依赖该模型：单 TCP 连接承载数百 stream，全部由同一 worker 调度