image-20240420163459407

nginx惊群

1. nginx 进程模型

nginx 是一个高性能的 Web 服务器，采用了多进程模型来处理客户端请求。在 nginx 的多进程模型中，通常有一个 master 进程和多个 worker 进程。

  • master 进程：负责管理 worker 进程，包括启动、停止、重载配置等操作。
  • worker 进程：负责处理客户端请求，每个 worker 进程都是一个独立的进程，可以处理多个客户端连接。

nginx 的多进程模型可以充分利用多核 CPU 的性能，提高 Web 服务器的并发处理能力。

2. nginx 惊群问题

nginx 的多进程模型中，当有大量客户端请求到达时，可能会出现惊群问题。惊群问题是指多个 worker 进程同时被唤醒处理客户端请求，导致系统资源的浪费和性能下降。

具体来说，当一个客户端请求到达时，操作系统会将请求分发给多个 worker 进程，这些 worker 进程都会被唤醒处理请求。由于只有一个 worker 进程能够处理请求，其他 worker 进程会浪费 CPU 时间和系统资源。

2.1 内核对惊群问题的解决方案

accept 只能唤醒一个 worker 进程，其他 worker 进程不会被唤醒。

epoll 对于多进程监听同一个 socket 的情况，不会设置 EPOLLEXCLUSIVE 标记，所以会唤醒所有监听的 worker 进程。

为了解决惊群问题，内核提供了一些解决方案，包括：

  • 引入标记位 WQ_FLAG_EXCLUSIVE：内核在唤醒 worker 进程时，会检查标记位 WQ_FLAG_EXCLUSIVE，只有一个 worker 进程能够处理请求。

  • 引入 SO_REUSEPORT 选项：内核支持 SO_REUSEPORT 选项，允许多个进程监听同一个端口，内核会自动分配客户端请求给不同的 worker 进程。

  • 引入 accept4 系统调用：accept4 系统调用支持设置 SOCK_NONBLOCK 和 SOCK_CLOEXEC 标志，可以避免惊群问题。

  • 引入 accept_mutex 机制：nginx 提供了 accept_mutex 机制，用于解决惊群问题。accept_mutex 机制会在 master 进程中加锁，只有一个 worker 进程能够处理请求。