从 Nginx 优秀的核心架构设计，揭秘其为何能支持高并发？
还没关注？
快动动手指！
聊技术、论职场！
为IT人打造一个“有温度”的 狸猫技术窝
目录：
1. Nginx的整体架构
2. Nginx的模块化设计
3. Nginx的请求方式处理
4. Nginx事件驱动模型
5. Nginx进程处理模型
写 在前面
Nginx 是一个 免费的，开源的，高性能的 HTTP 服务器和反向代理。以其高性能，稳定性，丰富的功能，简单的配置和低资源消耗而闻名。Nginx是一个Web服务器，也可以用作负载均衡器和 HTTP 缓存 。
很多高知名度的网站都使用 Nginx，比如：Netflix ， GitHub ， SoundCloud ， MaxCDN 等。
正文
1. Nginx的整体架构
1.1. 主进程
Nginx 启动时，会生成两种类型的进程，一个是主进程 （ master ）， 一个 （ windows版本的目前只有一个）或 多个工作进程 （ worker ）。
主进程并不处理网络请求，主要负责调度工作进程 ，也就是图示的 3 项：
-
加载配置
-
启动工作进程
-
非停升级
因此，Nginx 启动以后，查看操作系统的进程列表，我们就能看到至少有两个Nginx 进程。
1.2. 工作进程
服务器实际处理网络请求及响应的是工作进程 （ worker ），在类 unix 系统上， Nginx可以配置多个worker ，而每个 worker 进程都可以同时处理数以千计的网络请求 。
1.3. 模块化设计
Nginx的worker进程，包括核心和功能性模块，核心模块负责维持一个运行循环 （ run-loop ），执行网络请求处理的 不同阶段 的模块功能。
比如： 网络读写 、 存储读写、 内容传输 、 外出过滤 ，以及将请求发往上游服务器等。
而其代码的模块化设计 ，也使得我们可以根据需要对 功能模块 进行适当的 选择 和 修改 ，编译成具有 特定功能的服务器。
1.4. 事件驱动模型
基于 异步及非阻塞的事件驱动模型 ，可以说是 Nginx 得以获得高并发、高性能的关键因素，同时也得益于对 Linux 、 Solaris 及类 BSD 等操作系统内核中 事件通知 及 I/O 性能增强功能 的采用，如 kqueue 、 epoll 及 event ports 。
1.5. 代理（proxy）设计
代理设计，可以说是 Nginx 深入骨髓的设计，无论是对于 HTTP ，还是对于 FastCGI 、 Memcache 、 Redis 等的网络请求或响应，本质上都采用了 代理机制 。所以， Nginx 天生就是高性能的 代理服务器 。
2. Nginx的模块化设计
高度模块化的设计是 Nginx 的架构基础。 Nginx 服务器被分解为多个模块 ，每个模块就是一个功能模块 ，只负责自身的功能，模块之间严格遵循 “高内聚，低耦合” 的原则。
如下图所示：
2.1. 核心模块
核心模块是 Nginx 服务器正常运行 必不可少的模块，提供错误日志记录 、 配置文件解析 、 事件驱动机制 、 进程管理 等核心功能。
2.2. 标准HTTP模块
标准 HTTP 模块提供 HTTP 协议解析相关的功能，比如： 端口配置 、 网页编码设置 、 HTTP响应头设置 等等。
2.3. 可选HTTP模块
可选 HTTP 模块主要用于 扩展 标准的 HTTP 功能，让 Nginx 能处理一些特殊的服务，比如： Flash 多媒体传输 、解析 GeoIP 请求、 网络传输压缩 、 安全协议 SSL 支持等。
2.4. 邮件服务模块
邮件服务模块主要用于支持 Nginx 的 邮件服务 ，包括对 POP3 协议、 IMAP 协议和 SMTP协议的支持。
2.5. 第三方模块
第三方模块是为了扩展 Nginx 服务器应用，完成开发者自定义功能，比如： Json 支持、 Lua 支持等。
3. Nginx的请求方式处理
Nginx 是一个 高性能 的 Web 服务器，能够同时处理大量的并发请求 。它结合多进程机制和 异步机制 ，异步机制使用的是 异步非阻塞方式 ，接下来就给大家介绍一下 Nginx 的 多线程机制 和 异步非阻塞机制 。
3.1. 多进程机制
服务器每当收到一个客户端时，就有 服务器主进程 （ master process ）生成一个 子进程（ worker process ）出来和客户端建立连接进行交互，直到连接断开，该子进程就结束了。
使用 进程 的好处是 各个进程之间相互独立 ， 不需要加锁 ，减少了使用锁对性能造成影响，同时降低编程的复杂度，降低开发成本。
其次，采用独立的进程，可以让 进程互相之间不会影响 ，如果一个进程发生异常退出时，其它进程正常工作， master 进程则很快启动新的 worker 进程，确保服务不会中断，从而将风险降到最低。
缺点是操作系统生成一个 子进程 需要进行 内存复制 等操作，在 资源 和 时间 上会产生一定的开销。当有 大量请求 时，会导致 系统性能下降 。
3.2. 异步非阻塞机制
每个 工作进程 使用 异步非阻塞方式 ，可以处理多个客户端请求 。
当某个 工作进程 接收到客户端的请求以后，调用 IO 进行处理，如果不能立即得到结果，就去处理其他请求 （即为非阻塞 ），而客户端在此期间也无需等待响应 ，可以去处理其他事情（即为异步 ）
当 IO 返回时，就会通知此工作进程，该进程得到通知，暂时挂起当前处理的事务去 响应客户端请求 。
4. Nginx事件驱动模型
在 Nginx 的 异步非阻塞机制 中， 工作进程在调用 IO 后，就去处理其他的请求，当 IO 调用返回后，会通知该工作进程 。
对于这样的系统调用，主要使用 Nginx 服务器的 事件驱动模型 来实现，如下图所示：
如上图所示， Nginx 的 事件驱动模型 由 事件收集器 、 事件发送器 和 事件处理器 三部分基本单元组成。
-
事件收集器：负责收集 worker 进程的各种 IO 请求；
-
事件发送器：负责将 IO 事件发送到 事件处理器 ；
-
事件处理器：负责各种事件的 响应工作 。
事件发送器将每个请求放入一个 待处理事件列表 ，使用非阻塞 I/O 方式调用 事件处理器来处理该请求。
其处理方式称为 “多路 IO 复用方法” ，常见的包括以下三种： select 模型、 poll模型、 epoll 模型。
5. Nginx进程处理模型
Nginx 服务器使用 master/worker 多进程模式，多线程启动和执行的流程如下：
-
主程序Master process启动后，通过一个 for 循环来接收和处理外部信号
-
主进程通过 fork() 函数产生 worker 子进程 ，每个 子进程 执行一个 for 循环来实现 Nginx 服务器 对事件的接收 和 处理
一般推荐 worker 进程数 与 CPU 内核数 一致，这样一来不存在 大量的子进程 生成和管理任务，避免了进程之间 竞争 CPU 资源 和 进程切换 的开销。
而且 Nginx 为了更好的利用 多核特性 ，提供了 CPU 亲缘性 的绑定选项，我们可以将某 一个进程绑定在某一个核上，这样就不会因为 进程的切换 带来 Cache 的失效。
对于每个请求，有且只有一个 工作进程 对其处理。首先，每个 worker 进程都是从 master进程 fork 过来。在 master 进程里面，先建立好需要 listen 的 socket（listenfd） 之后，然后再 fork 出多个 worker 进程。
所有 worker 进程的 listenfd 会在 新连接 到来时变得 可读 ，为保证只有一个进程处理该连接，所有 worker 进程在注册 listenfd 读事件前抢占 accept_mutex
抢到 互斥锁 的那个进程注册 listenfd 读事件 ，在读事件里调用 accept 接受该连接。
当一个 worker 进程在 accept 这个连接之后，就开始读取请求 ， 解析请求 ， 处理请求，产生数据后，再返回给客户端 ，最后才断开连接 ，一个完整的请求就是这样。
我们可以看到，一个请求，完全由 worker 进程来处理，而且只在一个 worker 进程中处理。
如下图所示：
在 Nginx 服务器的运行过程中， 主进程 和 工作进程 需要进程交互。交互依赖于 Socket 实现的管道来实现。
5.1. 主进程与工作进程交互
这条管道与普通的管道不同，它是由 主进程 指向 工作进程 的单向管道 ，包含主进程向工作进程发出的指令工，作进程 ID 等。同时主进程与外界通过信号通信 ；每个子进程具备接收信号 ，并处理相应的事件的能力。
5.2. 工作进程与工作进程交互
这种交互和 主进程-工作进程 交互基本一致，但是会通过主进程间接完成，工作进程之间是相互隔离的。
所以当工作进程 W1 需要向工作进程 W2 发指令时，首先找到 W2 的 进程ID ，然后将正确的指令写入指向 W2 的 通道，W2 收到信号采取相应的措施。
小结
通过这篇文章，我们对 Nginx 服务器的 整体架构 有了一个整体的认识。包括其 模块化的设计、 多进程 和 异步非阻塞 的请求处理方式、 事件驱动模型 等。
通过这些理论知识，才能更好地领悟 Nginx 的设计思想。对于我们学习 Nginx 来说有很大的帮助。
End
作者： 我最喜欢三大框架
来源：
https://my.oschina.net/u/3906190/blog/1859060
本文版权归作者所有
为您推荐 ：
-
如何设计一个百万级用户的抽奖系统？
-
阿里二面：设计一个电商平台积分兑换系统！
-
扎心一问！你凭什么成为top1%的Java工程师？
-
【干货走一波】千万级用户的大型网站，应该如何设计其高并发架构？
-
PK光明顶？江湖上流传的几大消息队列门派，到底有什么本质区别？
-
扒一扒 JVM 的垃圾回收机制，拿大厂offer少不了它！
-
面试阿里？如果对别人开源的Rocket MQ了如指掌，岂不是很加分？
-
百度、腾讯热门面试题：聊聊Unix与Java的IO模型？（含详细解析）
-
35岁的大龄码农们，如何才能不被社会淘汰掉？
-
一步一图，带你走进Netty的世界！
-
想要去阿里面试？你必须得跨过JVM这道坎！
-
你连Nginx怎么转发给你请求都说不清楚，还好意思说自己不是CRUD工程师？
长按下图二维码，即刻关注【 狸猫技术窝 】
阿里、京东、美团、字节跳动
顶尖技术专家 坐镇
为IT人打造一个 “有温度” 的技术窝！
正文到此结束
- 本文标签： 开发者 代码 美团 进程数 垃圾回收 Lua web 端口 线程 UI IT人 二维码 src IO 本质 并发 java windows 配置 GitHub list cache 工程师 反向代理 目录 unix CDN map 多线程 消息队列 开源 处理器 模型 缓存 linux 协议 负载均衡 安全 Netty json 百度 queue 高并发 Proxy 编译 js 管理 Select 锁 免费 id JVM ssl https 京东 redis 解析 开发 文章 Master Netflix 服务器 git 网站 数据 时间 操作系统 http MQ 架构设计 Nginx ip 进程
- 版权声明： 本文为互联网转载文章，出处已在文章中说明(部分除外)。如果侵权，请联系本站长删除，谢谢。
- 本文海报： 生成海报一 生成海报二
热门推荐
相关文章
近期评论
-
文章和留言都翻到11页了 没有OOM
-
-
朋友，翻页到11页，及以后，会出现OOM，无法访问
-
-
搞个gitee的项目
-
-
版本号是多少，你可以下载哪个代码仓库，jdk选1.8 直接跑就行
-
-
-
Loading...
![[HBLOG]公众号](https://www.liuhaihua.cn/img/qrcode_gzh.jpg)
