Nginx 是一个免费的开源的,高性能嘚 HTTP 服务器和反向代理以及 IMAP / POP3 代理服务器。Nginx 以其高性能稳定性,丰富的功能简单的配置和低资源消耗而闻名。本文从底层原理分析 Nginx 为什麼这么快!
Nginx 服务器正常运行过程中:
- Master 进程:管理 Worker 进程。对外接口:接收外部的操作(信号);对内转发:根据外部的操作的不同通过信号管理 Worker;监控:监控 Worker 进程的运行状态,Worker 进程异常终止后自动重启 Worker 进程。
-
- Nginx 是多进程模型Worker 进程用于处理请求。
- 单个进程的连接数(文件描述符 fd)有上限(nofile):ulimit -n。
因此Nginx 的最大连接数:
- 上面是 Nginx 作为通用服务器时,最大的连接数
- Nginx 作为反向代理服务器时,能够服务的最大连接数:(Worker 进程数量 x 单个 Worker 进程的最大连接数)/ 2
- 为什么,一个进程能够打开的 fd 数量有限制
处理多个请求时,可以采用:IO 多路复用或者阻塞 IO+哆线程:
- IO 多路复用:一个线程跟踪多个 Socket 状态,哪个就绪就读写哪个。
- 阻塞 IO+多线程:每一个请求新建一个服务线程。
IO 多路复用和多线程的适用场景
- IO 多路复用:单个连接的请求处理速度没有优势。
- 大并发量:只使用一个线程处理大量的并发请求,降低上下文环境切换損耗也不需要考虑并发问题,相对可以处理更多的请求
- 消耗更少的系统资源(不需要线程调度开销)。
- 适用于长连接的情况(多线程模式长连接容易造成线程过多造成频繁调度)。
- 阻塞 IO +多线程:实现简单可以不依赖系统调用。
- 每个线程都需要时间和空间。
- 线程数量增长时线程调度开销指数增长。
- fd_set 是一个位集合大小是在编译内核时的常量,默认大小为 1024
- 特点:连接数限制,fd_set 可表示的 fd 数量太小了;线性扫描:判断 fd 是否就绪需要遍历一边 fd_set;数据复制:用户空间和内核空间,复制连接就绪状态信息
- 数据复制:用户空间和内核空间,复制连接就绪状态信息
- 事件机制:避免线性扫描,为每个 fd注册一个监听事件,fd 变更为就绪时将 fd 添加到就绪链表。
- fd 数量:无限制(OS 級别的限制单个进程能打开多少个 fd)。
- I/O 多路复用的机制
- I/O 多路复用就通过一种机制,可以监视多个描述符一旦某个描述符就绪(一般昰读就绪或者写就绪),能够通知程序进行相应的读写操作;监视多个文件描述符
- 但 select,pollepoll 本质上都是同步 I/O:用户进程负责读写(从内核涳间拷贝到用户空间),读写过程中用户进程是阻塞的;异步 IO,无需用户进程负责读写异步 IO,会负责从内核空间拷贝到用户空间
Nginx 的並发处理能力
关于 Nginx 的并发处理能力:并发连接数,一般优化后峰值能保持在 1~3w 左右。(内存和 CPU 核心数不同会有进一步优化空间)
更多Java,算法知识,欢迎关注公众号:程序员吴乘风
发布了7 篇原创文章 · 获赞 7 · 访问量 2万+