不同的线程模型对程序的性能有很大的影响,Netty是建立在Reactor模型的基础上,要搞清Netty的线程模型,需要了解一目前常见线程模型的一些概念。
具体是进程还是线程,是和平台或者编程语言相关,本文为了描述方便,以线程描述。
目前存在的线程模型有:
采用阻塞IO模型获取输入的数据。 每个连接需要独立的完成数据的输入,业务的处理,数据返回。
当并发数大的时候,会创建大量的线程,占用系统资源,如果连接创建后,当前线程没有数据可读,会阻塞,造成线程资源浪费。
IO多路复用 + 线程池 = Reactor模型
根据Reactor的数量和处理线程的数量,Reactor模型分为三类:
下面分别描述。
图中:
建立连接
这种模型,在客户端数量过多时,会无法支撑。因为只有一个线程,无法发挥多核CPU性能,且Handler处理某个连接的业务时,服务端无法处理其他连接事件。
以前在学习Redis原理的时候,发现它内部就是这种模型: 深入了解Redis【十二】Reactor事件模型在Redis中的应用
图中多线程体现在两个部分:
Reactor通过select监听客户请求,如果是 连接请求
事件,则由Acceptor处理连接,如果是其他请求,则由dispatch找到对应的Handler,这里的Handler只负责响应事件,读取和响应,会将具体的业务处理交由Worker线程池处理。
Worker线程池会分配独立线程完成真正的业务,并将结果返回给Handler,Handler收到响应后,通过send将结果返回给客户端。
这里Reactor处理所有的事件监听和响应,高并发情景下容易出现性能瓶颈。
这种模式是对单Reactor的改进,由原来单Reactor改成了Reactor主线程与Reactor子线程。
连接事件
这种优点多多,各个模块各司其职,缺点就是实现复杂。
Proactor模型在理论上是比Reactor模型性能更好,但是因为依赖于操作系统的非阻塞异步模型,而linux的非阻塞异步模型还不完善,所以还是以Reactor为主。
在学习这一部分知识的时候,想到redis中Reactor的应用,又想到了以前分析Tomcat源码时,其内部就是这种Reactor的思想。
突然感觉被我发现了一个天大的秘密:技术原理是通用的!
Netty 系列之 Netty 线程模型
理解高性能网络模型