如何理解Tomcat高并发之连接池、线程池

本篇内容介绍了“如何理解Tomcat高并发之连接池、线程池”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！

在大悟等地区，都构建了全面的区域性战略布局，加强发展的系统性、市场前瞻性、产品创新能力，以专注、极致的服务理念，为客户提供网站建设、网站设计 网站设计制作按需开发网站,公司网站建设,企业网站建设,成都品牌网站建设,全网营销推广,成都外贸网站建设,大悟网站建设费用合理。

1

Tomcat处理用户请求的入口组件叫做Connector，其有两个主要的实现：BIO（blocking io）和NIO（non-blocking io）。

简单讲，BIO的实现就是对上面多线程版本的一个改进，主要点在于把“每来一个连接启动一个线程处理”改成“每来一个连接都提交给线程池处理”。虽然线程池根据不同的配置，其工作行为会有所不同，但一般来讲，使用线程池的原则是：只需创建少量的线程就可以完成大量任务的执行，由于同时至多只有固定量的线程执行，剩余的任务会被放进queue里面缓冲起来，从这个角度看，这是一个典型的生产者-消费者模型。回到tomcat BIO，acceptor不断的接收连接，然后提交给线程池执行，acceptor就是生产者；线程池的每一个线程就是消费者，负责处理请求。

由于socket连接是长连接，连接的创建销毁也是很耗资源的，于是http协议增加了一个keep-alive header，这个header的意思是提示服务器端，在返回http response之后，不要断开socket，继续处理后续http请求，这样做的目的就是为了提高资源的可重用性。那么，对于tomcat BIO的实现，在keep-alive场景下，会有什么问题呢？如果一个线程处理的socket需要保持keep-alive，其在执行完一个http请求之后，需要阻塞在那里以等待下一个http请求，不能马上结束（直到timeout）；在某些情况下，这样就可能存在大量的阻塞线程，新的连接不能被处理。

基于此，NIO就可以解决这个问题。NIO和BIO在请求处理部分的实现是一致的，都是基于线程池；不同的地方是：NIO的acceptor基于jdk nio实现，在收到一个连接之后，会把socketChannel注册到poller的selector上面，当socketChannel有数据可读时，poller就把此连接提交给线程池处理。回到上面keep-alive的场景，当一个线程处理完一个http请求之后，就可以马上结束，当前连接则回到selector继续监听接下来的http请求。所以，基于NIO的执行线程就不会出现基于BIO的阻塞情况。

NIO的核心在于selector，selector可以识别到已经ready的连接和没有ready的连接；在之前的一篇多线程文章（对比Java和.NET多线程编程）里面提到过，jdk的concurrency API有一个CompletionService类，就有点类似于nio的原理。

由于NIO天生的优势，tomcat从8.0版本开始就把NIO设成默认的Connector，而从8.5版本开始直接就把BIO去掉了。

2

在tomcat的官网有下面一段关于如何高并发处理请求的描述：

Each incoming request requires a thread for the duration of that request. If more simultaneous requests are received than can be handled by the currently available request processing threads, additional threads will be created up to the configured maximum (the value of the maxThreads attribute). If still more simultaneous requests are received, they are stacked up inside the server socket created by the Connector, up to the configured maximum (the value of the acceptCount attribute). Any further simultaneous requests will receive "connection refused" errors, until resources are available to process them.

- https://tomcat.apache.org/tomcat-7.0-doc/config/http.html

个人觉得其没有反映出maxConnections这个参数的作用，所以应该是：如果maxConnections小于maxThreads，最大创建的线程数就是maxConnections的值，最大连接数也是maxConnections的值；但是如果maxConnections大于maxThreads，最大创建的线程数就是maxThreads的值，最大连接数则是maxConnections的值。

由于BIO和NIO底层实现的区别，配置maxConnections的值也需要区别考虑，这在maxConnections的默认值中就有所体现（对于BIO，maxConnections的默认值是maxThreads的值；而对于NIO，maxConnections的默认值则是10000）：

3

上面有提到，tomcat接收处理请求的过程其实就是一个生产者-消费者模型，影响tomcat高并发的配置也可以首先分别从这两个方面考虑：

生产者

消费者

Queue

4

小结一下：

• 线程池的本质就是节省了不断创建销毁线程的开销；加上queue的使用，增加了一层缓冲，一定程度缓解了计算机的压力。当然线程池的配置，需要根据要处理的任务（CPU密集型还是io密集型）来仔细的考虑。

• Tomcat里面BIO和NIO的最大区别在于读取下一个请求时是否需要阻塞，这对于keep-alive的场景尤其重要，NIO可以大大提高吞吐量。

• 基于queue的生成者-消费者模型，也常常应用在系统架构层面，以缓冲生产者和消费者之间处理速度的gap，比如秒杀系统。

“如何理解Tomcat高并发之连接池、线程池”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站，小编将为大家输出更多高质量的实用文章！