作为应用服务器,Tomcat的首要功能是实现Servlet规范,以及支持动态部署。为了提升性能,Tomcat提供可选的NIO型连接器组件。

1. 组件架构

Tomcat的核心是ConnectorContainerConnector负责建立Socket连接,Container就是Servlet容器。

HttpConnector负责建立Socket连接,然后对每个Http请求,都实例化一个HttpProcessor,负责生成RequestReponse实例,然后调用Containerinvoke方法。

一共有四种Container,分别为EngineHostContextWrapperWrapper是对Servlet的封装,Context表示一个应用程序,Host表示一个虚拟主机,Engine表示整个TomcatServlet容器。

Container使用Pipeline/Volve模型,VolvePipeline串行执行。每个Pipeline都有一个base volve,一般执行容器的主体任务,例如Wrapperbase volve分配Servlet,然后调用Servletservice方法。Pipeline/Volve模型可按需添加附加Volve,例如在Context中添加Authenticator volve,在调用Servlet之前,先做安全验证。

一个Service是多个Connector和一个Container的聚合。一个Service可以设置一个Container;同时可添加多个Connector,多个Connector服务于一个Container,例如可分别添加用于httphttps的连接器。

Server提供了统一启动和停止Service的接口。

Catalina用于启动或关闭Server对象,并负责解析Tomcat配置文件server.xml

Bootstrap提供了多种Tomcat运行模式,例如作为一个独立程序,或者作为一个Windows service

 

2. 并发模型

TomcatServlet容器必然是多线程的,每个请求一个线程,因为Servlet在处理请求时可能阻塞(如查询数据库等IO动作)。在经典实现中,HttpConnetor就是一个SocketServer监听器,HttpProcessor是一个封装了线程的主动类,每个实例运行于自己的Thread。为了提升性能,Tomcat用一个Stack来管理HttpProcessor对象池,每个HttpProcessor实例构建后放置于Stack中,并处于wait状态。当一个连接到来时,HttpConnector从对象池分配一个HttpProcessor对象,将socket传给它,然后notify它,使它运行。 

Tomcat支持BIONIO模式,可配置为BIONIOAPR连接器。一般来说NIO是提升并发性能的有效手段。NIO提升性能的本质,是采用事件方式代替多线程来做并发处理,减少线程切换开销。Tomcat是应用服务器,Servlet容器天然是多线程的,所以不能搞成纯事件并发方式。如果采用NIO方式,一个请求处理的某些部分,以事件方式执行,另一些部分以线程方式执行。对比BIONIO方式可以降低请求以线程方式执行的时间。这样,对于轻量级的应用,如果socket IO处理占了可观的时间占比,NIO对性能的提升可能比较可观。但对于重量级应用,由于瓶颈主要在应用逻辑,socketIO占时很少的话,NIO对性能的提升就不明显了。

 

如果有多个ConnectorTomcat还可以配置让这些Connector共享线程池。这是一种在内存和性能之间的权衡。共享线程池肯定会损耗性能,但内存利用率提高。

3. 动态部署

Tomcat在运行时载入应用。为了在载入时制定某些规则(如限制特定的目录)、预载入、缓存载入的的类,以及不同于JVM的类载入器代理模型,Tomcat使用自定义的载入器。 

为了实现在运行时部署应用,以及更新已部署的应用。Tomcat运行一个后台线程,周期性检查资源文件的时间戳,如果资源有更新,则在下次请求时,重新载入类,而不是使用现有的缓存。