作为应用服务器,Tomcat的首要功能是实现Servlet规范,以及支持动态部署。为了提升性能,Tomcat提供可选的NIO型连接器组件。
1. 组件架构
l Tomcat的核心是Connector和Container。Connector负责建立Socket连接,Container就是Servlet容器。
l HttpConnector负责建立Socket连接,然后对每个Http请求,都实例化一个HttpProcessor,负责生成Request和Reponse实例,然后调用Container的invoke方法。
l 一共有四种Container,分别为Engine,Host,Context,Wrapper。Wrapper是对Servlet的封装,Context表示一个应用程序,Host表示一个虚拟主机,Engine表示整个Tomcat的Servlet容器。
l Container使用Pipeline/Volve模型,Volve在Pipeline串行执行。每个Pipeline都有一个base volve,一般执行容器的主体任务,例如Wrapper的base volve分配Servlet,然后调用Servlet的service方法。Pipeline/Volve模型可按需添加附加Volve,例如在Context中添加Authenticator volve,在调用Servlet之前,先做安全验证。
l 一个Service是多个Connector和一个Container的聚合。一个Service可以设置一个Container;同时可添加多个Connector,多个Connector服务于一个Container,例如可分别添加用于http和https的连接器。
l Server提供了统一启动和停止Service的接口。
l Catalina用于启动或关闭Server对象,并负责解析Tomcat配置文件server.xml。
l Bootstrap提供了多种Tomcat运行模式,例如作为一个独立程序,或者作为一个Windows service。
2. 并发模型
Tomcat的Servlet容器必然是多线程的,每个请求一个线程,因为Servlet在处理请求时可能阻塞(如查询数据库等IO动作)。在经典实现中,HttpConnetor就是一个SocketServer监听器,HttpProcessor是一个封装了线程的主动类,每个实例运行于自己的Thread。为了提升性能,Tomcat用一个Stack来管理HttpProcessor对象池,每个HttpProcessor实例构建后放置于Stack中,并处于wait状态。当一个连接到来时,HttpConnector从对象池分配一个HttpProcessor对象,将socket传给它,然后notify它,使它运行。
Tomcat支持BIO和NIO模式,可配置为BIO、NIO、APR连接器。一般来说NIO是提升并发性能的有效手段。NIO提升性能的本质,是采用事件方式代替多线程来做并发处理,减少线程切换开销。Tomcat是应用服务器,Servlet容器天然是多线程的,所以不能搞成纯事件并发方式。如果采用NIO方式,一个请求处理的某些部分,以事件方式执行,另一些部分以线程方式执行。对比BIO,NIO方式可以降低请求以线程方式执行的时间。这样,对于轻量级的应用,如果socket IO处理占了可观的时间占比,NIO对性能的提升可能比较可观。但对于重量级应用,由于瓶颈主要在应用逻辑,socketIO占时很少的话,NIO对性能的提升就不明显了。
如果有多个Connector,Tomcat还可以配置让这些Connector共享线程池。这是一种在内存和性能之间的权衡。共享线程池肯定会损耗性能,但内存利用率提高。
3. 动态部署
Tomcat在运行时载入应用。为了在载入时制定某些规则(如限制特定的目录)、预载入、缓存载入的的类,以及不同于JVM的类载入器代理模型,Tomcat使用自定义的载入器。
为了实现在运行时部署应用,以及更新已部署的应用。Tomcat运行一个后台线程,周期性检查资源文件的时间戳,如果资源有更新,则在下次请求时,重新载入类,而不是使用现有的缓存。