第五章：Tomcat 高级特性

文档摘要

第五章：Tomcat 高级特性第五章：Tomcat 高级特性 5.1 Tomcat 集群与负载均衡随着 Web 应用访问量的增长，单台 Tomcat 服务器可能无法满足性能需求。为了提高应用的可用性和扩展性，Tomcat 提供了集群（Clustering）功能，配合负载均衡器，可以将请求分发到多台 Tomcat 服务器上，实现高可用和负载分担。 5.1.1 集群概述 Tomcat 集群的核心思想是将多个 Tomcat 实例组成一个逻辑上的整体，对外提供统一的服务入口。当用户请求到达时，负载均衡器会根据一定的策略将请求分发到集群中的某一台 Tomcat 服务器进行处理。

第五章：Tomcat 高级特性

5.1 Tomcat 集群与负载均衡

随着 Web 应用访问量的增长，单台 Tomcat 服务器可能无法满足性能需求。为了提高应用的可用性和扩展性，Tomcat 提供了集群（Clustering）功能，配合负载均衡器，可以将请求分发到多台 Tomcat 服务器上，实现高可用和负载分担。

5.1.1 集群概述

Tomcat 集群的核心思想是将多个 Tomcat 实例组成一个逻辑上的整体，对外提供统一的服务入口。当用户请求到达时，负载均衡器会根据一定的策略将请求分发到集群中的某一台 Tomcat 服务器进行处理。

集群主要解决以下问题：

高可用性 (High Availability): 当集群中的某一台 Tomcat 服务器发生故障时，负载均衡器可以将请求转发到其他正常的服务器，保证应用持续可用。
负载均衡 (Load Balancing): 将用户请求均匀地分发到多台服务器上，避免单台服务器压力过大，提高整体性能和响应速度。
会话复制 (Session Replication): 在集群环境中，用户的会话信息需要在多台服务器之间共享，以保证用户在访问过程中切换服务器时会话状态不会丢失。

5.1.2 Tomcat 集群配置

Tomcat 集群的配置主要涉及以下几个方面：

启用集群功能: 在 server.xml 文件中配置 <Cluster> 元素，启用 Tomcat 的集群功能。
配置集群成员: 指定集群中各个 Tomcat 实例的地址和端口信息，以便集群成员之间可以相互发现和通信。
配置会话管理器 (Session Manager): 选择合适的会话管理器，配置会话复制的方式，例如内存复制、JDBC 存储等。
配置负载均衡器: 在 Tomcat 集群前端部署负载均衡器，例如 Apache HTTP Server、Nginx 等，将用户请求分发到集群中的 Tomcat 服务器。

server.xml 集群配置示例:


<Cluster className="org.apache.catalina.cluster.tcp.SimpleTcpCluster"
         channelSendOptions="8">
    <Manager className="org.apache.catalina.ha.session.DeltaManager"
             expireSessionsOnShutdown="false"
             notifyListenersOnReplication="true"/>
    <Channel className="org.apache.catalina.tribes.group.GroupChannel">
        <Membership className="org.apache.catalina.tribes.membership.McastService"
                    address="228.0.0.4"
                    port="45564"
                    frequency="500"
                    dropTime="3000"/>
        <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
                  address="auto"
                  port="4000"
                  autoBind="100"
                  selectorTimeout="5000"
                  maxThreads="6"/>
        <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
            <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelNioSender"/>
        </Sender>
        <Interceptor className="org.apache.catalina.tribes.group.TcpFailureDetector"/>
        <Interceptor className="org.apache.catalina.tribes.group.MessageDispatch15Interceptor"/>
    </Channel>
    <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
           filter=""/>
    <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>
    <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"
              tempDir="/tmp/war-temp/"
              deployDir="/tmp/war-deploy/"
              watchDir="/tmp/war-listen/"
              watchEnabled="false"/>
    <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>

配置详解:

<Cluster className="org.apache.catalina.cluster.tcp.SimpleTcpCluster">: 指定集群的实现类，SimpleTcpCluster 是基于 TCP 的简单集群实现。
<Manager className="org.apache.catalina.ha.session.DeltaManager">: 配置会话管理器，DeltaManager 采用 Delta 会话复制策略，只复制会话的差异部分，效率较高。
<Channel>: 配置集群通信通道，定义了集群成员发现、消息传输等机制。
- <Membership className="org.apache.catalina.tribes.membership.McastService">: 使用多播 (Multicast) 方式进行集群成员发现。
- <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver">: 配置 NIO 接收器，用于接收集群消息。
- <Sender>: 配置消息发送器。
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve">: 复制阀，用于在请求处理完成后触发会话复制。
<Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve">: JvmRoute 绑定阀，用于将请求绑定到特定的 Tomcat 实例，实现粘性会话 (Sticky Session)。
<Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer">: Farm WAR 部署器，用于在集群中自动同步 Web 应用。
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener">: 集群会话监听器，用于监听集群会话事件。

会话复制策略:

Tomcat 提供了多种会话复制策略，常用的有：

DeltaManager: 只复制会话的差异部分，效率较高，适用于会话数据量较小的场景。
BackupManager: 复制整个会话，可靠性较高，但效率较低，适用于会话数据量较大且对可靠性要求较高的场景。
JDBCStore: 将会话数据存储到数据库中，可以实现跨集群的会话共享，但性能相对较低。
PersistentManager: 将会话数据持久化到文件系统中，适用于单机多实例的场景。

负载均衡器配置:

负载均衡器负责将用户请求分发到集群中的 Tomcat 服务器。常见的负载均衡器有：

Apache HTTP Server (mod_proxy_balancer): Apache HTTP Server 可以通过 mod_proxy_balancer 模块配置为 Tomcat 集群的负载均衡器。
Nginx: Nginx 可以通过 upstream 模块配置为 Tomcat 集群的负载均衡器，性能优秀，配置灵活。
HAProxy: HAProxy 是一款专业的负载均衡器，功能强大，性能出色，适用于大型 Web 应用集群。
硬件负载均衡器 (如 F5, Citrix NetScaler): 硬件负载均衡器性能更高，功能更丰富，但成本也较高。

负载均衡策略:

负载均衡器通常提供多种负载均衡策略，常用的有：

轮询 (Round Robin): 将请求依次分发到集群中的每台服务器。
加权轮询 (Weighted Round Robin): 根据服务器的性能配置权重，将请求按权重比例分发。
IP Hash: 根据客户端 IP 地址的 Hash 值将请求分发到同一台服务器，实现会话粘性。
最少连接 (Least Connections): 将请求分发到当前连接数最少的服务器。
响应时间 (Response Time): 将请求分发到响应时间最短的服务器。

Mermaid Graph TD 图 - Tomcat 集群架构:

代码实践 - Nginx 负载均衡 Tomcat 集群:

配置 Tomcat 集群 (如上 server.xml 示例).
安装 Nginx.
配置 Nginx 反向代理和负载均衡:


upstream tomcat_cluster {
    server tomcat1_ip:8080;
    server tomcat2_ip:8080;
    server tomcat3_ip:8080;
}
server {
    listen 80;
    server_name your_domain.com;
    location / {
        proxy_pass http://tomcat_cluster;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    }
}

配置详解:

upstream tomcat_cluster { ... }: 定义一个名为 tomcat_cluster 的 upstream，包含 Tomcat 集群中所有服务器的地址和端口。
server { ... }: 定义 Nginx 服务器配置。
- listen 80;: 监听 80 端口。
- server_name your_domain.com;: 配置域名。
- location / { ... }: 匹配所有请求路径。
  - proxy_pass http://tomcat_cluster;: 将请求反向代理到 tomcat_cluster upstream。
  - proxy_set_header ...: 设置请求头，传递客户端信息给 Tomcat 服务器。

5.1.3 集群注意事项

时钟同步: 集群中所有 Tomcat 服务器的时钟必须保持同步，否则可能导致会话复制和集群管理问题。
网络延迟: 集群成员之间的网络延迟会影响会话复制的性能，建议集群服务器部署在同一机房，并使用高速网络连接。
会话大小: 会话数据量过大会影响会话复制的性能，应尽量减少会话中存储的数据量。
测试和监控: 集群部署完成后需要进行充分的测试，并配置监控系统，实时监控集群的运行状态和性能指标。

5.2 Tomcat 安全配置

Web 应用的安全性至关重要，Tomcat 提供了丰富的安全配置选项，可以帮助开发者构建安全的 Web 应用环境。

5.2.1 SSL/TLS 配置

SSL/TLS (Secure Sockets Layer/Transport Layer Security) 协议用于加密 Web 应用与客户端之间的通信，防止数据被窃听或篡改。

配置步骤:

生成密钥库 (Keystore): 使用 keytool 工具生成密钥库文件，包含服务器的私钥和证书。
```
keytool -genkeypair -alias tomcat -keyalg RSA -keystore tomcat.keystore -validity 3650
```
按照提示输入密钥库密码、服务器信息等。

配置 Connector: 在 server.xml 文件中配置 HTTPS Connector，指定密钥库文件路径、密码等信息。


<Connector port="8443" protocol="org.apache.coyote.http11.Http11NioProtocol"
           SSLEnabled="true"
           maxThreads="150" scheme="https" secure="true"
           clientAuth="false" sslProtocol="TLS"
           keystoreFile="/path/to/tomcat.keystore"
           keystorePass="your_keystore_password"
           keystoreType="JKS"/>

配置详解:

port="8443": HTTPS Connector 监听端口，通常为 8443。
SSLEnabled="true": 启用 SSL/TLS。
scheme="https": 指定协议为 HTTPS。
secure="true": 标记连接为安全连接。
clientAuth="false": 禁用客户端证书认证 (可选)。
sslProtocol="TLS": 指定 SSL/TLS 协议版本，推荐使用 TLS。
keystoreFile="/path/to/tomcat.keystore": 密钥库文件路径，替换为实际路径。
keystorePass="your_keystore_password": 密钥库密码，替换为实际密码。
keystoreType="JKS": 密钥库类型，JKS 是 Java Keystore 的标准类型。

Mermaid Graph TD 图 - SSL/TLS 连接:

5.2.2 安全域 (Security Realms)

Tomcat 安全域用于管理用户身份验证和授权。Tomcat 提供了多种安全域实现，例如：

UserDatabaseRealm: 基于 tomcat-users.xml 文件的用户数据库安全域，适用于简单的用户管理。
JDBCRealm: 基于 JDBC 数据源的用户数据库安全域，用户数据存储在关系型数据库中。
DataSourceRealm: 基于 JNDI 数据源的用户数据库安全域，用户数据存储在 JNDI 数据源中。
JNDIRealm: 基于 JNDI 目录服务的安全域，用户数据存储在 LDAP 或 Active Directory 等目录服务中。
MemoryRealm: 基于内存的用户数据库安全域，用户数据存储在内存中，不持久化，仅适用于测试环境。

配置 JDBCRealm 示例:

配置数据源: 在 context.xml 文件或 server.xml 文件中配置 JDBC 数据源。


<Resource name="jdbc/UserDatabase" auth="Container"
          type="javax.sql.DataSource" driverClassName="com.mysql.cj.jdbc.Driver"
          url="jdbc:mysql://localhost:3306/userdb?serverTimezone=UTC"
          username="dbuser" password="dbpassword"
          maxActive="20" maxIdle="10" maxWait="-1"/>

配置 JDBCRealm: 在 server.xml 文件中配置 JDBCRealm，指定数据源名称、用户表、角色表、用户名列、密码列、角色名列等信息.


<Realm className="org.apache.catalina.realm.JDBCRealm"
       dataSourceName="jdbc/UserDatabase"
       userTable="users" userNameCol="username" userCredCol="password"
       userRolesTable="user_roles" roleNameCol="role_name"/>

配置安全约束: 在 web.xml 文件中配置安全约束，定义受保护的资源和允许访问的角色。


<security-constraint>
    <web-resource-collection>
        <web-resource-name>Protected Area</web-resource-name>
        <url-pattern>/admin/*</url-pattern>
    </web-resource-collection>
    <auth-constraint>
        <role-name>admin</role-name>
    </auth-constraint>
    <user-data-constraint>
        <transport-guarantee>CONFIDENTIAL</transport-guarantee>
    </user-data-constraint>
</security-constraint>
<login-config>
    <auth-method>BASIC</auth-method>
    <realm-name>UserDatabaseRealm</realm-name>
</login-config>
<security-role>
    <role-name>admin</role-name>
</security-role>

配置详解:

<security-constraint>: 定义安全约束。
- <web-resource-collection>: 定义受保护的 Web 资源集合。
  - <url-pattern>/admin/*</url-pattern>: 指定受保护的 URL 模式，/admin/* 表示所有以 /admin/ 开头的 URL。
- <auth-constraint>: 定义授权约束，指定允许访问的角色。
  - <role-name>admin</role-name>: 只允许具有 admin 角色的用户访问。
- <user-data-constraint>: 定义用户数据约束。
  - <transport-guarantee>CONFIDENTIAL</transport-guarantee>: 要求使用加密连接 (HTTPS)。
<login-config>: 定义登录配置。
- <auth-method>BASIC</auth-method>: 指定身份验证方法为 BASIC 身份验证。
- <realm-name>UserDatabaseRealm</realm-name>: 指定使用的安全域名称。
<security-role>: 定义安全角色。
- <role-name>admin</role-name>: 定义 admin 角色。

Mermaid Graph TD 图 - JDBCRealm 身份验证流程:

5.2.3 Valve 安全阀

Tomcat Valve (阀) 是 Tomcat 请求处理管道中的组件，可以拦截和处理请求。Tomcat 提供了多种安全阀，可以用于实现更细粒度的安全控制。

常用的安全阀:

RemoteHostValve: 基于客户端主机名或 IP 地址的访问控制。
RemoteAddrValve: 基于客户端 IP 地址的访问控制。
RequestFilterValve: 基于请求属性 (例如 URI, User Agent) 的访问控制。
JASASecurityValve: 集成 Java Authentication Service for Containers (JAS) 的安全阀，用于实现基于标准 Java EE 安全 API 的身份验证和授权。

配置 RemoteAddrValve 示例:

在 context.xml 或 server.xml 文件中配置 RemoteAddrValve，限制只允许特定 IP 地址访问。


<Valve className="org.apache.catalina.valves.RemoteAddrValve"
       allow="127\.0\.0\.1|192\.168\.1\.\d+"/>

配置详解:

className="org.apache.catalina.valves.RemoteAddrValve": 指定阀的实现类为 RemoteAddrValve。
allow="127\.0\.0\.1|192\.168\.1\.\d+": 配置允许访问的 IP 地址正则表达式，127\.0\.0\.1 和 192.168.1.0/24 网段的 IP 地址允许访问。

Mermaid Graph TD 图 - Valve 请求处理流程:

5.3 Tomcat 性能调优

Tomcat 的性能直接影响 Web 应用的响应速度和吞吐量。合理的性能调优可以显著提升 Tomcat 的性能。

5.3.1 连接器 (Connector) 调优

Connector 负责接收客户端请求并将其传递给 Tomcat 容器。Connector 的配置对性能影响很大。

关键配置参数:

protocol: 选择合适的协议，org.apache.coyote.http11.Http11NioProtocol (NIO) 和 org.apache.coyote.http11.Http11AprProtocol (APR) 通常比 org.apache.coyote.http11.Http11Protocol (BIO) 性能更好，尤其在高并发场景下。APR 需要安装 Tomcat Native 库。
maxThreads: Connector 线程池的最大线程数，决定了 Connector 可以同时处理的最大并发请求数。根据应用负载调整，过小会限制并发，过大会消耗系统资源。
acceptCount: Connector 接收队列的最大长度，当所有线程都在忙碌时，新请求会被放入接收队列。队列满后，新请求会被拒绝。根据应用负载调整，过小可能导致请求被拒绝，过大会增加请求等待时间。
connectionTimeout: 连接超时时间，单位毫秒。客户端建立连接后，如果在指定时间内没有发送请求，连接会被关闭。
maxKeepAliveRequests: Keep-Alive 连接允许在一个 TCP 连接上发送多个 HTTP 请求，提高性能。maxKeepAliveRequests 限制了在一个 Keep-Alive 连接上可以发送的最大请求数。设置为 -1 表示不限制。
disableUploadTimeout: 禁用上传超时，防止上传大文件时连接超时。
enableLookups: 禁用 DNS 反向查找，提高性能，但会丢失客户端主机名信息。

server.xml Connector 调优示例:


<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
           connectionTimeout="20000"
           redirectPort="8443"
           maxThreads="200"
           acceptCount="100"
           maxKeepAliveRequests="-1"
           disableUploadTimeout="true"
           enableLookups="false"/>

5.3.2 JVM 调优

Tomcat 运行在 JVM 之上，JVM 的配置对 Tomcat 性能影响很大。

关键 JVM 调优参数:

堆内存 (Heap Size): -Xms (初始堆大小), -Xmx (最大堆大小)。根据应用负载调整堆内存大小，过小会导致频繁 GC，过大会浪费内存。通常建议 -Xms 和 -Xmx 设置为相同值，避免 JVM 动态调整堆大小的开销。
新生代和老年代比例: -XX:NewRatio (新生代与老年代比例), -XX:NewSize, -XX:MaxNewSize (新生代大小)。新生代用于存放新创建的对象，老年代用于存放存活时间较长的对象。根据应用的对象生命周期特点调整新生代和老年代比例。
GC 算法: -XX:+UseG1GC (G1 垃圾收集器), -XX:+UseConcMarkSweepGC (CMS 垃圾收集器), -XX:+UseParallelGC (Parallel GC 垃圾收集器)。选择合适的 GC 算法，G1 垃圾收集器适用于大堆内存和低延迟场景，CMS 垃圾收集器适用于低延迟场景，Parallel GC 垃圾收集器适用于高吞吐量场景。
PermGen/Metaspace 大小: -XX:MaxPermSize (PermGen 最大大小，JDK 8 之前), -XX:MaxMetaspaceSize (Metaspace 最大大小，JDK 8 之后)。PermGen/Metaspace 用于存放类元数据、方法区等信息。根据应用的类加载情况调整大小，过小会导致 OutOfMemoryError: PermGen space 或 OutOfMemoryError: Metaspace 错误。
线程栈大小: -Xss (线程栈大小)。根据应用的线程栈深度调整线程栈大小，过小会导致 StackOverflowError 错误。

Tomcat catalina.sh 或 setenv.sh JVM 参数配置示例:


CATALINA_OPTS="-server -Xms2g -Xmx2g -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=256m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:GCTimeRatio=4 -XX:InitiatingHeapOccupancyPercent=70 -XX:+DisableExplicitGC"

5.3.3 Web 应用优化

Web 应用自身的代码质量和设计也会影响 Tomcat 的性能。

Web 应用优化建议:

减少 HTTP 请求: 合并 CSS 和 JavaScript 文件，使用 CSS Sprites 减少图片请求，合理使用浏览器缓存。
优化数据库访问: 使用连接池，优化 SQL 查询，使用数据库缓存。
使用缓存: 使用 ServletContext 缓存、HttpSession 缓存、Memcached 或 Redis 等外部缓存。
异步处理: 使用异步 Servlet 或异步框架 (例如 Spring WebFlux) 处理耗时操作，避免阻塞 Tomcat 线程。
Gzip 压缩: 启用 Gzip 压缩，减小响应体大小，提高传输速度。Tomcat Connector 可以配置 compression="on" 启用 Gzip 压缩。
静态资源优化: 配置 Tomcat 静态资源缓存，或者使用 CDN 加速静态资源访问。

5.4 Tomcat 监控与管理

监控 Tomcat 的运行状态和性能指标，可以及时发现和解决问题，保证 Web 应用的稳定运行。

5.4.1 JMX 监控

Tomcat 通过 JMX (Java Management Extensions) 暴露了大量的 MBean (Managed Bean)，可以用于监控 Tomcat 的各种指标，例如线程池状态、内存使用情况、Session 数量、请求处理时间等。

使用 JConsole 或 VisualVM 连接 Tomcat JMX 端口进行监控:

启用 JMX 远程监控: 在 Tomcat catalina.sh 或 setenv.sh 文件中配置 JMX 远程监控参数。


CATALINA_OPTS="$CATALINA_OPTS -Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=9010
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false"

使用 JConsole 或 VisualVM 连接 Tomcat JMX 端口 (例如 localhost:9010).

常用的 JMX MBean:

Catalina:type=ThreadPool,name="http-nio-8080": HTTP Connector 线程池 MBean，监控线程池状态，例如 maxThreads, currentThreadCount, currentThreadsBusy 等。
java.lang:type=Memory: JVM 内存 MBean，监控内存使用情况，例如堆内存、非堆内存、GC 次数、GC 时间等。
Catalina:type=GlobalRequestProcessor,name="http-nio-8080": 全局请求处理器 MBean，监控请求处理情况，例如 requestCount, errorCount, processingTime 等。
Catalina:type=Manager,context=/your_webapp,host=localhost: Session 管理器 MBean，监控 Session 数量、活跃 Session 数量、Session 创建和过期数量等。

5.4.2 Tomcat Manager 应用

Tomcat Manager 应用是 Tomcat 自带的 Web 应用，用于管理 Tomcat 服务器和部署的 Web 应用。

Manager 应用功能:

部署和卸载 Web 应用 (WAR 文件或目录).
启动、停止、重启 Web 应用.
查看 Web 应用会话列表和信息.
查看服务器信息 (例如 JVM 版本、Tomcat 版本、操作系统信息).
查看线程信息.
查看 JNDI 资源信息.

访问 Manager 应用: 默认 URL 为 http://localhost:8080/manager/html，需要配置 manager-gui 角色用户才能访问。

配置 Manager 应用访问权限: 在 tomcat-users.xml 文件中添加具有 manager-gui 角色的用户。


<role rolename="manager-gui"/>
<user username="manager" password="manager_password" roles="manager-gui"/>

Mermaid Graph TD 图 - JMX 监控架构:

总结

本章深入探讨了 Tomcat 的高级特性，包括集群与负载均衡、安全配置、性能调优以及监控与管理。掌握这些高级特性，可以帮助开发者构建高可用、高性能、安全可靠的企业级 Web 应用，并有效地管理和维护 Tomcat 服务器。实际应用中，需要根据具体的业务需求和场景，选择合适的配置方案和调优策略，并进行充分的测试和监控，以确保 Tomcat 服务器和 Web 应用的稳定运行。