6.1 Tomcat 性能调优策略

6.1 Tomcat 性能调优策略

6.1 Tomcat 性能调优策略

6.1.1 JVM 调优

Java 虚拟机 (JVM) 是 Tomcat 运行的基础，JVM 的性能直接决定了 Tomcat 的性能上限。合理的 JVM 调优是提升 Tomcat 性能的首要步骤。

6.1.1.1 堆内存调优

概念详解:

Java 堆内存 (Heap) 是 JVM 中用于存放对象实例的区域。Tomcat 运行期间，Servlet、JSP、Session 等对象都会在堆内存中分配。堆内存的大小直接影响着 Tomcat 可以容纳的应用规模以及垃圾回收 (Garbage Collection, GC) 的频率。

• 堆内存过小: 会导致频繁的 Minor GC 甚至 Full GC，消耗大量的 CPU 资源，降低应用响应速度，严重时可能导致 OutOfMemoryError (OOM) 错误。

• 堆内存过大: 虽然可以减少 GC 频率，但过大的堆内存也会增加 Full GC 的耗时，长时间的 Full GC 会造成应用卡顿。同时，过大的堆内存也会占用更多的系统资源，可能影响其他应用的运行。

调优策略:

堆内存调优的核心在于找到一个合适的堆大小，既能满足应用的对象分配需求，又能尽量减少 GC 的影响。

1. 初始堆大小 (-Xms) 和最大堆大小 (-Xmx): 建议将初始堆大小和最大堆大小设置为相同的值，避免 JVM 在运行时动态调整堆大小带来的性能损耗。通常，可以根据应用的内存需求和服务器的物理内存大小进行设置。例如，对于中小型应用，可以设置为 2GB - 4GB，对于大型应用，可以设置为 8GB 甚至更大。

2. 新生代和老年代比例: 堆内存通常被划分为新生代 (Young Generation) 和老年代 (Old Generation)。新生代用于存放新创建的对象，老年代用于存放经过多次 Minor GC 仍然存活的对象。合理的调整新生代和老年代比例可以优化 GC 性能。

   • 新生代过小: 会导致对象过早进入老年代，增加 Full GC 的频率。

   • 新生代过大: 会减少老年代空间，可能导致老年代提前满，同样增加 Full GC 的频率。

   可以通过 -XX:NewRatio 参数设置新生代与老年代的比例，例如 -XX:NewRatio=2 表示新生代占整个堆内存的 1/3，老年代占 2/3。对于大多数 Web 应用，建议新生代比例略大于老年代。

3. Survivor 区比例: 新生代又分为 Eden 区和两个 Survivor 区 (S0 和 S1)。Eden 区用于新对象的分配，Survivor 区用于存放 Minor GC 后仍然存活的对象。合理的 Survivor 区大小可以提高 Minor GC 的效率。

   可以通过 -XX:SurvivorRatio 参数设置 Eden 区与 Survivor 区的比例，例如 -XX:SurvivorRatio=8 表示 Eden 区占新生代的 8/10，每个 Survivor 区占 1/10。通常，默认值即可满足大多数场景。

代码实践:

在 Tomcat 的 catalina.sh (Linux) 或 catalina.bat (Windows) 脚本中，可以设置 JVM 参数。找到 JAVA_OPTS 变量，添加以下参数：

JAVA_OPTS="$JAVA_OPTS -Xms4g -Xmx4g -XX:NewRatio=2 -XX:SurvivorRatio=8"
​

Mermaid 图示:

内容详解:

上图展示了 JVM 内存结构，重点突出了堆内存的组成部分，包括 Eden 区、Survivor 区和老年代。理解堆内存的结构是进行堆内存调优的基础。合理的堆内存配置能够有效地减少 GC 频率，提升 Tomcat 性能。

6.1.1.2 垃圾回收器调优

概念详解:

垃圾回收 (GC) 是 JVM 自动管理内存的重要机制，负责回收不再使用的对象，释放内存空间。不同的垃圾回收器采用不同的算法和策略，对应用性能的影响也不同。Tomcat 常用的垃圾回收器主要有以下几种：

• Serial GC: 单线程 GC，适用于小型应用或对停顿时间不敏感的应用。

• Parallel GC: 多线程 GC，吞吐量高，适用于 CPU 资源充足且对停顿时间要求不高的应用。

• CMS (Concurrent Mark Sweep) GC: 并发 GC，停顿时间短，适用于对响应时间敏感的应用，但会占用一部分 CPU 资源。

• G1 (Garbage-First) GC: 面向服务端应用的 GC，兼顾吞吐量和停顿时间，是 JDK 9 及以上版本默认的 GC。

• ZGC (Z Garbage Collector): 低延迟 GC，停顿时间极短，适用于对延迟极其敏感的应用，JDK 11 及以上版本可用。

• Shenandoah GC: 低停顿时间 GC，与 ZGC 类似，也适用于对延迟敏感的应用，OpenJDK 版本可用。

调优策略:

选择合适的垃圾回收器是 GC 调优的关键。

1. 根据应用场景选择 GC:

   • 吞吐量优先: Parallel GC 适合对吞吐量要求高，但可以容忍一定停顿时间的应用。

   • 低延迟优先: CMS GC (JDK 8 及之前), G1 GC, ZGC, Shenandoah GC 适合对响应时间敏感，要求停顿时间短的应用。

   • 小型应用: Serial GC 即可满足需求。

2. 调整 GC 相关参数: 不同的 GC 有不同的调优参数，例如：

   • Parallel GC: -XX:+UseParallelGC, -XX:ParallelGCThreads (设置 GC 线程数)。

   • CMS GC: -XX:+UseConcMarkSweepGC, -XX:CMSInitiatingOccupancyFraction (设置 CMS 启动阈值)。

   • G1 GC: -XX:+UseG1GC, -XX:MaxGCPauseMillis (设置最大 GC 停顿时间目标)。

3. GC 日志分析: 通过分析 GC 日志，可以了解 GC 的运行状况，例如 GC 频率、停顿时间、内存回收效率等，从而指导 GC 参数的调整。

代码实践:

在 catalina.sh 或 catalina.bat 脚本中，设置 GC 参数：

# 使用 G1 GC，并设置最大 GC 停顿时间目标为 200ms
JAVA_OPTS="$JAVA_OPTS -XX:+UseG1GC -XX:MaxGCPauseMillis=200"
# 启用 GC 日志，并输出到 gc.log 文件
JAVA_OPTS="$JAVA_OPTS -verbose:gc -Xloggc:gc.log -XX:+PrintGCDetails -XX:+PrintGCTimeStamps"
​

Mermaid 图示:

内容详解:

上图简化展示了垃圾回收的基本过程，包括 Minor GC 和 Full GC 的触发时机和流程。理解 GC 的工作原理有助于选择合适的 GC 策略和参数，减少 GC 对 Tomcat 性能的影响。通过 GC 日志分析，可以更深入地了解 GC 运行状况，进行精细化调优。

6.1.1.3 JIT 编译器调优

概念详解:

即时编译器 (Just-In-Time Compiler, JIT) 是 JVM 的核心组件之一，负责将 Java 字节码动态编译成本地机器码，提高程序的执行效率。JVM 通常包含两种 JIT 编译器：

• C1 编译器 (Client Compiler): 优化启动速度和峰值性能，适用于客户端应用或对启动速度敏感的应用。

• C2 编译器 (Server Compiler): 优化长时间运行应用的性能，吞吐量更高，适用于服务端应用。

• GraalVM Native Image: 提前编译 (Ahead-Of-Time, AOT) 技术，将 Java 代码编译成原生可执行文件，启动速度极快，性能接近原生应用，但编译时间较长，适用场景有限。

调优策略:

通常情况下，JVM 会根据运行模式 (Client 或 Server) 自动选择合适的 JIT 编译器，无需手动调整。但在某些特殊场景下，可以考虑调整 JIT 相关参数。

1. 选择 JIT 编译器: 可以通过 -client 或 -server 参数显式指定使用 C1 或 C2 编译器。通常，Tomcat 运行在 Server 模式下，默认使用 C2 编译器。

2. 调整 JIT 编译参数: 可以调整 JIT 编译器的优化级别、编译阈值等参数，但需要深入了解 JIT 编译原理，谨慎调整。

代码实践:

在 catalina.sh 或 catalina.bat 脚本中，设置 JIT 参数：

# 显式指定使用 Server 模式 (默认)
JAVA_OPTS="$JAVA_OPTS -server"
​

Mermaid 图示:

内容详解:

上图展示了 Java 代码的编译和执行过程，突出了 JIT 编译器的作用。JIT 编译器将热点代码 (经常执行的代码) 编译成本地机器码，显著提升程序执行效率。了解 JIT 编译原理有助于理解 JVM 性能优化的关键环节。

6.1.2 Connector 调优

Tomcat Connector 组件负责接收客户端请求，并将请求传递给 Servlet 容器进行处理。Connector 的性能直接影响着 Tomcat 的并发处理能力和响应速度。

6.1.2.1 线程池配置

概念详解:

Tomcat Connector 使用线程池来处理客户端请求。每个请求都需要分配一个线程进行处理。线程池的配置直接影响着 Tomcat 的并发处理能力。

• maxThreads: 线程池最大线程数，决定了 Connector 可以同时处理的最大并发请求数。

• minSpareThreads: 线程池最小空闲线程数，预先创建并保持的空闲线程数，用于快速响应突发的请求。

• acceptCount: 当所有线程都在忙碌时，请求队列的最大长度。超过队列长度的请求将被拒绝。

调优策略:

线程池调优的核心在于根据应用的并发量和请求处理时间，合理配置线程池参数。

1. maxThreads: 根据应用的并发用户数和平均请求处理时间进行估算。可以使用性能测试工具模拟并发请求，逐步调整 maxThreads 参数，找到最佳值。通常，对于 CPU 密集型应用，maxThreads 可以设置为 CPU 核心数的几倍，对于 IO 密集型应用，可以设置为 CPU 核心数的几十倍甚至更高。

2. minSpareThreads: 通常设置为 maxThreads 的一部分，例如 10% - 20%，用于应对突发流量。

3. acceptCount: 如果应用经常出现请求被拒绝的情况，可以适当增加 acceptCount 的值。但过大的 acceptCount 会导致请求堆积，增加请求延迟。

代码实践:

在 Tomcat 的 server.xml 文件中，找到 <Connector> 元素，配置线程池参数：

<Connector port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8443"
           maxThreads="200"
           minSpareThreads="20"
           acceptCount="100" />
​

Mermaid 图示:

内容详解:

上图展示了 Connector 线程池处理请求的流程。客户端请求首先进入请求队列，然后线程池中的工作线程从队列中取出请求进行处理。合理配置线程池参数可以有效地提升 Tomcat 的并发处理能力，避免请求堆积和拒绝连接的情况。

6.1.2.2 协议选择

概念详解:

Tomcat Connector 支持多种协议，不同的协议对性能有不同的影响。常用的协议包括：

• BIO (Blocking IO): 阻塞式 IO，每个连接都需要一个线程处理，并发性能较低，资源消耗高。

• NIO (Non-blocking IO): 非阻塞式 IO，使用少量的线程处理大量的连接，并发性能较高，资源消耗较低。

• APR (Apache Portable Runtime): Apache 可移植运行时，基于本地代码实现，性能比 NIO 更高，需要安装 APR 库。

调优策略:

选择合适的协议可以显著提升 Tomcat 的性能。

1. 优先选择 NIO 或 APR: NIO 和 APR 协议比 BIO 协议具有更高的并发性能和更低的资源消耗，建议优先选择 NIO 或 APR 协议。

2. 根据环境选择 NIO 或 APR: 如果服务器环境支持 APR 库，且对性能要求较高，可以选择 APR 协议。否则，选择 NIO 协议即可。

代码实践:

在 server.xml 文件中，配置 Connector 的 protocol 属性：

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
           connectionTimeout="20000"
           redirectPort="8443"
           maxThreads="200" />
# 使用 APR 协议 (需要安装 APR 库)
<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
           connectionTimeout="20000"
           redirectPort="8443"
           maxThreads="200" />
​

Mermaid 图示:

内容详解:

上图对比了 BIO、NIO 和 APR 协议的连接处理模型。NIO 和 APR 协议采用非阻塞式 IO 和事件驱动机制，可以更高效地处理大量的并发连接，提升 Tomcat 的性能。

6.1.2.3 连接器参数调优

概念详解:

Connector 还有一些其他参数可以影响性能，例如：

• connectionTimeout: 连接超时时间，单位毫秒。客户端建立连接的超时时间，避免长时间等待无响应的连接。

• keepAliveTimeout: Keep-Alive 超时时间，单位毫秒。持久连接的超时时间，超过该时间没有请求的连接将被关闭。

• maxKeepAliveRequests: 每个持久连接允许的最大请求数。超过该请求数的连接将被关闭。

• disableUploadTimeout: 是否禁用上传超时。如果设置为 true，上传请求不会超时。

• enableLookups: 是否启用 DNS 反向查找。如果设置为 false，可以提升性能，但无法记录客户端主机名。

调优策略:

根据应用的特性和需求，合理调整连接器参数。

1. connectionTimeout: 根据应用的响应时间和网络状况设置合适的连接超时时间。

2. keepAliveTimeout 和 maxKeepAliveRequests: 如果应用需要频繁建立连接，可以适当增加 keepAliveTimeout 和 maxKeepAliveRequests 的值，启用持久连接，减少连接建立和关闭的开销。

3. disableUploadTimeout 和 enableLookups: 根据实际需求进行设置。如果对上传超时没有特殊要求，可以保持默认值 false。如果对性能要求较高，且不需要记录客户端主机名，可以设置为 enableLookups="false".

代码实践:

在 server.xml 文件中，配置连接器参数：

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
           connectionTimeout="20000"
           redirectPort="8443"
           maxThreads="200"
           keepAliveTimeout="60000"
           maxKeepAliveRequests="100"
           enableLookups="false" />
​

内容详解:

合理的连接器参数配置可以提升 Tomcat 的连接处理效率，减少不必要的资源消耗，从而提升整体性能。例如，启用持久连接可以减少连接建立和关闭的开销，禁用 DNS 反向查找可以减少 DNS 查询的开销。

6.1.3 Servlet/JSP 调优

Servlet 和 JSP 代码的质量直接影响着 Web 应用的性能。高效的 Servlet/JSP 代码可以减少资源消耗，提升响应速度。

6.1.3.1 异步 Servlet

概念详解:

传统的 Servlet 处理请求是同步阻塞的，Servlet 线程会一直等待请求处理完成才能返回。异步 Servlet 允许 Servlet 线程在请求处理过程中释放，当请求处理完成时再由其他线程回调 Servlet，从而提高吞吐量，尤其适用于 IO 密集型应用。

调优策略:

对于需要进行耗时 IO 操作 (例如访问数据库、调用远程服务) 的 Servlet，可以考虑使用异步 Servlet。

代码实践:

import javax.servlet.AsyncContext;
import javax.servlet.ServletException;
import javax.servlet.annotation.WebServlet;
import javax.servlet.http.HttpServlet;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
@WebServlet(urlPatterns = "/asyncServlet", asyncSupported = true)
public class AsyncServlet extends HttpServlet {
    private ExecutorService executor = Executors.newFixedThreadPool(10);
    @Override
    protected void doGet(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException {
        AsyncContext asyncContext = req.startAsync();
        asyncContext.setTimeout(10000); // 设置超时时间
        executor.submit(() -> {
            try {
                // 模拟耗时 IO 操作
                Thread.sleep(5000);
                resp.getWriter().println("Async Servlet Response");
            } catch (InterruptedException | IOException e) {
                e.printStackTrace();
            } finally {
                asyncContext.complete(); // 完成异步处理
            }
        });
    }
}
​

Mermaid 图示:

内容详解:

上图对比了同步 Servlet 和异步 Servlet 的处理流程。异步 Servlet 通过释放 Servlet 线程，减少线程阻塞，提高线程利用率，从而提升吞吐量。

6.1.3.2 缓存

概念详解:

缓存是提升 Web 应用性能的重要手段，可以减少重复计算和数据传输，提高响应速度。Servlet/JSP 中常用的缓存包括：

• ServletContext 缓存: 应用级别缓存，所有 Servlet 共享，适用于缓存应用级别的数据，例如配置信息、字典数据等。

• Session 缓存: 会话级别缓存，每个用户会话独享，适用于缓存用户会话相关的数据，例如用户登录信息、购物车信息等。

• HTTP 缓存: 利用 HTTP 协议的缓存机制，浏览器缓存静态资源 (例如图片、CSS、JS) 或动态响应，减少服务器请求。

调优策略:

合理使用缓存可以显著提升 Web 应用性能。

1. ServletContext 缓存: 使用 ServletContext.setAttribute() 和 ServletContext.getAttribute() 方法进行缓存操作。

2. Session 缓存: 使用 HttpSession.setAttribute() 和 HttpSession.getAttribute() 方法进行缓存操作。

3. HTTP 缓存: 通过设置 HTTP 响应头 (例如 Cache-Control, Expires, ETag, Last-Modified) 控制浏览器缓存行为。

代码实践:

ServletContext 缓存:

// 缓存数据
getServletContext().setAttribute("configData", configData);
// 获取缓存数据
ConfigData cachedData = (ConfigData) getServletContext().getAttribute("configData");
​

HTTP 缓存 (设置 Cache-Control 头):

resp.setHeader("Cache-Control", "max-age=3600"); // 缓存 1 小时
​

Mermaid 图示:

内容详解:

上图展示了常见的缓存层级结构。合理的利用各层级缓存可以有效地减少请求到达应用服务器的次数，降低服务器负载，提升响应速度。

6.1.3.3 代码优化

概念详解:

高效的 Servlet/JSP 代码是性能优化的基础。代码优化主要包括：

• 减少对象创建: 避免在循环中或频繁调用的代码中创建大量临时对象，可以使用对象池或复用对象。

• 使用高效的数据结构和算法: 选择合适的数据结构 (例如 HashMap, ArrayList) 和算法，提高代码执行效率。

• 避免不必要的 IO 操作: 减少数据库访问、文件读写、网络请求等 IO 操作。

• 优化字符串处理: 使用 StringBuilder 或 StringBuffer 进行字符串拼接，避免使用 String 的 + 操作符。

• 合理使用线程同步: 避免过度同步，减少线程竞争。

调优策略:

进行代码审查和性能分析，找出性能瓶颈，进行针对性优化。可以使用性能分析工具 (例如 JProfiler, VisualVM) 辅助代码优化。

代码实践:

字符串优化:

// 优化前 (低效)
String result = "";
for (int i = 0; i < 1000; i++) {
    result += "item" + i;
}
// 优化后 (高效)
StringBuilder sb = new StringBuilder();
for (int i = 0; i < 1000; i++) {
    sb.append("item").append(i);
}
String result = sb.toString();
​

内容详解:

代码优化需要结合具体的应用场景进行，没有通用的优化方法。关键在于找出性能瓶颈，并针对瓶颈进行优化。性能分析工具可以帮助开发者快速定位性能瓶颈。

6.1.4 Web 应用调优

Web 应用的架构和资源配置也会影响 Tomcat 的性能。合理的 Web 应用调优可以提升 Tomcat 的整体性能。

6.1.4.1 静态内容处理

概念详解:

静态内容 (例如 HTML, CSS, JS, 图片) 通常不需要 Servlet 容器处理，可以直接由 Tomcat 或前端服务器 (例如 Nginx, Apache) 处理。将静态内容与动态内容分离，可以减轻 Tomcat 的负载，提升性能。

调优策略:

1. 配置 Tomcat 处理静态内容: 在 server.xml 文件中，配置 <Context> 元素的 serveServlets 和 cachingAllowed 属性，优化 Tomcat 对静态内容的处理。

2. 使用 CDN 或反向代理: 将静态内容部署到 CDN 或反向代理服务器上，由 CDN 或反向代理服务器直接处理静态内容请求，Tomcat 只处理动态内容请求。

代码实践:

配置 Tomcat 处理静态内容 (server.xml):

<Context path="/myapp" docBase="myapp" reloadable="true" serveServlets="false" cachingAllowed="true">
    </Context>
​

内容详解:

将 serveServlets 设置为 false 可以禁止 Tomcat 使用 Servlet 处理静态内容请求，将 cachingAllowed 设置为 true 可以启用 Tomcat 的静态内容缓存。