结论先行:虚拟线程(JEP 444,JDK 21 正式发布)改变的是「能开多少线程」,不是「单个线程跑多快」。IO 密集、高并发服务的吞吐会显著提升;CPU 密集任务毫无收益。用法上最关键的一条纪律:不要池化虚拟线程,用完即弃才是设计意图。

它是什么:JVM 调度的轻量线程

平台线程与内核线程 1:1,创建成本、上下文切换、栈内存(MB 级)都贵,几千个就到上限。虚拟线程由 JVM 调度,挂载在少量平台线程(载体线程,carrier)上运行;遇到阻塞 IO 时 JVM 把它从载体上「卸载」,载体去跑别的虚拟线程,被挂起的虚拟线程只占堆上一个对象的空间,百万级可行。代码层面的使用几乎零成本:

// 方式一:直接创建,线程名带前缀便于排查
Thread vt = Thread.ofVirtual().name("io-task-", 0).start(() -> {
    String body = httpClient.send(req);   // 阻塞在这里时,载体线程被让出
    process(body);
});

// 方式二:每任务一线程的执行器(推荐入口),close 时等待已提交任务结束
try (var executor = Executors.newVirtualThreadPerTaskExecutor()) {
    executor.submit(() -> callDownstream(sku));
    executor.submit(() -> callDownstream(sku));
}

阻塞式 IO 调用(JDBC、HttpClient)在虚拟线程里可以放心写,这是它与回调式异步编程最大的差别——用同步的代码风格拿到异步的吞吐。两类线程的差异全面对比:

维度平台线程虚拟线程
与内核线程关系1:1N:1 挂载到载体线程
栈内存MB 级,预先保留按需增长,存于堆上
创建成本高,几千个接近上限极低,百万级可行
阻塞 IO 代价占住一个内核线程卸载,让出载体
调度方操作系统JVM 调度器(FIFO 队列)
是否建议池化是(创建昂贵)否(用完即弃)

调度细节再补两点:默认调度器的并行度等于 CPU 核数,可通过 jdk.virtualThreadScheduler.parallelism 调整;虚拟线程默认是 daemon 语义,主线程退出不会等它,批量作业要用 ExecutorService 的 close 或显式 join 收口,避免任务被静默腰斩。

pinning:一个必须知道的坑

部分阻塞操作无法卸载虚拟线程,JDK 21 实现下最典型的是 synchronized 块内阻塞:虚拟线程被「钉」在载体上,载体被白白占住,并发一高所有载体被 pin 满,调度退化成「少数平台线程扛所有请求」,吞吐不升反降。排查手段是加 JVM 参数 -Djdk.tracePinnedThreads=full,输出会精确到把虚拟线程钉住的栈帧:

// 错误写法:synchronized 包着阻塞调用,虚拟线程被钉在载体上
public class PriceCache {
    private final Map<String, Price> cache = new HashMap<>();

    public synchronized Price get(String sku) {
        Price p = cache.get(sku);
        if (p == null) {
            p = priceService.query(sku);   // 慢 IO 在 synchronized 内,
        }                                  // pin 住载体线程
        return p;
    }
}

// 正确写法:换成 ReentrantLock,阻塞期间可以正常卸载
public class PriceCache {
    private final Map<String, Price> cache = new HashMap<>();
    private final ReentrantLock lock = new ReentrantLock();

    public Price get(String sku) throws Exception {
        lock.lock();
        try {
            Price p = cache.get(sku);
            if (p == null) {
                p = priceService.query(sku);   // 阻塞时卸载,载体释放
            }
            return p;
        } finally {
            lock.unlock();
        }
    }
}

JDK 24 的 JEP 491 已修复 synchronized 的 pinning 问题,但存量 JDK 21 部署仍要按上面的纪律执行;JNI 本地方法内阻塞同样不会卸载,连接池驱动里的 native 调用值得单独确认。

验证手段可以例行化:迁移前全量排查代码里「synchronized 包阻塞调用」的组合(IO、sleep、锁内调下游),逐个确认改锁;运行期把 tracePinnedThreads 的输出接到告警,出现 pinning 日志即告警。两个手段成本都不高,收益是避免「上线后吞吐莫名不达标」的长排查。

线程池 + 虚拟线程 = 反模式

虚拟线程便宜到不值得复用,「每任务一线程」就是推荐姿势,newVirtualThreadPerTaskExecutor() 没有池的概念。把虚拟线程塞进固定大小的池,等于手动废掉它最核心的优势(数量不受限),还引入了池排队这个新的瓶颈点。如果需要限制并发数(保护下游),不要用固定大小的线程池,用信号量:

// 用信号量限流,而不是把虚拟线程池化
private final Semaphore permits = new Semaphore(200); // 限制对下游的并发

executor.submit(() -> {
    permits.acquire();
    try {
        callDownstream();     // 真正要保护的是下游资源,不是线程本身
    } finally {
        permits.release();
    }
});

要想清楚限流的对象:虚拟线程本身不需要保护,需要保护的是下游的连接池、配额与稳定性——信号量限在「资源」上,线程数限在「线程」上,前者才是正确的抽象。同理,JDBC 连接池的大小不会因引入虚拟线程而自动扩大,反而要确认它是否成了新的瓶颈。

限流之外还有一个要重新设计的场景:固定线程池隐式承担的「并发上限」消失之后,原来靠「线程不够用」实现的天然削峰也没了,下游会看到明显更高的瞬时并发。迁移评估时把所有依赖固定池并发数的下游(连接池、第三方配额)列一遍,逐个配信号量或申请扩配额。

ThreadLocal 与上下文传递

ThreadLocal 在虚拟线程里照常可用,但百万级虚拟线程下每个线程各持一份,注意内存放大:一个 1KB 的上下文对象乘以百万线程就是 GB 级。更符合虚拟线程模型的机制是 Scoped Values(JDK 21 预览,JEP 446):不可变、有明确作用域边界、随作用域结束自动失效,没有 set/remove 配对的心智负担。存量代码迁移时 ThreadLocal 可以继续用,新代码(尤其是框架层)值得直接按 Scoped Values 设计。另一个细节:虚拟线程的 name 默认为空,排查时线程 dump 动辄几十万行,给每个虚拟线程命名(或在任务里打 traceId 日志)是可观测性的底线。

适用与不适用

适用:每请求一线程的 Web 服务、批量调用下游的聚合场景、海量小 IO 任务(爬虫、同步类作业)。不适用:CPU 密集计算(并行度受核数限制,虚拟线程帮不上忙)、已经用事件驱动框架跑得很顺且无历史包袱的场景。判断口诀:瓶颈是「等 IO」就上虚拟线程,瓶颈是「算不过来」就优化算法或加机器。迁移前还有两个前置检查:确认团队依赖的组件没有深度依赖线程池语义(某些连接池、定时任务框架);确认没有在用 ThreadLocal 做高频大对象缓存——这两处是虚拟线程迁移最常见的隐性成本。

版本策略建议:虚拟线程从 JDK 21 起可用且 21 是 LTS,迁移成本最低的路径就是升到 21 直接用;JDK 17 及以下无法使用,回移版本不进生产。组件生态(连接池、日志框架)在 21 时代已基本完成适配,存量项目可以按「先升级 JDK、再逐服务开启」两步走,把风险摊薄。

还有一个心智转变:用固定线程池的年代,线程数是「资源」,要精打细算;换成虚拟线程后,唯一要精打细算的资源变成「下游容量」。把注意力从线程管理转移到容量规划,是迁移后团队真正要适应的变化。

生产案例

一个批量对账服务原来用 200 线程的固定池逐账户拉取流水,账户数量增长后排队明显,团队迁移到 newVirtualThreadPerTaskExecutor()。第一次上线吞吐没有提升反而下降,-Djdk.tracePinnedThreads=full 抓到原因:流水解析组件里有一个 synchronized 包裹的共享对象,里面有阻塞的解压调用,高并发下所有载体线程被 pin 满。把该处替换为 ReentrantLock 后吞吐恢复正常,紧接着发现新瓶颈转移到数据库连接池上限——按信号量把并发数限制在连接池容量之内,系统进入稳态。这次迁移沉淀的经验:虚拟线程改造的代码量很小,真正的功夫花在两处排查——synchronized 加阻塞调用的组合、以及下游资源池的容量上限;前者决定 pinning,后者决定真实吞吐上限,虚拟线程只是把瓶颈「挤」到了原本看不见的地方。

检查清单

  • 虚拟线程不池化,用 newVirtualThreadPerTaskExecutor
  • 并发保护用信号量限制资源,不限制线程数
  • synchronized 包阻塞调用的代码迁移前替换为 ReentrantLock
  • 联调期开启 -Djdk.tracePinnedThreads=full 观察 pinning
  • 确认依赖组件(连接池、任务框架)兼容虚拟线程语义
  • ThreadLocal 存大对象的场景评估内存放大,新代码看 Scoped Values
  • 虚拟线程统一命名,保住 dump 可读性
  • CPU 密集任务留在平台线程池,不迁移