哪个线程执行 CompletableFuture’s tasks 和 callbacks?
CompletableFuture尽管在2014年的三月随着Java8被提出来,但它现在仍然是一种相对较新潮的概念。但也许这个类不为人所熟知是好事,因为它很容易被滥用,特别是涉及到使用线程和线程池的时候。而这篇文章的目的就是要描述线程是怎样使用 CompletableFuture的。
Running tasks
这是API的基础部分,它有一个很实用的supplyAsync()方法,这个方法和ExecutorService.submit()很像,但不同的是返回CompletableFuture:
CompletableFuture.supplyAsync(() -> { try (InputStream is = new URL("http://www.nurkiewicz.com").openStream()) { log.info("Downloading"); return IOUtils.toString(is, StandardCharsets.UTF_8); } catch (IOException e) { throw new RuntimeException(e); } });
问题是supplyAsync()默认使用 ForkJoinPool.commonPool(),线程池由所有的CompletableFutures分享,所有的并行流和所有的应用都部署在同一个虚拟机上(如果你很不幸的仍在使用有很多人工部署的应用服务器)。这种硬编码的,不可配置的线程池完全超出了我们的控制,很难去监测和度量。因此你应该指定你自己的
Executor,就像这里(也可以看看这里 几种创造这样Exetutor的方法):
ExecutorService pool = Executors.newFixedThreadPool(10); final CompletableFuture future = CompletableFuture.supplyAsync(() -> { //... }, pool);
这仅仅是开始…
Callbacks and transformations
假如你想转换给定的CompletableFuture,例如提取String的长度:
CompletableFuture intFuture = future.thenApply(s -> s.length());
那么是谁调用了 s.length()?坦白点,我一点也不在乎。只要涉及到lambda表达式,那么所有的执行者像thenApply这样的就是廉价的,我们并不关心是谁调用了lambda表达式。但如果这样的表达式会占用一点点的CPU来完成阻塞的网络通信那又会如何呢?
首先默认情况下会发生什么?试想一下:我们有一个返回String类型的后台任务,当结果完成时我们想要异步地去执行特定的变换。最容易的实现方法是通过包装一个原始的任务(返回String),任务完成时截获它。当内部的task结束后,回调就开始执行,执行变换和返回改进的值。就像有一个面介于我们的代码和初始的计算结果之间(个人看法:这里指的是下面的future里面包含的task执行完毕返回结果s,然后立马执行callback也就是thenApply里面的lambda表达式,这也就是为什么作者说有一个面位于初始计算结果和回调执行代码之间)。那就是说这应该相当明显了,s.length()的变换会在和执行原始任务相同的线程里完成,哈?并不完全是这样!(这里指的是有时候变换的线程和执行原始任务的线程不是同一个线程,看下面就知道)
CompletableFuture future = CompletableFuture.supplyAsync(() -> { sleepSeconds(2); return "ABC"; }, pool); future.thenApply(s -> { log.info("First transformation"); return s.length(); }); future.get(); pool.shutdownNow(); pool.awaitTermination(1, TimeUnit.MINUTES); future.thenApply(s -> { log.info("Second transformation"); return s.length(); });
如果future里面的task还在运行,那么包含first transformation的 thenApply()就会一直处于挂起状态。而这个task完成后thenApply()会立即执行,执行的线程和执行task的线程是同一个。然而在注册第二次变换之前(也就是执行第二个thenApply()),我们将一直等待直到task完成(和第一个变换是一样的,都需要等待)。更坏的情况是,我们完全地关闭了线程池,保证其他的代码将不会执行。那么哪个线程将要执行二次变换呢?我们都知道当注册了callback的future完成时,二次变换必定会立刻执行。这就是说它是使用默认的主线程(来完成callback),上面的代码输出如下:
pool-1-thread-1 | First transformation main | Second transformation
二次变换在注册的时候就意识到CompletableFuture已经完成了(指的是future里面的task已经返回结果,其实在第一次调用thenApply()之前就已经返回了,所以这一次不用等待task),因此它立刻执行了变换。由于此时已经没有其他的线程,所以thenApply()就只能在当前的main线程环境中被调用。最主要的原因还是因为这种行为机制在实际的变换成本很高时(如很耗时)很容易出错。想象一下thenApply()内部的lambda表达式在进行一些繁重的计算或者阻塞的网络调用,突然我们的异步 CompletableFuture阻塞了调用者线程!
Controlling callback’s thread pool
有两种技术去控制执行回调和变换的线程,需要注意的是这些方法仅仅适用你的变换需要很高成本的时候,其他情况下可以忽略。那么第一个方法可以选择使用操作者的 *Async方法,例如:
future.thenApplyAsync(s -> { log.info("Second transformation"); return s.length(); });
这一次second transformation被自动地卸载到了我们的老朋友线程ForkJoinPool.commonPool()中去了:
pool-1-thread-1 | First transformation ForkJoinPool.commonPool-worker-1 | Second transformation
但我们并不喜欢commonPool,所以我们提供自己的:
future.thenApplyAsync(s -> { log.info("Second transformation"); return s.length(); }, pool2);
注意到这里使用的是不同的线程池(pool-1 vs. pool-2):
pool-1-thread-1 | First transformation pool-2-thread-1 | Second transformation
Treating callback like another computation step
我相信如果你在处理一些长时间运行的callbacks和transformations上有些麻烦(记住这篇文章同样也适用于CompletableFuture的其他大部分方法),你应该简单地使用其他表意明确的CompletableFuture,就像这样:
//Imagine this is slow and costly CompletableFuture<Integer> strLen(String s) { return CompletableFuture.supplyAsync( () -> s.length(), pool2); } //... CompletableFuture<Integer> intFuture = future.thenCompose(s -> strLen(s));
这种方法更加明确,知道我们的变换有很大的开销,我们不会将它运行在一些随意的不可控的线程上。取而代之的是我们会将String到CompletableFuture<Integer>的变换封装为一个异步操作。然而,我们必须用thenCompose()取代thenApply(),否则的话我们会得到CompletableFuture<CompletableFuture<Integer>>.
但如果我们的transformation 没有一个能够很好地处理嵌套CompletableFuture的形式怎么办,如applyToEither()会等待第一个 Future完成然后执行transformation.
CompletableFuture<CompletableFuture<Integer>> poor = future1.applyToEither(future2, s -> strLen(s));
这里有个很实用的技巧,用来“展开”这类难以理解的数据结构,这种技巧叫flatten,通过使用 flatMap(identity)
(or flatMap(x -> x)
)。在我们的例子中flatMap()就叫做thenCompose:
CompletableFuture<Integer> good = poor.thenCompose(x -> x);
我把它留给你,去弄懂它是怎样和为什么这样工作的。我想这篇文章已经尽量清楚地阐述了线程是如何参与到CompletableFuture中去的。