上周,因为要测试一个方法的在并发场景下的结果是不是符合预期,我写了一段单元测试的代码。写完之后截了个图发了一个朋友圈,很多人表示短短的几行代码,涉及到好几个知识点。
还有人给出了一些优化的建议。那么,这是怎样的一段代码呢?涉及到哪些知识,又有哪些可以优化的点呢?
让我们来看一下。
先说一下背景,也就是要知道我们单元测试要测的这个方法具体是什么样的功能。我们要测试的服务是AssetService,被测试的方法是update方法。
update方法主要做两件事,第一个是更新Asset、第二个是插入一条AssetStream。
更新Asset方法中,主要是更新数据库中的Asset的信息,这里为了防止并发,使用了乐观锁。
插入AssetStream方法中,主要是插入一条AssetStream的流水信息,为了防止并发,这里在数据库中增加了唯一性约束。
为了保证数据一致性,我们通过本地事务将这两个操作包在同一个事务中。
以下是主要的代码,当然,这个方法中还会有一些前置的幂等性校验、参数合法性校验等,这里就都省略了:
@Service public class AssetServiceImpl implements AssetService { @Autowired private TransactionTemplate transactionTemplate; @Override public String update(Asset asset) { //参数检查、幂等校验、从数据库取出最新asset等。 return transactionTemplate.execute(status -> { updateAsset(asset); return insertAssetStream(asset); }); } }
因为这个方法可能会在并发场景中执行,所以该方法通过事务+乐观锁+唯一性约束做了并发控制。关于这部分的细节就不多讲了,大家感兴趣的话后面我再展开关于如何防并发的内容。
因为上面这个方法是可能在并发场景中被调用的,所以需要在单测中模拟并发场景,于是,我就写了以下的单元测试的代码:
public class AssetServiceImplTest { private static ThreadFactory namedThreadFactory = new ThreadFactoryBuilder() .setNameFormat("demo-pool-%d").build(); private static ExecutorService pool = new ThreadPoolExecutor(5, 100, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>(128), namedThreadFactory, new ThreadPoolExecutor.AbortPolicy()); @Autowired AssetService assetService; @Test public void test_updateConcurrent() { Asset asset = getAsset(); //参数的准备 //... //并发场景模拟 CountDownLatch countDownLatch = new CountDownLatch(10); AtomicInteger failedCount =new AtomicInteger(); //并发批量修改,只有一条可以修改成功 for (int i = 0; i < 10; i++) { pool.execute(() -> { try { String streamNo = assetService.update(asset); } catch (Exception e) { System.out.println("Error : " + e); failedCount.getAndIncrement(); } finally { countDownLatch.countDown(); } }); } try { //主线程等子线程都执行完之后查询最新的资产 countDownLatch.await(); } catch (InterruptedException e) { e.printStackTrace(); } Assert.assertEquals(failedCount.intValue(), 9); // 从数据库中反查出最新的Asset // 再对关键字段做注意校验 } }
以上,就是我做了简化之后的单元测试的部分代码。因为要测并发场景,所以这里面涉及到了很多并发相关的知识。
很多人之前和我说,并发相关的知识自己了解的很多,但是好像没什么机会写并发的代码。其实,单元测试就是个很好的机会。
我们来看看上面的代码涉及到哪些知识点?
以上这段单元测试的代码中涉及到几个知识点,我这里简单说一下。
这里面因为要模拟并发的场景,所以需要用到多线程, 所以我这里使用了线程池,而且我没有直接用Java提供的Executors类创建线程池。
而是使用guava提供的ThreadFactoryBuilder来创建线程池,使用这种方式创建线程时,不仅可以避免OOM的问题,还可以自定义线程名称,更加方便的出错的时候溯源。(关于线程池创建的OOM问题)
因为我的单元测试代码中,希望在所有的子线程都执行之后,主线程再去检查执行结果。
所以,如何使主线程阻塞,直到所有子线程执行完呢?这里面用到了一个同步辅助类CountDownLatch。
用给定的计数初始化 CountDownLatch。由于调用了 countDown() 方法,所以在当前计数到达零之前,await 方法会一直受阻塞。(多线程中CountDownLatch的用法)
因为我在单测代码中,创建了10个线程,但是我需要保证只有一个线程可以执行成功。所以,我需要对失败的次数做统计。
那么,如何在并发场景中做计数统计呢,这里用到了AtomicInteger,这是一个原子操作类,可以提供线程安全的操作方法。
因为我们模拟了多个线程并发执行,那么就一定会存在部分线程执行失败的情况。
因为方法底层没有对异常进行捕获。所以需要在单测代码中进行异常的捕获。
try { String streamNo = assetService.update(asset); } catch (Exception e) { System.out.println("Error : " + e); failedCount.increment(); } finally { countDownLatch.countDown(); }
这段代码中,try、catch、finall都用上了,而且位置是不能调换的。失败次数的统计一定要放到catch中,countDownLatch的countDown也一定要放到finally中。
这个相信大家都比较熟悉,这就是JUnit中提供的断言工具类,在单元测试时可以用做断言。这就不详细介绍了。
以上代码涉及到了很多知识点,但是,难道就没有什么优化点了吗?
首先说一下,其实单元测试的代码对性能、稳定性之类的要求并不高,所谓的优化点,也并不是必要的。这里只是说讨论下,如果真的是要做到精益求精,还有什么点可以优化呢?
我的朋友圈的网友@zkx 提出,可以使用LongAdder代替AtomicInteger。
java.util.concurrency.atomic.LongAdder是Java8新增的一个类,提供了原子累计值的方法。而且在其Javadoc中也明确指出其性能要优于AtomicLong。
首先它有一个基础的值base,在发生竞争的情况下,会有一个Cell数组用于将不同线程的操作离散到不同的节点上去(会根据需要扩容,最大为CPU核数,即最大同时执行线程数),sum()会将所有Cell数组中的value和base累加作为返回值。
核心的思想就是将AtomicLong一个value的更新压力分散到多个value中去,从而降低更新热点。所以在激烈的锁竞争场景下,LongAdder性能更好。
朋友圈网友 Cafebabe 和 @普渡众生的面瘫青年 都提到同一个优化点,那就是如何增加并发竞争。
这个问题其实我在发朋友圈之前就有想到过,心中早已经有了答案,只不过有两位朋友能够几乎同时提到这一点还是很不错的。
我们来说说问题是什么。
我们为了提升并发,使用线程池创建了多个线程,想让多个线程并发执行被测试的方法。
但是,我们是在for循环中依次执行的,那么理论上这10次update方法的调用是顺序执行的。
当然,因为有CPU时间片的存在,这10个线程会争抢CPU,真正执行的过程中还是会发生并发冲突的。
但是,为了稳妥起见,我们还是需要尽量模拟出多个线程同时发起方法调用的。
优化的方法也比较简单,那就是在每一个update方法被调用之前都wait一下,直到所有的子线程都创建成功了,再开始一起执行。
这就还可以用都到我们前面讲过的CountDownLatch。
所以,最终优化后的单测代码如下:
//主线程根据此CountDownLatch阻塞 CountDownLatch mainThreadHolder = new CountDownLatch(10); //并发的多个子线程根据此CountDownLatch阻塞 CountDownLatch multiThreadHolder = new CountDownLatch(1); //失败次数计数器 LongAdder failedCount = new LongAdder(); //并发批量修改,只有一条可以修改成功 for (int i = 0; i < 10; i++) { pool.execute(() -> { try { //子线程等待,等待主线程通知后统一执行 multiThreadHolder.await(); //调用被测试的方法 String streamNo = assetService.update(asset); } catch (Exception e) { //异常发生时,对失败计数器+1 System.out.println("Error : " + e); failedCount.increment(); } finally { //主线程的阻塞器奇数-1 mainThreadHolder.countDown(); } }); } //通知所有子线程可以执行方法调用了 multiThreadHolder.countDown(); try { //主线程等子线程都执行完之后查询最新的资产池计划 mainThreadHolder.await(); } catch (InterruptedException e) { e.printStackTrace(); } //断言,保证失败9次,则成功一次 Assert.assertEquals(failedCount.intValue(), 9); // 从数据库中反查出最新的Asset // 再对关键字段做注意校验
以上,就是关于我的一次单元测试的代码所涉及到的知识点,以及目前所能想到的相关的优化点。
最后,还是想问一下,对于这部分代码,你觉得还有什么可以优化的地方吗?