文档章节

Java并发专题 带返回结果的批量任务执行

穿林度水
 穿林度水
发布于 2016/11/07 14:27
字数 1239
阅读 1
收藏 0

转载请标明出处:http://blog.csdn.net/lmj623565791/article/details/27250059

一般情况下,我们使用Runnable作为基本的任务表示形式,但是Runnable是一种有很大局限的抽象,run方法中只能记录日志,打印,或者把数据汇总入某个容器(一方面内存消耗大,另一方面需要控制同步,效率很大的限制),总之不能返回执行的结果;比如同时1000个任务去网络上抓取数据,然后将抓取到的数据进行处理(处理方式不定),我觉得最好的方式就是提供回调接口,把处理的方式最为回调传进去;但是现在我们有了更好的方式实现:CompletionService + Callable

Callable的call方法可以返回执行的结果;

CompletionService将Executor(线程池)和BlockingQueue(阻塞队列)结合在一起,同时使用Callable作为任务的基本单元,整个过程就是生产者不断把Callable任务放入阻塞对了,Executor作为消费者不断把任务取出来执行,并返回结果;

优势:

a、阻塞队列防止了内存中排队等待的任务过多,造成内存溢出(毕竟一般生产者速度比较快,比如爬虫准备好网址和规则,就去执行了,执行起来(消费者)还是比较慢的)

b、CompletionService可以实现,哪个任务先执行完成就返回,而不是按顺序返回,这样可以极大的提升效率;

1、CompletionService : Executor + BlockingQueue 

下面看个例子:

 

[java]   view plain  copy  在CODE上查看代码片  派生到我的代码片
 
  1. package com.zhy.concurrency.completionService;  
  2.   
  3. import java.util.Random;  
  4. import java.util.concurrent.BlockingQueue;  
  5. import java.util.concurrent.Callable;  
  6. import java.util.concurrent.CompletionService;  
  7. import java.util.concurrent.ExecutionException;  
  8. import java.util.concurrent.ExecutorCompletionService;  
  9. import java.util.concurrent.ExecutorService;  
  10. import java.util.concurrent.Executors;  
  11. import java.util.concurrent.Future;  
  12. import java.util.concurrent.LinkedBlockingDeque;  
  13.   
  14. /** 
  15.  * 将Executor和BlockingQueue功能融合在一起,可以将Callable的任务提交给它来执行, 然后使用take()方法获得已经完成的结果 
  16.  *  
  17.  * @author zhy 
  18.  *  
  19.  */  
  20. public class CompletionServiceDemo  
  21. {  
  22.   
  23.     public static void main(String[] args) throws InterruptedException,  
  24.             ExecutionException  
  25.     {  
  26.         /** 
  27.          * 内部维护11个线程的线程池 
  28.          */  
  29.         ExecutorService exec = Executors.newFixedThreadPool(11);  
  30.         /** 
  31.          * 容量为10的阻塞队列 
  32.          */  
  33.         final BlockingQueue<Future<Integer>> queue = new LinkedBlockingDeque<Future<Integer>>(  
  34.                 10);  
  35.         //实例化CompletionService  
  36.         final CompletionService<Integer> completionService = new ExecutorCompletionService<Integer>(  
  37.                 exec, queue);  
  38.   
  39.         /** 
  40.          * 模拟瞬间产生10个任务,且每个任务执行时间不一致 
  41.          */  
  42.         for (int i = 0; i < 10; i++)  
  43.         {  
  44.             completionService.submit(new Callable<Integer>()  
  45.             {  
  46.                 @Override  
  47.                 public Integer call() throws Exception  
  48.                 {  
  49.                     int ran = new Random().nextInt(1000);  
  50.                     Thread.sleep(ran);  
  51.                     System.out.println(Thread.currentThread().getName()  
  52.                             + " 休息了 " + ran);  
  53.                     return ran;  
  54.                 }  
  55.             });  
  56.         }  
  57.           
  58.         /** 
  59.          * 立即输出结果 
  60.          */  
  61.         for (int i = 0; i < 10; i++)  
  62.         {  
  63.             try  
  64.             {     
  65.                 //谁最先执行完成,直接返回  
  66.                 Future<Integer> f = completionService.take();  
  67.                 System.out.println(f.get());  
  68.             } catch (InterruptedException e)  
  69.             {  
  70.                 e.printStackTrace();  
  71.             } catch (ExecutionException e)  
  72.             {  
  73.                 e.printStackTrace();  
  74.             }  
  75.         }  
  76.   
  77.         exec.shutdown();  
  78.   
  79.     }  
  80.   
  81. }  

输出结果:

 

 

[java]   view plain  copy  在CODE上查看代码片  派生到我的代码片
 
  1. pool-1-thread-4 休息了 52  
  2. 52  
  3. pool-1-thread-1 休息了 59  
  4. 59  
  5. pool-1-thread-10 休息了 215  
  6. 215  
  7. pool-1-thread-9 休息了 352  
  8. 352  
  9. pool-1-thread-5 休息了 389  
  10. 389  
  11. pool-1-thread-3 休息了 589  
  12. 589  
  13. pool-1-thread-2 休息了 794  
  14. 794  
  15. pool-1-thread-7 休息了 805  
  16. 805  
  17. pool-1-thread-6 休息了 909  
  18. 909  
  19. pool-1-thread-8 休息了 987  
  20. 987  


最先执行完成的直接返回,并不需要按任务提交的顺序执行,如果需要写个高并发的程序,且每个任务需要返回执行结果,这是个相当不错的选择!

 

 

2、ExecutorService.invokeAll

ExecutorService的invokeAll方法也能批量执行任务,并批量返回结果,但是呢,有个我觉得很致命的缺点,必须等待所有的任务执行完成后统一返回,一方面内存持有的时间长;另一方面响应性也有一定的影响,毕竟大家都喜欢看看刷刷的执行结果输出,而不是苦苦的等待;

下面看个例子:

 

[java]   view plain  copy  在CODE上查看代码片  派生到我的代码片
 
  1. package com.zhy.concurrency.executors;  
  2.   
  3. import java.util.ArrayList;  
  4. import java.util.List;  
  5. import java.util.Random;  
  6. import java.util.concurrent.Callable;  
  7. import java.util.concurrent.ExecutionException;  
  8. import java.util.concurrent.ExecutorService;  
  9. import java.util.concurrent.Executors;  
  10. import java.util.concurrent.Future;  
  11.   
  12. public class TestInvokeAll  
  13. {  
  14.   
  15.     public static void main(String[] args) throws InterruptedException,  
  16.             ExecutionException  
  17.     {  
  18.         ExecutorService exec = Executors.newFixedThreadPool(10);  
  19.   
  20.         List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();  
  21.         Callable<Integer> task = null;  
  22.         for (int i = 0; i < 10; i++)  
  23.         {  
  24.             task = new Callable<Integer>()  
  25.             {  
  26.                 @Override  
  27.                 public Integer call() throws Exception  
  28.                 {  
  29.                     int ran = new Random().nextInt(1000);  
  30.                     Thread.sleep(ran);  
  31.                     System.out.println(Thread.currentThread().getName()+" 休息了 " + ran );  
  32.                     return ran;  
  33.                 }  
  34.             };  
  35.   
  36.             tasks.add(task);  
  37.         }  
  38.           
  39.         long s = System.currentTimeMillis();  
  40.           
  41.           
  42.         List<Future<Integer>> results = exec.invokeAll(tasks);  
  43.           
  44.         System.out.println("执行任务消耗了 :" + (System.currentTimeMillis() - s) +"毫秒");  
  45.           
  46.         for (int i = 0; i < results.size(); i++)  
  47.         {  
  48.             try  
  49.             {  
  50.                 System.out.println(results.get(i).get());  
  51.             } catch (Exception e)  
  52.             {  
  53.                 e.printStackTrace();  
  54.             }  
  55.         }  
  56.   
  57.           
  58.         exec.shutdown();  
  59.   
  60.     }  
  61.   
  62. }  


执行结果:

 

 

[java]   view plain  copy  在CODE上查看代码片  派生到我的代码片
 
  1. pool-1-thread-10 休息了 1  
  2. pool-1-thread-5 休息了 59  
  3. pool-1-thread-6 休息了 128  
  4. pool-1-thread-1 休息了 146  
  5. pool-1-thread-3 休息了 158  
  6. pool-1-thread-7 休息了 387  
  7. pool-1-thread-9 休息了 486  
  8. pool-1-thread-8 休息了 606  
  9. pool-1-thread-4 休息了 707  
  10. pool-1-thread-2 休息了 817  
  11. 执行任务消耗了 :819毫秒  
  12. 146  
  13. 817  
  14. 158  
  15. 707  
  16. 59  
  17. 128  
  18. 387  
  19. 606  
  20. 486  
  21. 1  


我特意在任务提交完成打印了一个时间,然后invokeAll执行完成后打印了下时间,可以看出invokeAll返回是等待所有线程执行完毕的。这点来说,我觉得可用性不如CompletionService。

 

 

嗯,对于批量执行任务,且携带返回结果的案例就到这里~如果有疑问或者代码中存在错误请指出~

© 著作权归作者所有

穿林度水
粉丝 0
博文 250
码字总数 167120
作品 0
海淀
程序员
私信 提问
java使用原生jdbc连接数据库并操作

使用Java连接数据库需要使用JDBC驱动。JDBC(Java Data Base Connectivity,java数据库连接)是一种用于执行SQL语句的Java API,可以为多种关系数据库提供统一访问,它由一组用Java语言编写的...

hasagei
01/23
490
0
牛逼哄哄的Dubbo框架,底层到底是什么原理?

搞了N年Java,仍有不少朋友困惑:用了很多年Dubbo,觉得自己挺厉害,跳槽面试时一问RPC,一问底层通讯,一问NIO和AIO,就一脸懵逼,到底该怎么办? (大家有没有这样的感触?Dubbo用得很熟,...

Java猫
03/27
0
0
读书笔记之《Java并发编程的艺术》-并发编程容器和框架(重要)

读书笔记部分内容来源书出版书,版权归本书作者,如有错误,请指正。 欢迎star、fork,读书笔记系列会同步更新 git https://github.com/xuminwlt/j360-jdk module j360-jdk-thread/me.j360....

Hi徐敏
2015/11/11
656
1
Java 并发:Executors 和线程池

本文译自:Java Concurrency – Part 7 : Executors and thread pools 让我们开始来从入门了解一下 Java 的并发编程。 本文主要介绍如何开始创建线程以及管理线程池,在 Java 语言中,一个最...

红薯
2010/09/15
34K
18
【死磕Java并发】—– 死磕 Java 并发精品合集

【死磕 Java 并发】系列是 LZ 在 2017 年写的第一个死磕系列,一直没有做一个合集,这篇博客则是将整个系列做一个概览。 先来一个总览图: 【高清图,请关注“Java技术驿站”公众号,回复:脑...

chenssy
2018/07/22
0
0

没有更多内容

加载失败,请刷新页面

加载更多

OpenStack 简介和几种安装方式总结

OpenStack :是一个由NASA和Rackspace合作研发并发起的,以Apache许可证授权的自由软件和开放源代码项目。项目目标是提供实施简单、可大规模扩展、丰富、标准统一的云计算管理平台。OpenSta...

小海bug
昨天
5
0
DDD(五)

1、引言 之前学习了解了DDD中实体这一概念,那么接下来需要了解的就是值对象、唯一标识。值对象,值就是数字1、2、3,字符串“1”,“2”,“3”,值时对象的特征,对象是一个事物的具体描述...

MrYuZixian
昨天
6
0
数据库中间件MyCat

什么是MyCat? 查看官网的介绍是这样说的 一个彻底开源的,面向企业应用开发的大数据库集群 支持事务、ACID、可以替代MySQL的加强版数据库 一个可以视为MySQL集群的企业级数据库,用来替代昂贵...

沉浮_
昨天
4
0
解决Mac下VSCode打开zsh乱码

1.乱码问题 iTerm2终端使用Zsh,并且配置Zsh主题,该主题主题需要安装字体来支持箭头效果,在iTerm2中设置这个字体,但是VSCode里这个箭头还是显示乱码。 iTerm2展示如下: VSCode展示如下: 2...

HelloDeveloper
昨天
7
0
常用物流快递单号查询接口种类及对接方法

目前快递查询接口有两种方式可以对接,一是和顺丰、圆通、中通、天天、韵达、德邦这些快递公司一一对接接口,二是和快递鸟这样第三方集成接口一次性对接多家常用快递。第一种耗费时间长,但是...

程序的小猿
昨天
8
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部