python之multiprocessing.pool
2017-03-05 10:57
309 查看
Pool相关函数
1、apply(func[, args[, kwds]])apply用于传递不定参数,同python中的apply函数一致(不过内置的apply函数从2.3以后就不建议使用了),主进程会阻塞于函数。
主进程的执行流程同单进程一致。
2、apply_async(func[, args[, kwds[, callback]]])
与apply用法一致,但它是非阻塞的且支持结果返回后进行回调。
主进程循环运行过程中不等待apply_async的返回结果,在主进程结束后,即使子进程还未返回整个程序也会退出。虽然 apply_async是非阻塞的,但其返回结果的get方法却是阻塞的,如使用result.get()会阻塞主进程。
如果我们对返回结果不感兴趣, 那么可以在主进程中使用pool.close与pool.join来防止主进程退出。注意join方法一定要在close或terminate之后调用。
3、map(func, iterable[, chunksize])
map方法与在功能上等价与内置的map(),只不过单个任务会并行运行。它会使进程阻塞直到结果返回。
但需注意的是其第二个参数虽然描述的为iterable, 但在实际使用中发现只有在整个队列全部就绪后,程序才会运行子进程。
4、map_async(func, iterable[, chunksize[, callback]])
与map用法一致,但是它是非阻塞的。其有关事项见apply_async。
5、imap(func, iterable[, chunksize])
与map不同的是, imap的返回结果为iter,需要在主进程中主动使用next来驱动子进程的调用。即使子进程没有返回结果,主进程对于gen_list(l)的 iter还是会继续进行, 另外根据python2.6文档的描述,对于大数据量的iterable而言,将chunksize设置大一些比默认的1要好。
for x in pool.imap(pool_test, gen_list(l)): pass
6、imap_unordered(func, iterable[, chunksize])
同imap一致,只不过其并不保证返回结果与迭代传入的顺序一致。
7、close()
关闭pool,使其不再接受新的任务。
8、terminate()
结束工作进程,不再处理未处理的任务。
9、join()
主进程阻塞等待子进程的退出, join方法要在close或terminate之后使用。
相关文章推荐
- python进程池:multiprocessing.pool
- [转载]python中multiprocessing.pool函数介绍
- python进程池:multiprocessing.pool
- python进程池:multiprocessing.pool
- python multiprocessing.Pool 中map、map_async、apply、apply_async的区别
- python中multiprocessing.pool函数介绍<转>
- python from multiprocessing import Pool,Process,Value,Array,Manager
- python进程池:multiprocessing.pool
- python中multiprocessing.pool函数介绍_正在拉磨_新浪博客
- python进程池:multiprocessing.pool
- python中multiprocessing.pool函数介绍
- python 多进程 —— multiprocessing.Pool
- 在windows下python3使用multiprocessing.Pool时出现的问题
- Python multiprocessing.Pool: when to use apply, apply_async or map?
- Python 一个例子 multiprocessing.Pool.apply_async
- python学习笔记——multiprocessing 多进程组件 进程池Pool
- python进程池:multiprocessing.pool
- Python thread pool similar to the multiprocessing Pool?
- python进程池:multiprocessing.pool
- python multiprocessing.Pool - PicklingError: Can't pickle <type 'instancemethod'>: attribute lookup __builtin__.instancemethod failed