python程序中的线程操作 concurrent模块使用详解
2020-02-17 05:26
495 查看
这篇文章主要介绍了python程序中的线程操作 concurrent模块使用详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
文章目录
一、concurrent模块的介绍
concurrent.futures模块提供了高度封装的异步调用接口
ThreadPoolExecutor线程池,提供异步调用
ProcessPoolExecutor进程池,提供异步调用
ProcessPoolExecutor和
ThreadPoolExecutor两者都实现相同的接口,该接口由抽象Executor类定义。
二、基本方法
submit(fn, *args, **kwargs):异步提交任务
map(func, *iterables, timeout=None, chunksize=1):取代for循环submit的操作
shutdown(wait=True)相当于进程池的
pool.close()+pool.join()操作
wait=True,等待池内所有任务执行完毕回收完资源后才继续
wait=False,立即返回,并不会等待池内的任务执行完毕
但不管wait参数为何值,整个程序都会等到所有任务执行完毕
submit和map必须在shutdown之前
result(timeout=None):取得结果
add_done_callback(fn):回调函数
三、进程池和线程池
池的功能:限制进程数或线程数.
什么时候限制: 当并发的任务数量远远大于计算机所能承受的范围,即无法一次性开启过多的任务数量 我就应该考虑去限制我进程数或线程数,从保证服务器不崩.
3.1 进程池
from concurrent.futures import ProcessPoolExecutor from multiprocessing import Process,current_process import time def task(i): print(f'{current_process().name} 在执行任务{i}') time.sleep(1) if __name__ == '__main__': pool = ProcessPoolExecutor(4) # 进程池里又4个进程 for i in range(20): # 20个任务 pool.submit(task,i)# 进程池里当前执行的任务i,池子里的4个进程一次一次执行任务
3.2 线程池
from concurrent.futures import ThreadPoolExecutor from threading import Thread,currentThread import time def task(i): print(f'{currentThread().name} 在执行任务{i}') time.sleep(1) if __name__ == '__main__': pool = ThreadPoolExecutor(4) # 进程池里又4个线程 for i in range(20): # 20个任务 pool.submit(task,i)# 线程池里当前执行的任务i,池子里的4个线程一次一次执行任务
推荐我们的Python学习扣qun:774711191 ,看看前辈们是如何学习的!从基础的python脚本到web开发、爬虫、django、数据挖掘等【PDF,实战源码】,零基础到项目实战的资料都有整理。送给每一位python的小伙伴!每天都有大牛定时讲解Python技术,分享一些学习的方法和需要注意的小细节,点击加入我们的 python学习者聚集地
四、Map的用法
from concurrent.futures import ThreadPoolExecutor,ProcessPoolExecutor import os,time,random def task(n): print('%s is runing' %os.getpid()) time.sleep(random.randint(1,3)) return n**2 if __name__ == '__main__': executor=ThreadPoolExecutor(max_workers=3) # for i in range(20): # future=executor.submit(task,i) executor.map(task,range(1,21)) #map取代了for+submit
五、同步和异步
理解为提交任务的两种方式
同步: 提交了一个任务,必须等任务执行完了(拿到返回值),才能执行下一行代码
异步: 提交了一个任务,不要等执行完了,可以直接执行下一行代码.
同步:相当于执行任务的串行执行
异步
from concurrent.futures import ProcessPoolExecutor from multiprocessing import Process,current_process import time n = 1 def task(i): global n print(f'{current_process().name} 在执行任务{i}') time.sleep(1) n += i return n if __name__ == '__main__': pool = ProcessPoolExecutor(4) # 进程池里又4个线程 pool_lis = [] for i in range(20): # 20个任务 future = pool.submit(task,i)# 进程池里当前执行的任务i,池子里的4个线程一次一次执行任务 # print(future.result()) # 这是在等待我执行任务得到的结果,如果一直没有结果,这里会导致我们所有任务编程了串行 # 在这里就引出了下面的pool.shutdown()方法 pool_lis.append(future) pool.shutdown(wait=True) # 关闭了池的入口,不允许在往里面添加任务了,会等带所有的任务执行完,结束阻塞 for p in pool_lis: print(p.result()) print(n)# 这里一开始肯定是拿到0的,因为我只是去告诉操作系统执行子进程的任务,代码依然会继续往下执行 # 可以用join去解决,等待每一个进程结束后,拿到他的结果
六、回调函数
import time from threading import Thread,currentThread from concurrent.futures import ThreadPoolExecutor def task(i): print(f'{currentThread().name} 在执行{i}') time.sleep(1) return i**2 # parse 就是一个回调函数 def parse(future): # 处理拿到的结果 print(f'{currentThread().name} 结束了当前任务') print(future.result()) if __name__ == '__main__': pool = ThreadPoolExecutor(4) for i in range(20): future = pool.submit(task,i) ''' 给当前执行的任务绑定了一个函数,在当前任务结束的时候就会触发这个函数(称之为回调函数) 会把future对象作为参数传给函数 注:这个称为回调函数,当前任务处理结束了,就回来调parse这个函数 ''' future.add_done_callback(parse) # add_done_callback (parse) parse是一个回调函数 # add_done_callback () 是对象的一个绑定方法,他的参数就是一个函数
以上就是本文的全部内容,希望对大家的学习有所帮助
- 点赞
- 收藏
- 分享
- 文章举报
相关文章推荐
- Python 多线程,threading模块,创建子线程的两种方式示例
- Python2.7自学笔记 Day1
- Python2.7学习笔记-Day3
- Python2.7学习笔记-Day4
- 基于Python的人脸自动戴口罩系统
- 【华为云技术分享】Python 中的异常和错误
- Python+OpenCV实现实时眼动追踪
- Win10+vs2015+python3.5+CUDA9.0的caffe库编译(一)
- Python中return、break、continue三者的区别
- Python之----装饰器
- Python之----日志模块
- python3.7安装pytorch
- 用powershell实现Python
- Python基础-生成器
- Python查看微信好友男女比例及地域为位置和图灵机器人自动聊天
- python学习笔记(一)
- Python爬虫 获取免费的代理Ip
- numpy基本操作
- python标准库 os
- PEP8 规范(python)