对Python多线程读写文件加锁的实例详解
Python的多线程在io方面比单线程还是有优势,但是在多线程开发时,少不了对文件的读写操作。在管理多个线程对同一文件的读写操作时,就少不了文件锁了。
使用fcntl
在linux下,python的标准库有现成的文件锁,来自于fcntl模块。这个模块提供了unix系统fcntl()和ioctl()的接口。
对于文件锁的操作,主要需要使用 fcntl.flock(fd, operation)这个函数。
其中,参数 fd 表示文件描述符;参数 operation 指定要进行的锁操作,该参数的取值有如下几种:
LOCK_SH:表示要创建一个共享锁,在任意时间内,一个文件的共享锁可以被多个进程拥有
LOCK_EX:表示创建一个排他锁,在任意时间内,一个文件的排他锁只能被一个进程拥有
LOCK_UN:表示删除该进程创建的锁
LOCK_MAND:它主要是用于共享模式强制锁,它可以与 LOCK_READ 或者 LOCK_WRITE联合起来使用,从而表示是否允许并发的读操作或者并发的写操作
demo
import fcntl import threading import time def writetoTxt(txtFile): id = threading.currentThread().getName() with open(txtFile, 'a') as f: fcntl.flock(f.fileno(), fcntl.LOCK_EX) #加锁 print "{0} acquire lock".format(id) f.write("write from {0} \r\n".format(id)) time.sleep(3) # 在with块外,文件关闭,自动解锁 print "{0} exit".format(id) for i in range(5): myThread = threading.Thread(target=writetoTxt, args=("test.txt",)) myThread.start()
代码运行期间,控制台将依次打印哪个线程获得了锁,在对文件进行读写。
Thread-1 acquire lock Thread-1 exit Thread-2 acquire lock Thread-2 exit Thread-3 acquire lock Thread-3 exit Thread-5 acquire lock Thread-5 exit Thread-4 acquire lock Thread-4 exit
小结
通过调用
fcntl.flock(f.fileno(), fcntl.LOCK_EX)
对文件加锁,如果有其他线程尝试对test文件加锁,会被阻塞。
当线程执行完毕的时候,锁会自动释放。或者也可以采取主动的方式解锁:调用
fcntl.flock(f.fileno(),fcntl.LOCK_UN)
函数, 对文件test解锁
使用线程锁
当多个线程共享一个数据的时候,必须要进行同步的控制,不然会出现不可预期的结果,即 “线程不安全”
线程同步能够保证多个线程安全访问竞争资源,最简单的同步机制是引入互斥锁。 互斥锁为资源引入一个状态:锁定/非锁定。
某个线程要更改共享数据时,先将其锁定,此时资源的状态为“锁定”,其他线程不能更改;
直到该线程释放资源,将资源的状态变成“非锁定”,其他的线程才能再次锁定该资源。
互斥锁保证了每次只有一个线程进行写入操作,从而保证了多线程情况下数据的正确性。
threading模块中定义了Lock类,可以方便的处理锁定:
#创建锁 mutex = threading.Lock() #锁定 mutex.acquire([timeout]) #解锁 mutex.release()
Demo
使用互斥锁实现上面的例子的代码如下:
import threading import time def writetoTxt(txtFile): id = threading.currentThread().getName() mutex.acquire(10) with open(txtFile, 'a') as f: print "Thread {0} acquire lock".format(id) f.write("write from thread {0} \r\n".format(id)) time.sleep(3) mutex.release() print "Thread {0} exit".format(id) mutex = threading.Lock() for i in range(5): myThread = threading.Thread(target=writetoTxt, args=("test.txt",)) myThread.start()
(上述代码本质上是一个顺序执行的单线程)
结果:
Thread Thread-1 acquire lock Thread Thread-1 exit Thread Thread-2 acquire lock Thread Thread-2 exit Thread Thread-3 acquire lock Thread Thread-3 exit Thread Thread-4 acquire lock Thread Thread-4 exit Thread Thread-5 acquire lock Thread Thread-5 exit
小结
当一个线程调用锁的acquire()方法获得锁时,锁就进入“locked”状态。每次只有一个线程可以获得锁。如果此时另一个线程试图获得这个锁,该线程就会变为“blocked”状态,称为“同步阻塞”。
直到拥有锁的线程调用锁的release()方法释放锁之后,锁进入“unlocked”状态。线程调度程序从处于同步阻塞状态的线程中选择一个来获得锁,并使得该线程进入运行(running)状态。
推荐我们的Python学习扣qun:774711191 ,看看前辈们是如何学习的!从基础的python脚本到web开发、爬虫、django、数据挖掘等【PDF,实战源码】,零基础到项目实战的资料都有整理。送给每一位python的小伙伴!每天都有大牛定时讲解Python技术,分享一些学习的方法和需要注意的小细节,点击加入我们的 python学习者聚集地
- 点赞
- 收藏
- 分享
- 文章举报
- Python控制多进程与多线程并发数总结
- python多线程编程:浅谈PyQt5中异步刷新UI和Python多线程总结
- python主线程捕获子线程的方法
- python主线程与子线程的结束顺序实例解析
- python 多线程中子线程和主线程相互通信方法
- python线程池(threadpool)模块使用笔记详解
- 在Python中通过threading模块定义和调用线程的方法
- Python线程池模块ThreadPoolExecutor用法分析
- python程序中的线程操作 concurrent模块使用详解
- Python 多线程,threading模块,创建子线程的两种方式示例
- Python2.7自学笔记 Day1
- Python2.7学习笔记-Day3
- Python2.7学习笔记-Day4
- 基于Python的人脸自动戴口罩系统
- 【华为云技术分享】Python 中的异常和错误
- Python+OpenCV实现实时眼动追踪
- Win10+vs2015+python3.5+CUDA9.0的caffe库编译(一)
- Python中return、break、continue三者的区别
- Python之----装饰器
- Python之----日志模块