完成端口模型
2015-09-18 21:40
309 查看
参考博文(感觉写的真的太好了!)—— http://blog.csdn.net/piggyxp/article/details/6922277
完成端口(Completion Port)是一种在Windows服务平台上比较成熟和高效的I/O操作方法,它使用线程池处理异步I/O请求。利用完成端口模型,应用程序可以管理成百上千个Socket。是真正意义上的异步模型,大大提高了应用程序性能,提高了并发处理能力。
可以把完成端口看成系统维护的一个队列,操作系统把重叠I/O操作完成的事件通知放到该队列中,因此称其为“完成”端口。当Socket被创建后,可以将其与一个完成端口联系起来。
一个应用程序可以创建多个工作线程用于处理完成端口上的通知事件。通常应该为每个CPU创建一个线程。
服务器模型工作原理:服务器创建线程与客户端进行通信。根据线程管理方式不同,服务器程序划分为1.串行线程(单个线程处理客户端请求,同一时刻处理一个客户端请求),2.并行线程(使用一个线程来等待客户端的连接请求,然后创建新线程与客户端进行通信。每个客户端都拥有一个专门的通信服务线程)。
完成端口模型工作原理:属于并行线程模型。规定了并行线程数量,使用线程池对线程进行管理。(线程池限制了工作线程数量,避免了反复创建线程的开销,减少了线程调度的开销。)
完成端口工作过程:有几个CPU就开几个线程准备着,避免线程上下文切换,线程要执行的时候总会有CPU资源用。当客户请求到达时,将请求加入消息队列。线程排队逐一处理消息队列中的消息。线程空闲时被系统挂起,不占用CPU周期。
“完成”——网络I/O操作完成后通知。系统通知我们时,不是有数据从网络上要来,而是数据已经到家门口了,仆人已经将其接入客厅。
基本流程:1-4 部署
1.CreateIoCompletionPort() 创建完成端口,并保存句柄
2.有多少个处理器,就建立多少个线程
3.接受客户端连接AcceptEx()(也可以用accept)
4.每当客户端连接时,调用CreateIoCompletionPort()将新的socket与完成端口绑定
5.线程分别调用GetQueuedCompletionStatus(),扫描队列里是否有网络通信请求,有则取回执行线程处理代码。
AcceptEx()的好处:
1.先建立Socket,然后才发出的AcceptEx调用
2.不阻塞,可以同时在完成端口上投递多个请求
3.在投递AcceptEx时,还可同时收取客户端发来的第一组数据——在我们收到AcceptEx完成的通知的时候,我们就已经把这第一组数据接完毕了。但是这也意味着,如果客户端只是连入但是不发送数据的话,我们就不会收到这个AcceptEx完成的通知!
流程:1-4初始化
1.创建完成端口对象
CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0 );
INVALID_HANDLE_VALUE:表示与文件句柄无关的I/O完成端口;
完成端口句柄NULL:创建;
完成建;
允许并发处理I/O完成数据包的最大线程数0;系统根据CPU数量来自动选择。
2.获取CPU核心数量并创建对应线程数——充分利用CPU资源
SYSTEM_INFO sys;
GetSystemInfo(&sys);
int m_nProcessors = sys.dwNumberOfProcessors;
3.创建监听socket,绑定到完成端口并进行监听连接请求
4.再次调用CreateIoCompletionPort()绑定Socket与之前创建的完成端口(与第一次调用参数不同,作用不一样)
5.在监听Socket上投递AcceptEx请求
(a.静态链接mswsock.lib来使用AcceptEx。不推荐。b.WSAIoctl 配合SIO_GET_EXTENSION_FUNCTION_POINTER参数来获取函数的指针,再调用AcceptEx。原因:未取得函数指针的情况下就调用AcceptEx的开销很大,AcceptEx 实际上是存在于Winsock2结构体系之外。直接调用AcceptEx首先代码就只能在微软的平台上用,没有办法在其他平台上调用到该平台提供的AcceptEx的版本(如果有的话)。更糟糕的是,每次调用AcceptEx时,Service
Provider都得要通过WSAIoctl()获取一次该函数指针,效率太低。)
6.使用 GetQueuedCompletionStatus() 监控完成端口
让线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要处理的网络操作或者超出了等待的时间限制为止。完成端口上出现了已完成的I/O请求,那么等待的线程会被立刻唤醒,然后继续执行后续的代码。
7.接收客户端连接,并获得使用GetAcceptExSockAddrs()获得信息
8.WSARecv()接收数据
9.关闭完成端口PostQueuedCompletionStatus()
在Vista/Win7系统中,可以直接CloseHandle关掉完成端口的句柄,所有在GetQueuedCompletionStatus()的线程都会被唤醒,并且返回FALSE,这时调用GetLastError()获取错误码时,会返回ERROR_INVALID_HANDLE,这样每一个线程就可以通过这种方式退出了。
完成端口(Completion Port)是一种在Windows服务平台上比较成熟和高效的I/O操作方法,它使用线程池处理异步I/O请求。利用完成端口模型,应用程序可以管理成百上千个Socket。是真正意义上的异步模型,大大提高了应用程序性能,提高了并发处理能力。
可以把完成端口看成系统维护的一个队列,操作系统把重叠I/O操作完成的事件通知放到该队列中,因此称其为“完成”端口。当Socket被创建后,可以将其与一个完成端口联系起来。
一个应用程序可以创建多个工作线程用于处理完成端口上的通知事件。通常应该为每个CPU创建一个线程。
服务器模型工作原理:服务器创建线程与客户端进行通信。根据线程管理方式不同,服务器程序划分为1.串行线程(单个线程处理客户端请求,同一时刻处理一个客户端请求),2.并行线程(使用一个线程来等待客户端的连接请求,然后创建新线程与客户端进行通信。每个客户端都拥有一个专门的通信服务线程)。
完成端口模型工作原理:属于并行线程模型。规定了并行线程数量,使用线程池对线程进行管理。(线程池限制了工作线程数量,避免了反复创建线程的开销,减少了线程调度的开销。)
完成端口工作过程:有几个CPU就开几个线程准备着,避免线程上下文切换,线程要执行的时候总会有CPU资源用。当客户请求到达时,将请求加入消息队列。线程排队逐一处理消息队列中的消息。线程空闲时被系统挂起,不占用CPU周期。
“完成”——网络I/O操作完成后通知。系统通知我们时,不是有数据从网络上要来,而是数据已经到家门口了,仆人已经将其接入客厅。
基本流程:1-4 部署
1.CreateIoCompletionPort() 创建完成端口,并保存句柄
2.有多少个处理器,就建立多少个线程
3.接受客户端连接AcceptEx()(也可以用accept)
4.每当客户端连接时,调用CreateIoCompletionPort()将新的socket与完成端口绑定
5.线程分别调用GetQueuedCompletionStatus(),扫描队列里是否有网络通信请求,有则取回执行线程处理代码。
AcceptEx()的好处:
1.先建立Socket,然后才发出的AcceptEx调用
2.不阻塞,可以同时在完成端口上投递多个请求
3.在投递AcceptEx时,还可同时收取客户端发来的第一组数据——在我们收到AcceptEx完成的通知的时候,我们就已经把这第一组数据接完毕了。但是这也意味着,如果客户端只是连入但是不发送数据的话,我们就不会收到这个AcceptEx完成的通知!
流程:1-4初始化
1.创建完成端口对象
CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0 );
INVALID_HANDLE_VALUE:表示与文件句柄无关的I/O完成端口;
完成端口句柄NULL:创建;
完成建;
允许并发处理I/O完成数据包的最大线程数0;系统根据CPU数量来自动选择。
2.获取CPU核心数量并创建对应线程数——充分利用CPU资源
SYSTEM_INFO sys;
GetSystemInfo(&sys);
int m_nProcessors = sys.dwNumberOfProcessors;
3.创建监听socket,绑定到完成端口并进行监听连接请求
4.再次调用CreateIoCompletionPort()绑定Socket与之前创建的完成端口(与第一次调用参数不同,作用不一样)
5.在监听Socket上投递AcceptEx请求
(a.静态链接mswsock.lib来使用AcceptEx。不推荐。b.WSAIoctl 配合SIO_GET_EXTENSION_FUNCTION_POINTER参数来获取函数的指针,再调用AcceptEx。原因:未取得函数指针的情况下就调用AcceptEx的开销很大,AcceptEx 实际上是存在于Winsock2结构体系之外。直接调用AcceptEx首先代码就只能在微软的平台上用,没有办法在其他平台上调用到该平台提供的AcceptEx的版本(如果有的话)。更糟糕的是,每次调用AcceptEx时,Service
Provider都得要通过WSAIoctl()获取一次该函数指针,效率太低。)
6.使用 GetQueuedCompletionStatus() 监控完成端口
让线程进入不占用CPU的睡眠状态,直到完成端口上出现了需要处理的网络操作或者超出了等待的时间限制为止。完成端口上出现了已完成的I/O请求,那么等待的线程会被立刻唤醒,然后继续执行后续的代码。
7.接收客户端连接,并获得使用GetAcceptExSockAddrs()获得信息
8.WSARecv()接收数据
9.关闭完成端口PostQueuedCompletionStatus()
在Vista/Win7系统中,可以直接CloseHandle关掉完成端口的句柄,所有在GetQueuedCompletionStatus()的线程都会被唤醒,并且返回FALSE,这时调用GetLastError()获取错误码时,会返回ERROR_INVALID_HANDLE,这样每一个线程就可以通过这种方式退出了。
相关文章推荐
- Java链接数据库,以及做添删查改所用的工具包--源代码
- 技术人生:故事之六 NOVELL和NT谁好
- UI控件Lable和Button的简单总结
- MySQL 5.6.19 二进制安装
- 经典排序算法总结与实现
- 26 THINGS I LEARNED IN THE DEEP LEARNING SUMMER SCHOOL
- Android公共库的建立方法
- 第三周项目4-顺序表应用(1)
- 临界区管理
- 自学QT之实现窗口移动
- 求出字符串中第一个只出现一次的字符,要求时间复杂度小于O(2n)
- Android自定义View---PorterDuffXfermode两个交叠图形的显示
- MySQL中两种日期类型datetime和timestamp的区别
- 重学C++Primer笔记5---一些基本语法需要特别注意的地方
- xshell linux与Windows传输文件 sz rz
- Android公共库的建立方法
- 第三方静态库制作
- 第三周项目4-顺序表应用(2)
- 第一次面试知识点总结
- 企业敏捷变革所面临的三个核心问题: Product Owner, 既有思维, 软件架构