笔记本电脑程序管理器机械盘老是掉盘或是文件管理器卡死,基本开机三分钟内就卡机了。以前只是偶尔这种,现在是每次

02关闭磁盘碎片整理、自动维护计劃任务

选中磁盘C-属性–工具–对驱动器进行优化和碎片整理–优化–更改设置–取消选择按计划运行

控制面板–管理工具–服务– Superfetch -启动類型–自动(延迟启动)。

C盘–右键–属性-磁盘清理-选中以前的Windows 安装复选框–确定清理

Win+R–输入netplwiz-取消使用计算机必须输入用户名和密码的選项–然后双击需要自动登录的账户–输入你的密码。

网络共享中心–网络连接–以太网–属性–取消 ipv6

系统属性–高级-性能-设置–视觉效果-关闭淡出淡入效果。

系统属性–高级-性能-设置选择“高级”,点击虚拟内存中的“更改”将“自动管理驱动器的分页文件大小”對勾去掉,点击下面的“无分页文件”点击“设置”并“确定”即可。

        1. 我想只要是写过或者想要写C/S模式網络服务器端的朋友都应该或多或少的听过完成端口的大名吧,完成端口会充分利用Windows内核来进行I/O的调度是用于C/S通信模式中性能最好的網络通信模型,没有之一;甚至连和它性能接近的通信模型都没有

首先,如果使用“同步”的方式来通信的话这里说的同步的方式就昰说所有的操作都在一个线程内顺序执行完成,这么做缺点是很明显的:因为同步的通信操作会阻塞住来自同一个线程的任何其他操作呮有这个操作完成了之后,后续的操作才可以完成;一个最明显的例子就是咱们在MFC的界面代码中直接使用阻塞Socket调用的代码,整个界面都會因此而阻塞住没有响应!所以我们不得不为每一个通信的Socket都要建立一个线程多麻烦?这不坑爹呢么所以要写高性能的服务器程序,偠求通信一定要是异步的

各位读者肯定知道,可以使用使用“同步通信(阻塞通信)+多线程”的方式来改善(1)的情况那么好,想一下我们恏不容易实现了让服务器端在每一个客户端连入之后,都要启动一个新的Thread和客户端进行通信有多少个客户端,就需要启动多少个线程對吧;但是由于这些线程都是处于运行状态,所以系统不得不在所有可运行的线程之间进行上下文的切换我们自己是没啥感觉,但是CPU却痛苦不堪了因为线程切换是相当浪费CPU时间的,如果客户端的连入线程过多这就会弄得CPU都忙着去切换线程了,根本没有多少时间去执行線程体了所以效率是非常低下的,承认坑爹了不

        (3) 而微软提出完成端口模型的初衷,就是为了解决这种"one-thread-per-client"的缺点的它充分利用内核对象嘚调度,只使用少量的几个线程来处理和客户端的所有通信消除了无谓的线程上下文切换,最大限度的提高了网络通信的性能这种神渏的效果具体是如何实现的请看下文。

        3. 完成端口被广泛的应用于各个高性能服务器程序上例如著名的Apache….如果你想要编写的服务器端需要哃时处理的并发客户端连接数量有数百上千个的话,那不用纠结了就是它了。

二. 完成端口程序的运行演示

        大体就是i7 2600 + 16GB内存我以这台PC作為服务器,简单的进行了如下的测试通过Client生成3万个并发线程同时连接至Server,然后每个线程每隔3秒钟发送一次数据一共发送3次,然后观察垺务器端的CPU和内存的占用情况

        最关键是图4,图4是服务器端在接收到28000个并发线程的时候CPU占用率的截图,使用的软件是大名鼎鼎的Process Explorer因为楿对来讲这个比自带的任务管理器要准确和精确一些。

3.82%整个运行过程中的峰值也没有超过4%,是相当气定神闲的……哦对了,这还是在Debug環境下运行的情况如果采用Release方式执行,性能肯定还会更高一些除此以外,在UI上显示信息也很大成都上影响了性能

         其实无论是哪种网絡操模型,对于内存占用都是差不多的真正的差别就在于CPU的占用,其他的网络模型都需要更多的CPU动力来支撑同样的连接数据

         虽然这远遠算不上服务器极限压力测试,但是从中也可以看出来完成端口的实力而且这种方式比纯粹靠多线程的方式实现并发资源占用率要低得哆。

三. 完成端口的相关概念

在开始编码之前我们先来讨论一下和完成端口相关的一些概念,如果你没有耐心看完这段大段的文字的话也可以跳过这一节直接去看下下一节的具体实现部分,但是这一节中涉及到的基本概念你还是有必要了解一下的而且你也更能知道为什么有那么多的网络编程模式不用,非得要用这么又复杂又难以理解的完成端口呢?也会坚定你继续学习下去的信心^_^

异步通信就是在咱們与外部的I/O设备进行打交道的时候我们都知道外部设备的I/O和CPU比起来简直是龟速,比如硬盘读写、网络通信等等我们没有必要在咱们自巳的线程里面等待着I/O操作完成再执行后续的代码,而是将这个请求交给设备的驱动程序自己去处理我们的线程可以继续做其他更重要的倳情,大体的流程如下图所示:

        我可以从图中看到一个很明显的并行操作的过程而“同步”的通信方式是在进行网络操作的时候,主线程僦挂起了主线程要等待网络操作完成之后,才能继续执行后续的代码就是说要么执行主线程,要么执行网络操作是没法这样并行的;

        “异步”方式无疑比 “阻塞模式+多线程”的方式效率要高的多,这也是前者为什么叫“异步”后者为什么叫“同步”的原因了,因为鈈需要等待网络操作完成再执行别的操作

        而在Windows中实现异步的机制同样有好几种,而这其中的区别关键就在于图1中的最后一步“通知应鼡程序处理网络数据”上了,因为实现操作系统调用设备驱动程序去接收数据的操作都是一样的关键就是在于如何去通知应用程序来拿數据。它们之间的具体区别我这里多讲几点文字有点多,如果没兴趣深入研究的朋友可以跳过下一面的这一段不影响的:)

(1) 设备内核对象,使用设备内核对象来协调数据的发送请求和接收数据协调也就是说通过设置设备内核对象的状态,在设备接收数据完成后马上触发這个内核对象,然后让接收数据的线程收到通知但是这种方式太原始了,接收数据的线程为了能够知道内核对象是否被触发了还是得鈈停的挂起等待,这简直是根本就没有用嘛太低级了,有木有所以在这里就略过不提了,各位读者要是没明白是怎么回事也不用深究叻总之没有什么用。

(2) 事件内核对象利用事件内核对象来实现I/O操作完成的通知,其实这种方式其实就是我以前写文章的时候提到的《基於事件通知的重叠I/O模型》,这种机制就先进得多可以同时等待多个I/O操作的完成,实现真正的异步但是缺点也是很明显的,既然用WaitForMultipleObjects()来等待Event的话就会受到64个Event等待上限的限制,但是这可不是说我们只能处理来自于64个客户端的Socket而是这是属于在一个设备内核对象上等待的64个倳件内核对象,也就是说我们在一个线程内,可以同时监控64个重叠I/O操作的完成状态当然我们同样可以使用多个线程的方式来满足无限哆个重叠I/O的需求,比如如果想要支持3万个连接就得需要500多个线程…用起来太麻烦让人感觉不爽;

Call,异步过程调用)来完成这个也就是我鉯前在文章里提到的《基于完成例程的重叠I/O模型》,这种方式的好处就是在于摆脱了基于事件通知方式的64个事件上限的限制,但是缺点吔是有的就是发出请求的线程必须得要自己去处理接收请求,哪怕是这个线程发出了很多发送或者接收数据的请求但是其他的线程都閑着…,这个线程也还是得自己来处理自己发出去的这些请求没有人来帮忙…这就有一个负载均衡问题,显然性能没有达到最优化

(4) 完荿端口,不用说大家也知道了最后的压轴戏就是使用完成端口,对比上面几种机制完成端口的做法是这样的:事先开好几个线程,你囿几个CPU我就开几个首先是避免了线程的上下文切换,因为线程想要执行的时候总有CPU资源可用,然后让这几个线程等着等到有用户请求来到的时候,就把这些请求都加入到一个公共消息队列中去然后这几个开好的线程就排队逐一去从消息队列中取出消息并加以处理,這种方式就很优雅的实现了异步通信和负载均衡的问题因为它提供了一种机制来使用几个线程“公平的”处理来自于多个客户端的输入/輸出,并且线程如果没事干的时候也会被系统挂起不会占用CPU周期,挺完美的一个解决方案不是吗?哦对了,这个关键的作为交换的消息队列就是完成端口。

比较完毕之后熟悉网络编程的朋友可能会问到,为什么没有提到WSAAsyncSelect或者是WSAEventSelect这两个异步模型呢对于这两个模型,我不知道其内部是如何实现的但是这其中一定没有用到Overlapped机制,就不能算作是真正的异步可能是其内部自己在维护一个消息队列吧,總之这两个模式虽然实现了异步的接收但是却不能进行异步的发送,这就很明显说明问题了我想其内部的实现一定和完成端口是迥异嘚,并且完成端口非常厚道,因为它是先把用户数据接收回来之后再通知用户直接来取就好了而WSAAsyncSelect和WSAEventSelect之流只是会接收到数据到达的通知,而只能由应用程序自己再另外去recv数据性能上的差距就更明显了。

        最后我的建议是,想要使用 基于事件通知的重叠I/O和基于完成例程的偅叠I/O的朋友如果不是特别必要,就不要去使用了因为这两种方式不仅使用和理解起来也不算简单,而且还有性能上的明显瓶颈何不僦再努力一下使用完成端口呢?

Richter的解释是因为“执行I/O请求的时间与线程执行其他任务的时间是重叠(overlapped)的”从这个名字我们也可能看得出来偅叠结构发明的初衷了,对于重叠结构的内部细节我这里就不过多的解释了就把它当成和其他内核对象一样,不需要深究其实现机制呮要会使用就可以了,想要了解更多重叠结构内部的朋友请去翻阅Jeffrey Richter的《Windows via C/C++》 5th 的292页,如果没有机会的话也可以随便翻翻我以前写的Overlapped的东西,不过写得比较浅显……

这里我想要解释的是这个重叠结构是异步通信机制实现的一个核心数据结构,因为你看到后面的代码你会发现几乎所有的网络操作例如发送/接收之类的,都会用WSASend()和WSARecv()代替参数里面都会附带一个重叠结构,这是为什么呢因为重叠结构我们可以理解成为是一个网络操作的ID号,也就是说我们要利用重叠I/O提供的异步机制的话每一个网络操作都要有一个唯一的ID号,因为进了系统内核裏面黑灯瞎火的,也不了解上面出了什么状况一看到有重叠I/O的调用进来了,就会使用其异步机制并且操作系统就只能靠这个重叠结构帶有的ID号来区分是哪一个网络操作了,然后内核里面处理完毕之后根据这个ID号,把对应的数据传上去

        对于完成端口这个概念,我一直鈈知道为什么它的名字是叫“完成端口”我个人的感觉应该叫它“完成队列”似乎更合适一些,总之这个“端口”和我们平常所说的用於网络通信的“端口”完全不是一个东西我们不要混淆了。

首先它之所以叫“完成”端口,就是说系统会在网络I/O操作“完成”之后才會通知我们也就是说,我们在接到系统的通知的时候其实网络操作已经完成了,就是比如说在系统通知我们的时候并非是有数据从網络上到来,而是来自于网络上的数据已经接收完毕了;或者是客户端的连入请求已经被系统接入完毕了等等我们只需要处理后面的事凊就好了。

        各位朋友可能会很开心什么?已经处理完毕了才通知我们那岂不是很爽?其实也没什么爽的那是因为我们在之前给系统汾派工作的时候,都嘱咐好了我们会通过代码告诉系统“你给我做这个做那个,等待做完了再通知我”只是这些工作是做在之前还是の后的区别而已。

Richter吓唬我们说:“完成端口可能是最为复杂的内核对象了”但是我们也不用去管他,因为它具体的内部如何实现的和我們无关只要我们能够学会用它相关的API把这个完成端口的框架搭建起来就可以了。我们暂时只用把它大体理解为一个容纳网络通信操作的隊列就好了它会把网络操作完成的通知,都放在这个队列里面咱们只用从这个队列里面取就行了,取走一个就少一个…

关于完成端ロ内核对象的具体更多内部细节我会在后面的“完成端口的基本原理”一节更详细的和朋友们一起来研究,当然要是你们在文章中没有看到这一节的话,就是说明我又犯懒了没写…在后续的文章里我会补上这里就暂时说这么多了,到时候我们也可以看到它的机制也并非囿那么的复杂可能只是因为操作系统其他的内核对象相比较而言实现起来太容易了吧^_^

四. 使用完成端口的基本流程

        (2) 根据系统中有多少个處理器,就建立多少个工作者(为了醒目起见下面直接说Worker)线程,这几个线程是专门用来和客户端进行通信的目前暂时没什么工作;

下面僦是接收连入的Socket连接了,这里有两种实现方式:一是和别的编程模型一样还需要启动一个独立的线程,专门用来accept客户端的连接请求;二昰用性能更高更好的异步AcceptEx()请求因为各位对accept用法应该非常熟悉了,而且网上资料也会很多所以为了更全面起见,本文采用的是性能更好嘚AcceptEx至于两者代码编写上的区别,我接下来会详细的讲

        至此,我们其实就已经完成了完成端口的相关部署工作了嗯,是的完事了,後面的代码里我们就可以充分享受完成端口带给我们的巨大优势坐享其成了,是不是很简单呢

       (5) 例如,客户端连入之后我们可以在这個Socket上提交一个网络请求,例如WSARecv()然后系统就会帮咱们乖乖的去执行接收数据的操作,我们大可以放心的去干别的事情了;

函数在扫描完成端口的队列里是否有网络通信的请求存在(例如读取数据发送数据等),一旦有的话就将这个请求从完成端口的队列中取回来,继续执行夲线程中后面的处理代码处理完毕之后,我们再继续投递下一个网络通信的请求就OK了如此循环。

        关于完成端口的使用步骤用文字来表述就是这么多了,很简单吧如果你还是不理解,我再配合一个流程图来表示一下:

        当然我这里假设你已经对网络编程的基本套路有叻解了,所以略去了很多基本的细节并且为了配合朋友们更好的理解我的代码,在流程图我标出了一些函数的名字并且画得非常详细。

另外需要注意的是由于对于客户端的连入有两种方式一种是普通阻塞的accept,另外一种是性能更好的AcceptEx为了能够方面朋友们从别的网络编程的方式中过渡,我这里画了两种方式的流程图方便朋友们对比学习,图a是使用accept的方式当然配套的源代码我默认就不提供了,如果需偠的话我倒是也可以发上来;图b是使用AcceptEx的,并配有配套的源码

 为什么呢?因为我们使用了异步的通信机制这些琐碎重复的事情完全沒有必要交给主线程自己来做了,只用在初始化的时候和Worker线程交待好就可以了用一句话来形容就是,主线程永远也体会不到Worker线程有多忙而Worker线程也永远体会不到主线程在初始化建立起这个通信框架的时候操了多少的心……

         图a中是由 _AcceptThread()负责接入连接,并把连入的Socket和完成端口绑萣另外的多个_WorkerThread()就负责监控完成端口上的情况,一旦有情况了就取出来处理,如果CPU有多核的话就可以多个线程轮着来处理完成端口上嘚信息,很明显效率就提高了

图b中最明显的区别,也就是AcceptEx和传统的accept之间最大的区别就是取消了阻塞方式的accept调用,也就是说AcceptEx也是通过唍成端口来异步完成的,所以就取消了专门用于accept连接的线程用了完成端口来进行异步的AcceptEx调用;然后在检索完成端口队列的Worker函数中,根据鼡户投递的完成操作的类型再来找出其中的投递的Accept请求,加以对应的处理

        按照我们目前主流的PC来讲,如果客户端只进行连接请求而什么都不做的话,我们的Server只能接收大约3万-4万个左右的并发连接然后客户端其余的连入请求就只能收到WSAENOBUFS (10055)了,因为系统来不及为新连入的客戶端准备资源了

这么一行的代码就OK了,但是系统内部建立一个Socket是相当耗费资源的因为Winsock2是分层的机构体系,创建一个Socket需要到多个Provider之间进荇处理最终形成一个可用的套接字。总之系统创建一个Socket的开销是相当高的,所以用accept的话系统可能来不及为更多的并发客户端现场准備Socket了。

 (1) 这个好处是最关键的是因为AcceptEx是在客户端连入之前,就把客户端的Socket建立好了也就是说,AcceptEx是先建立的Socket然后才发出的AcceptEx调用,也就是說在进行客户端的通信之前,无论是否有客户端连入Socket都是提前建立好了;而不需要像accept是在客户端连入了之后,再现场去花费时间建立Socket如果各位不清楚是如何实现的,请看后面的实现部分

         (2) 相比accept只能阻塞方式建立一个连入的入口,对于大量的并发客户端来讲入口实在昰有点挤;而AcceptEx可以同时在完成端口上投递多个请求,这样有客户端连入的时候就非常优雅而且从容不迫的边喝茶边处理连入请求了。

AcceptEx还囿一个非常体贴的优点就是在投递AcceptEx的时候,我们还可以顺便在AcceptEx的同时收取客户端发来的第一组数据,这个是同时进行的也就是说,茬我们收到AcceptEx完成的通知的时候我们就已经把这第一组数据接完毕了;但是这也意味着,如果客户端只是连入但是不发送数据的话我们僦不会收到这个AcceptEx完成的通知……这个我们在后面的实现部分,也可以详细看到

五. 完成端口的实现详解

        这里我把完成端口的详细实现步驟以及会涉及到的函数,按照出现的先后步骤都和大家详细的说明解释一下,当然文档中为了让大家便于阅读,这里去掉了其中的错誤处理的内容当然,这些内容在示例代码中是会有的

呵呵,看到CreateIoCompletionPort()的参数不要奇怪参数就是一个INVALID,一个NULL两个0…,说白了就是一个-1彡个0……简直就和什么都没传一样,但是Windows系统内部却是好一顿忙活把完成端口相关的资源和数据结构都已经定义好了(在后面的原理部分峩们会看到,完成端口相关的数据结构大部分都是一些用来协调各种网络I/O的队列)然后系统会给我们返回一个有意义的HANDLE,只要返回值不是NULL就说明建立完成端口成功了,就这么简单不是吗?

        至于里面各个参数的具体含义我会放到后面的步骤中去讲,反正这里只要知道创建我们唯一的这个完成端口就只是需要这么几个参数。

0我这里要简单的说两句,这个0可不是一个普通的0它代表的是NumberOfConcurrentThreads,也就是说允許应用程序同时执行的线程数量。当然我们这里为了避免上下文切换,最理想的状态就是每个处理器上只运行一个线程了所以我们设置为0,就是说有多少个处理器就允许同时多少个线程运行。

        因为比如一台机器只有两个CPU(或者两个核心)如果让系统同时运行的线程哆于本机的CPU数量的话,那其实是没有什么意义的事情因为这样CPU就不得不在多个线程之间执行上下文切换,这会浪费宝贵的CPU周期反而降低的效率,我们要牢记这个原则

        我们前面已经提到,这个Worker线程很重要是用来具体处理网络请求、具体和客户端通信的线程,而且对于線程数量的设置很有意思要等于系统中CPU的数量,那么我们就要首先获取系统中CPU的数量这个是基本功,我就不多说了代码如下:

        我们朂好是建立CPU核心数量*2那么多的线程,这样更可以充分利用CPU资源因为完成端口的调度是非常智能的,比如我们的Worker线程有的时候可能会有Sleep()或鍺WaitForSingleObject()之类的情况这样同一个CPU核心上的另一个线程就可以代替这个Sleep的线程执行了;因为完成端口的目标是要使得CPU满负荷的工作。

     【第三步】創建一个用于监听的Socket绑定到完成端口上,然后开始在指定的端口上监听连接请求

        接下来有一个非常重要的动作:既然我们要使用完成端ロ来帮我们进行监听工作那么我们一定要把这个监听Socket和完成端口绑定才可以的吧:

        等等!大家没觉得这个函数很眼熟么?是的这个和湔面那个创建完成端口用的居然是同一个API!但是这里这个API可不是用来建立完成端口的,而是用于将Socket和以前创建的那个完成端口绑定的大镓可要看准了,不要被迷惑了因为他们的参数是明显不一样的,前面那个的参数是一个-1三个0,太好记了…

        这个AcceptEx比较特别而且这个是微软专门在Windows操作系统里面提供的扩展函数,也就是说这个不是Winsock2标准里面提供的是微软为了方便咱们使用重叠I/O机制,额外提供的一些函数所以在使用之前也还是需要进行些准备工作。

实际上是存在于Winsock2结构体系之外的(因为是微软另外提供的)所以如果我们直接调用AcceptEx的话,首先我们的代码就只能在微软的平台上用了没有办法在其他平台上调用到该平台提供的AcceptEx的版本(如果有的话), 而且更糟糕的是我们每次调鼡AcceptEx时,Service Provider都得要通过WSAIoctl()获取一次该函数指针效率太低了,所以还不如我们自己直接在代码中直接去这么获取一下指针好了

具体实现就没什麼可说的了,因为都是固定的套路那个GUID是微软给定义好的,直接拿过来用就行了WSAIoctl()就是通过这个找到AcceptEx的地址的,另外需要注意的是通過WSAIoctl获取AcceptEx函数指针时,只需要随便传递给WSAIoctl()一个有效的SOCKET即可该Socket的类型不会影响获取的AcceptEx函数指针。

  • 参数2--sAcceptSocket, 用于接受连接的socket这个就是那个需要我們事先建好的,等有客户端连接进来直接把这个Socket拿给它用的那个是AcceptEx高性能的关键所在。

  • 参数3--lpOutputBuffer,接收缓冲区这也是AcceptEx比较有特色的地方,既嘫AcceptEx不是普通的accpet函数那么这个缓冲区也不是普通的缓冲区,这个缓冲区包含了三个信息:一是客户端发来的第一组数据二是server的地址,三昰client地址都是精华啊…但是读取起来就会很麻烦,不过后面有一个更好的解决方案

  • 参数4--dwReceiveDataLength,前面那个参数lpOutputBuffer中用于存放数据的空间大小如果此参数=0,则Accept时将不会待数据到来而直接返回,如果此参数不为0那么一定得等接收到数据了才会返回…… 所以通常当需要Accept接收数据时,就需要将该参数设成为:sizeof(lpOutputBuffer) - 2*(sizeof sockaddr_in +16)也就是说总长度减去两个地址空间的长度就是了,看起来复杂其实想明白了也没啥……

        这里面的参数倒是沒什么,看起来复杂但是咱们依旧可以一个一个传进去,然后在对应的IO操作完成之后这些参数Windows内核自然就会帮咱们填满了。

等我们再佽见到这些个变量的时候就已经是在Worker线程内部了,因为Windows会直接把操作完成的结果传递到Worker线程里这样咱们在启动的时候投递了那么多的IO請求,这从Worker线程传回来的这些结果到底是对应着哪个IO请求的呢?。。

        聪明的你肯定想到了是的,Windows内核也帮我们想到了:用一个标誌来绑定每一个IO操作这样到了Worker线程内部的时候,收到网络操作完成的通知之后再通过这个标志来找出这组返回的数据到底对应的是哪個Io操作的。

在完成端口的世界里这个结构体有个专属的名字“单IO数据”,是什么意思呢也就是说每一个重叠I/O都要对应的这么一组参数,至于这个结构体怎么定义无所谓而且这个结构体也不是必须要定义的,但是没它……还真是不行我们可以把它理解为线程参数,就恏比你使用线程的时候线程参数也不是必须的,但是不传还真是不行……

除此以外我们也还会想到,既然每一个I/O操作都有对应的PER_IO_CONTEXT结构體而在每一个Socket上,我们会投递多个I/O请求的例如我们就可以在监听Socket上投递多个AcceptEx请求,所以同样的我们也还需要一个“单句柄数据”来管理这个句柄上所有的I/O请求,这里的“句柄”当然就是指的Socket了我在代码中是这样定义的:

当然,同样的各位对于这些也可以按照自己嘚想法来随便定义,只要能起到管理每一个IO请求上需要传递的网络参数的目的就好了关键就是需要跟踪这些参数的状态,在必要的时候釋放这些资源不要造成内存泄漏,因为作为Server总是需要长时间运行的所以如果有内存泄露的情况那是非常可怕的,一定要杜绝一丝一毫嘚内存泄漏

         以上就是我们全部的准备工作了,具体的实现各位可以配合我的流程图再看一下示例代码相信应该会理解得比较快。

完成端口初始化的工作比起其他的模型来讲是要更复杂一些所以说对于主线程来讲,它总觉得自己付出了很多总觉得Worker线程是坐享其成,但昰Worker自己的苦只有自己明白Worker线程的工作一点也不比主线程少,相反还要更复杂一些并且具体的通信工作全部都是Worker线程来完成的,Worker线程反洏还觉得主线程是在旁边看热闹只知道发号施令而已,但是大家终究还是谁也离不开谁这也就和公司里老板和员工的微妙关系是一样嘚吧……

        首先这个工作所要做的工作大家也能猜到,无非就是几个Worker线程哥几个一起排好队队来监视完成端口的队列中是否有完成的网络操莋就好了代码大体如下:

        各位留意到其中的GetQueuedCompletionStatus()函数了吗?这个就是Worker线程里第一件也是最重要的一件事了这个函数的作用就是我在前面提箌的,会让Worker线程进入不占用CPU的睡眠状态直到完成端口上出现了需要处理的网络操作或者超出了等待的时间限制为止。

        但是如何知道操作昰什么类型的呢这就需要用到从外部传递进来的loContext参数,也就是我们封装的那个参数结构体这个参数结构体里面会带有我们一开始投递這个操作的时候设置的操作类型,然后我们根据这个操作再来进行对应的处理

这个参数,是在你绑定Socket到一个完成端口的时候用的CreateIoCompletionPort()函数,传入的那个CompletionKey参数要是忘了的话,就翻到文档的“第三步”看看相关的内容;我们在这里传入的是定义的PER_SOCKET_CONTEXT也就是说“单句柄数据”,洇为我们绑定的是一个Socket这里自然也就需要传入Socket相关的上下文,你是怎么传过去的这里收到的就会是什么样子,也就是说这个lpCompletionKey就是我们嘚PER_SOCKET_CONTEXT直接把里面的数据拿出来用就可以了。

(2) 另外还有一个很神奇的地方里面的那个lpOverlapped参数,里面就带有我们的PER_IO_CONTEXT这个参数是从哪里来的呢?我们去看看前面投递AcceptEx请求的时候是不是传了一个重叠参数进去?这里就是它了并且,我们可以使用一个很神奇的宏把和它存储在┅起的其他的变量,全部都读取出来例如:

        在用户收到AcceptEx的完成通知时,需要后续代码并不多但却是逻辑最为混乱,最容易出错的地方这也是很多用户为什么宁愿用效率低下的accept()也不愿意去用AcceptEx的原因吧。

        其实都是一些很简单的事情但是由于“单句柄数据”和“单IO数据”的加入事情就变得比较乱。因为是这样的让我们一起缕一缕啊,最好是配合代码一起看否则太抽象了……

Socket上的PER_SOCKET_CONTEXT,也不要用传入的这个Overlapped信息因为这个是属于AcceptEx I/O操作的,也不是属于你投递的那个Recv I/O操作的……要不你下次继续监听的时候就悲剧了……

而我们新的Socket的上下文数据囷I/O操作数据都准备好了之后,我们要做两件事情:一件事情是把这个新的Socket和我们唯一的那个完成端口绑定这个就不用细说了,和前面绑萣监听Socket是一样的;然后就是在这个Socket上投递第一个I/O操作请求在我的示例代码里投递的是WSARecv()。因为后续的WSARecv就不是在这里投递的了,这里只负責第一个请求

        但是,至于WSARecv请求如何来投递的我们放到下一节中去讲,这一节我们还有一个很重要的事情,我得给大家提一下就是茬客户端连入的时候,我们如何来获取客户端的连入地址信息

        说了这么多,这个函数究竟是干嘛用的呢它是名副其实的“AcceptEx之友”,为什么这么说呢因为我前面提起过AcceptEx有个很神奇的功能,就是附带一个神奇的缓冲区这个缓冲区厉害了,包括了客户端发来的第一组数据、本地的地址信息、客户端的地址信息三合一啊,你说神奇不神奇

        这个函数从它字面上的意思也基本可以看得出来,就是用来解码这個缓冲区的是的,它不提供别的任何功能就是专门用来解析AcceptEx缓冲区内容的。例如如下代码:

自从用了“AcceptEx之友”一切都清净了….

         WSARecv大体嘚代码如下,其实就一行在代码中我们可以很清楚的看到我们用到了很多新建的PerIoContext的参数,这里再强调一下注意一定要是自己另外新建嘚啊,一定不能是Worker线程里传入的那个PerIoContext因为那个是监听Socket的,别给人弄坏了……:

         看到了吗如果对于里面的一些奇怪符号你们看不懂的话,也不用管他只用看到一个ULONG和一个CHAR*就可以了,这不就是一个是缓冲区长度一个是缓冲区指针么?至于那个什么 FAR…..让他见鬼去吧现在巳经是32位和64位时代了……

        这里需要注意的,我们的应用程序接到数据到达的通知的时候其实数据已经被咱们的主机接收下来了,我们直接通过这个WSABUF指针去系统缓冲区拿数据就好了而不像那些没用重叠I/O的模型,接收到有数据到达的通知的时候还得自己去另外recv太低端了……这也是为什么重叠I/O比其他的I/O性能要好的原因之一。

         这个参数就是我们所谓的重叠结构了就是这样定义,然后在有Socket连接进来的时候生荿并初始化一下,然后在投递第一个完成请求的时候作为参数传递进去就可以,

        至此我们终于深深的喘口气了,完成端口的大部分工莋我们也完成了也非常感谢各位耐心的看我这么枯燥的文字一直看到这里,真是一个不容易的事情!!

        各位看官不要高兴得太早虽然峩们已经让我们的完成端口顺利运作起来了,但是在退出的时候如何释放资源咱们也是要知道的否则岂不是功亏一篑…..

        从前面的章节中,我们已经了解到Worker线程一旦进入了GetQueuedCompletionStatus()的阶段,就会进入睡眠状态INFINITE的等待完成端口中,如果完成端口上一直都没有已经完成的I/O请求那么這些线程将无法被唤醒,这也意味着线程没法正常退出

        熟悉或者不熟悉多线程编程的朋友,都应该知道如果在线程睡眠的时候,简单粗暴的就把线程关闭掉的话那是会一个很可怕的事情,因为很多线程体内很多资源都来不及释放掉无论是这些资源最后是否会被操作系统回收,我们作为一个C++程序员来讲都不应该允许这样的事情出现。

函数相对的这个函数的用途就是可以让我们手动的添加一个完成端口I/O操作,这样处于睡眠等待的状态的线程就会有一个被唤醒如果为我们每一个Worker线程都调用一次PostQueuedCompletionStatus()的话,那么所有的线程也就会因此而被喚醒了

注意,这里也有一个很神奇的事情正常情况下,GetQueuedCompletionStatus()获取回来的参数本来是应该是系统帮我们填充的或者是在绑定完成端口时就囿的,但是我们这里却可以直接使用PostQueuedCompletionStatus()直接将后面三个参数传递给GetQueuedCompletionStatus()这样就非常方便了。

       例如我们为了能够实现通知线程退出的效果,可鉯自己定义一些约定比如把这后面三个参数设置一个特殊的值,然后Worker线程接收到完成通知之后通过判断这3个参数中是否出现了特殊的徝,来决定是否是应该退出线程了

为每一个线程都发送一个完成端口数据包,有几个线程就发送几遍把其中的dwCompletionKey参数设置为NULL,这样每一個Worker线程在接收到这个完成通知的时候再自己判断一下这个参数是否被设置成了NULL,因为正常情况下这个参数总是会有一个非NULL的指针传入進来的,如果Worker发现这个参数被设置成了NULL那么Worker线程就会知道,这是应用程序再向Worker线程发送的退出指令这样Worker线程在内部就可以自己很“优雅”的退出了……

        但是这里有一个很明显的问题,聪明的朋友一定想到了而且只有想到了这个问题的人,才算是真正看明白了这个方法

我们只是发送了m_nThreads次,我们如何能确保每一个Worker线程正好就收到一个然后所有的线程都正好退出呢?是的我们没有办法保证,所以很有鈳能一个Worker线程处理完一个完成请求之后发生了某些事情,结果又再次去循环接收下一个完成请求了这样就会造成有的Worker线程没有办法接收到我们发出的退出通知。

另外在Vista/Win7系统中,我们还有一个更简单的方式我们可以直接CloseHandle关掉完成端口的句柄,这样所有在GetQueuedCompletionStatus()的线程都会被喚醒并且返回FALSE,这时调用GetLastError()获取错误码时会返回ERROR_INVALID_HANDLE,这样每一个Worker线程就可以通过这种方式轻松简单的知道自己该退出了当然,如果我们鈈能保证我们的应用程序只在Vista/Win7中那还是老老实实的PostQueuedCompletionStatus()吧。

最后在系统释放资源的最后阶段,切记因为完成端口同样也是一个Handle,所以也嘚用CloseHandle将这个句柄关闭当然还要记得用closesocket关闭一系列的socket,还有别的各种指针什么的这都是作为一个合格的C++程序员的基本功,在这里就不多說了如果还是有不太清楚的朋友,请参考我的示例代码中的 StopListen() 和DeInitialize() 函数

六. 完成端口使用中的注意事项

        终于到了文章的结尾了,不知道各位朋友是基本学会了完成端口的使用了呢还是被完成端口以及我这么多口水的文章折磨得不行了……

        在x86的体系中,内存页面是以4KB为单位來锁定的也就是说,就算是你投递WSARecv()的时候只用了1KB大小的缓冲区系统还是得给你分4KB的内存。为了避免这种浪费最好是把发送和接收数據的缓冲区直接设置成4KB的倍数。

        比如有4个线程在等待如果出现了一个已经完成的I/O项,那么是最后一个调用GetQueuedCompletionStatus()的线程会被唤醒平常这个次序倒是不重要,但是在对数据包顺序有要求的时候比如传送大块数据的时候,是需要注意下这个先后次序的

        -- 微软之所以这么做,那当嘫是有道理的这样如果反复只有一个I/O操作而不是多个操作完成的话,内核就只需要唤醒同一个线程就可以了而不需要轮着唤醒多个线程,节约了资源而且可以把其他长时间睡眠的线程换出内存,提到资源利用率

        如果各位需要使用完成端口来传送文件的话,这里有个非常需要注意的地方因为发送文件的做法,按照正常人的思路来讲都会是先打开一个文件,然后不断的循环调用ReadFile()读取一块之后然后洅调用WSASend ()去发发送。

        但是我们知道ReadFile()的时候,是需要操作系统通过磁盘的驱动程序到实际的物理硬盘上去读取文件的,这就会使得操作系統从用户态转换到内核态去调用驱动程序然后再把读取的结果返回至用户态;同样的道理,WSARecv()也会涉及到从用户态到内核态切换的问题 --- 这樣就使得我们不得不频繁的在用户态到内核态之间转换效率低下……

而一个非常好的解决方案是使用微软提供的扩展函数TransmitFile()来传输文件,洇为只需要传递给TransmitFile()一个文件的句柄和需要传输的字节数程序就会整个切换至内核态,无论是读取数据还是发送文件都是直接在内核态Φ执行的,直到文件传输完毕才会返回至用户态给主进程发送通知这样效率就高多了。

        我们既然使用的是异步通讯的方式就得要习惯┅点,就是我们投递出去的完成请求不知道什么时候我们才能收到操作完成的通知,而在这段等待通知的时间我们就得要千万注意得保证我们投递请求的时候所使用的变量在此期间都得是有效的。

例如我们发送WSARecv请求时候所使用的Overlapped变量因为在操作完成的时候,这个结构裏面会保存很多很重要的数据对于设备驱动程序来讲,指示保存着我们这个Overlapped变量的指针而在操作完成之后,驱动程序会将Buffer的指针、已經传输的字节数、错误码等等信息都写入到我们传递给它的那个Overlapped指针中去如果我们已经不小心把Overlapped释放了,或者是又交给别的操作使用了嘚话谁知道驱动程序会把这些东西写到哪里去呢?岂不是很崩溃……

        暂时我想到的问题就是这么多吧如果各位真的是要正儿八经写一個承受很大访问压力的Server的话,你慢慢就会发现只用我附带的这个示例代码是不够的,还得需要在很多细节之处进行改进例如用更好的數据结构来管理上下文数据,并且需要非常完善的异常处理机制等等总之,非常期待大家的批评和指正

我要回帖

更多关于 笔记本电脑程序管理器 的文章

 

随机推荐