C++语言设计可扩展线程池

副标题#e#

在各类业务办理方案的设计进程中，处事器处理惩罚任务的效率往往抉择了方案的成败。多线程处理惩罚任务是提高处事器效率的主要手段，它提高了对处事器资源的操作，使得任务可以并发处理惩罚。但假如处事器处理惩罚的任务的特点是轻量级、频率高，那么线程的建设与销毁会很是频繁，而系统用于处理惩罚线程的建设与销毁的开销会占相当大的比重，反而低落了系统的效率。通过线程池技能，可以淘汰频繁的线程的建设与销毁对系统机能的影响。

线程池是预先建设线程的一种技能。线程池在还没有任务到来之前，建设必然数量（N1）的线程，放入空闲行列中。这些线程都是处于阻塞（Suspended）状态，不用耗CPU，但占用较小的内存空间。当任务到来后，缓冲池选择一个空闲线程，把任务传入此线程中运行。当N1个线程都在处理惩罚任务后，缓冲池自动建设必然数量的新线程，用于处理惩罚更多的任务。当系统较量空闲时，大部门线程都一直处于暂停状态，线程池自动销毁一部门线程，接纳系统资源。

通用线程缓冲池的设计，不只要实现上述成果，还要思量此设计的可移植性，淘汰反复开拓。设计中需要思量的重点是：

任务工具的通用性；

线程建设和销毁计策；

任务的分派计策。

阐明与设计

1、任务工具的通用性

差异的业务办理方案有各自奇特的任务处理惩罚要领，任务的分别上也就千差万别。为了使得在处理惩罚任务工具的时候到达必然水平的通用性，任务工具的设计上必需与实际任务的处理惩罚逻辑完全无关。从任务执行的角度看，任务不外是处理惩罚流程的一次可能多次执行的进程，可以这样来界说任务接口：

class Task
{
public:
Task();
virtual ~Task();
virtual bool run() = 0;
};

Task类是所有任务类的基类，个中的纯虚函数run()是任务流程的进口，事情线程在处理惩罚任务的时候就以后处开始执行任务的处理惩罚流程。设计一个新的任务时，只需要担任Task接口，新的任务就可以放入线程池中执行。

任务的建设、执行和销毁这样来设计：

(1)任务在其需要的时候才建设。任务的建设通过new操纵，动态建设详细的任务工具，然后传入线程池，由线程池自动分派线程来执行此任务。

(2)任务是否执行完毕由其自身来抉择。一个未知任务什么时候执行完毕是不行能预测的，必需任务自己来抉择。这个计策通过，Task::run()的返回值来实现。当事情线程执行一次任务时，假如返回值为true，暗示任务执行完毕，就用delete操纵销毁此任务；假如返回值为false，暗示任务需要执行的事情并未完成，继承执行此任务。

这样的计策，使得在设计新的任务处理惩罚流程的时候，不需要过多的体贴任务的接口类型，只需要在新任务类的结构函数中初始化各类资源，在新任务类的析构函数中接纳资源，在run()要领中实现主要的处理惩罚逻辑，那么新的任务类即可在线程池中执行。

#p#副标题#e#

2、线程的建设与销毁

线程缓冲池中的维持的线程数量应该凭据任务处理惩罚的需求来定。

在缓冲池方才成立时，线程池中有必然数量(N1)的已建设好的线程，这样可以使得新任务可以实时的获得执行。好比，某客户端在向处事器发送登岸请求的时候，这样一个请求使得处事器凡是需要建设好几个彼此有关联的任务。也就是说，客户端与处事器端的一次交互，凡是会发生必然数量的任务。按照一个处事器所处理惩罚的业务，预计出平均环境下，一次业务发生的任务数量N2。那么N1应该是N2的整数倍，N1=N2×n1，淘汰由于线程不足而再建设线程的概率，才气使得处事器在业务处理惩罚初期最为高效。

在线程缓冲池中的所有线程都处于忙碌状态的时候，线程池就会建设新的线程，设建设N3个。由以上阐明，为了淘汰由于线程不足而再建设线程的概率，N3也应该是N2的整数倍，N3=N2×n2。

当处事器业务淘汰，呈现大量线程闲置的环境，就应该销毁一部门线程。很显然，这里应该利用超时计策，当某些线程在高出时间T仍然处于闲置状态，就销毁一部门空闲线程。设销毁N4个空闲线程，为了淘汰由于线程不足而再建设线程的概率，N4也应该是N2的整数倍，N4=N2×n3。虽然，为了使得新任务实时得处处理惩罚，纵然处事器一直处于空闲，也应该保存N1个线程。

3、任务分派计策

在业务处理惩罚中，会有各类百般的任务工具，这些业务工具对系统资源的利用也差异。这些任务，无论其空间巨大度如何，从线程执行任务这一角度来看，应该体贴的主要是时间巨大度。

#p#分页标题#e#

线程缓冲池在吸收到新任务的时候，首先要寻找空闲线程，传入新任务，然后执行任务，最后还要删除任务，置空闲线程的符号。寻找空闲线程、传入任务、最后的清理事情，这些都是为了执行任务而发生的特别开销，假如所执行的任务大大都都是轻量级任务，那么特别开销带来的资源挥霍就显得很突出了。为了办理这个问题，可以给一个线程传入N5个轻量级任务，这一个线程依次执行N5个轻量级任务，由于都是在很短时间内完成，并不影响任务响应的实时性。显然，N5≥1。

实现

由于源代码的篇幅干系，并不能把所有代码一一罗列，这里以伪代码的形式给出线程缓冲池在线程的建设、销毁、任务分派以及任务执行方面的流程。

(1) 线程池任务分派主轮回(也是一个线程)

这里除了任务分派算法外也包罗了部门线程的建设与销毁的算法。

for(;;) {
pThread = GetIdleThread();// 查抄空闲线程行列
if( pThread != NULL ) {
if( CheckNewTask() ) {// 有新任务
TaskList tl;
GetTask( tl ); // 取得必然数量的任务
AddTaskToThread( pTask, tl );// 把任务传入线程
continue; // 继承轮回
}
}
if( pThread == NULL && nThread < THREAD_MAX )// 没有空闲线程了
CreateNewThread();// 建设新线程
continue;// 继承轮回
}
// 没有要处理惩罚的任务可能已经达到线程数的上限，进入超时期待
if( WaitForTaskOrThreadTimeout() ) {
if( IncrIdleTime() > IDLE_MAX ) { // 系统空闲，计时
// 系统长时间处于空闲，销毁必然数量的空闲线程
DecrIdleThread();
}
}
else
return 0;// 线程终止
}

#p#副标题#e#

(2) 事情线程的任务执行流程

for(;;) {
// 查抄任务行列是否有任务要运行
if( !CheckTaskQueue() ) { // 行列中没有任务
pPool->OnTaskIdle( this ); // 通知线程池，此线程已经空闲
if( WaitForTask() )
continue;// 继承轮回
else
return 0;// 终止线程
} else { // 有任务需要运行
pTask = GetTask(); // 取得新任务
try {
while( !pTask->Run() ) {
// 此处轮回体为空，不绝运行直到任务执行完毕
}
}
catch( … ) {
WriteLog( … ); // 执行任务时发生异常，记录入日志
}
delete pTask; // 任务执行完毕,删除此任务
}
}

在任务执行的焦点部门，利用了try-catch节制块举办异常捕捉。固然异常会对措施速度有很略微的影响，可是因为要执行的任务是未知的，不能担保任务可以正常执行。因为一个任务的异常而导致处事器的处事措施瓦解，这是绝对不答允的。利用异常捕捉不只可以担保处事器流程的顺利执行，并且把异常信息存入日志文件，还可以跟踪错误。

机能测试

为了检讨此线程池的机能是否和预期沟通，而且阐明出线程池的差异参数设置对系统机能的影响，特编写了测试措施对三组参数举办了测试，测试功效如图1所示：

横坐标是任务数量；纵坐标是耗损时间，以秒(s)为单元。

参数1：N2 = 1, N5 = 1; 参数2：N2 = 5, N5 = 1; 参数3：N2 = 5, N5 = 5

测试中，系统的总的线程数限制为500，任务都是5ms。这里只针对N2和N5举办测试，N2是平均环境下系统每次向线程池中增加的任务数量，N5是每个线程一次执行任务数量。

在任务量较量小的环境下，三者的对系统机能的占用根基上相等。可是当任务量很庞大的时候，参数1比参数2效率要稍微跨越一些，而参数3的执行效率险些是前两者的一倍。

因为都是轻量级任务，所以N2的变革对系统效率的影响并不大，而N5的影响就很显著。

竣事语

通过测试可以看出，在处事器中利用线程池后，并不料味着系统机能就必然可以晋升。差异系统的任务有着各自差异的特点，这就需要按照处事器任务的特点进一法式整缓冲池的一些要害参数，才气最洪流平的提高系统效率。这些参数就是上面阐明进程中的N1、N2、N3、N4、N5、n1、n2、n3。