当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程,但如果是上百甚至上千个目标,手动的去创建进程的工作量巨大,此时就可以用到multiprocessing模块提供的Pool方法。
初始化Pool时,可以指定一个最大进程数,当有新的请求提交到Pool中时,如果池还没有满,那么就会创建一个新的进程用来执行该请求;但如果池中的进程数已经达到指定的最大值,那么该请求就会等待,直到池中有进程结束,才会用之前的进程来执行新的任务,请看下面的实例:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 |
import multiprocessing import time import os import random def test1(msg): t_start = time.time() print("%s开始执行,进程号为%d" % (msg, os.getpid())) time.sleep(random.random() * 2) t_stop = time.time() print("%s执行完成,耗时%.2f" % (msg, t_stop - t_start)) if __name__ == "__main__": po = multiprocessing.Pool(3) print("-----start-----") # Pool().map(要调用的目标,传递给目标的参数元祖) # 每次循环将会用空闲出来的子进程去调用目标 po.map(test1,range(10)) po.close() # 关闭进程池,关闭后po不再接收新的请求 po.join() # 等待po中所有子进程执行完成,必须放在close语句之后 print("-----end-----") |
运行结果:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 |
-----start----- 0开始执行,进程号为10792 1开始执行,进程号为10732 2开始执行,进程号为10524 0执行完成,耗时0.34 3开始执行,进程号为10792 2执行完成,耗时1.10 4开始执行,进程号为10524 3执行完成,耗时1.38 5开始执行,进程号为10792 4执行完成,耗时0.67 6开始执行,进程号为10524 1执行完成,耗时1.80 7开始执行,进程号为10732 5执行完成,耗时1.26 8开始执行,进程号为10792 7执行完成,耗时1.32 9开始执行,进程号为10732 6执行完成,耗时1.45 8执行完成,耗时1.84 9执行完成,耗时1.91 -----end----- |
近期评论