Discuss / Python / 进程池Pool中的apply方法与apply_async的区别

进程池Pool中的apply方法与apply_async的区别

Topic source

https://www.jianshu.com/p/0a55507f9d9e?open_source=weibo_search

1.apply方法是阻塞的。 意思就是等待当前子进程执行完毕后,在执行下一个进程。 例如: 有三个进程0,1,2。等待子进程0执行完毕后,在执行子进程1,然后子进程2,最后回到主进程执行主进程剩余部分,就像上面的执行结果一样。

这样好像跟单进程串行执行没什么区别了。

2.apply_async 是异步非阻塞的。 意思就是:不用等待当前进程执行完毕,随时根据系统调度来进行进程切换。

完全没有等待子进程执行完毕,主进程就已经执行完毕,并退出程序。 为什么会这样呢? 因为进程的切换是操作系统来控制的,抢占式的切换模式。 我们首先运行的是主进程,cpu运行很快啊,这短短的几行代码,完全没有给操作系统进程切换的机会,主进程就运行完毕了,整个程序结束。子进程完全没有机会切换到程序就已经结束了。

apply是阻塞式的。 首先主进程开始运行,碰到子进程,操作系统切换到子进程,等待子进程运行结束后,在切换到另外一个子进程,直到所有子进程运行完毕。然后在切换到主进程,运行剩余的部分。

apply_async是异步非阻塞式的。 首先主进程开始运行,碰到子进程后,主进程说:让我先运行个够,等到操作系统进行进程切换的时候,在交给子进程运行。以为我们的程序太短,然而还没等到操作系统进行进程切换,主进程就运行完毕了。

想要子进程执行,就告诉主进程:你等着所有子进程执行完毕后,在运行剩余部分: from multiprocessing import Pool import os, time, random

def long_time_task(name): print('Run task %s (%s)...' % (name, os.getpid())) start = time.time() time.sleep(random.random() * 3) end = time.time() print('Task %s runs %0.2f seconds.' % (name, (end - start)))

if name=='main': print('Parent process %s.' % os.getpid()) p = Pool(4) for i in range(5): p.apply_async(long_time_task, args=(i,)) print('Waiting for all subprocesses done...') p.close() p.join() print('All subprocesses done.')

p.close() p.join()及时告诉主进程,你等着所有子进程运行完毕后在运行剩余部分。

注意:close必须在join前调用。

你看,因为apply_async是异步非阻塞式,不用等待当前进程执行完毕,随时跟进操作系统调度来进行进程切换。 进程0没有执行完,就切换到进程1开始执行,进程1没有执行完,就切换到进程2,然后在切换回去。等待所有子进程运行完毕后,最后切换回主进程,执行剩余部分。

异步非阻塞式: 总耗时:3秒多。我们每个子进程休眠3秒,正因为是异步非阻塞式的,不用等待当前运行的子进程执行完毕,随时根据系统调度来进行进程切换。基本上主进程和三个子进程,四个进程是同时运行的。

阻塞式: 总耗时:9秒多。以为是阻塞式,需要等待当前子进程执行完毕后,在执行下一个子进程。每个子进程休眠3秒,三个子进程休眠9秒。基本上主进程加上子进程,四个进程就相当于在单进程中串行执行的。

哪里都有那个广告艹

感谢!

谢谢!


  • 1

Reply