我明白使用
subprocess是调用外部命令的首选方式.
但是,如果我想在parall中运行几个命令,但是限制生成的进程数量呢?令我困扰的是我无法阻止子进程.例如,如果我打电话
subprocess.Popen(cmd,stderr=outputfile,stdout=outputfile)
然后,进程将继续,而不用等待cmd完成.因此,我不能将其包装在多处理库的工作人员中.
例如,如果我这样做:
def worker(cmd): subprocess.Popen(cmd,stdout=outputfile); pool = Pool( processes = 10 ); results =[pool.apply_async(worker,[cmd]) for cmd in cmd_list]; ans = [res.get() for res in results];
那么每个工作人员将在产生一个子进程后完成并返回.所以我不能真正限制使用Pool生成的进程数.
解决方法
如果要等待命令完成,可以使用subprocess.call.有关更多信息,请参阅
pydoc subprocess
.
您也可以在工作人员中调用Popen.wait
方法:
def worker(cmd): p = subprocess.Popen(cmd,stdout=outputfile); p.wait()