给寻找编程代码教程的朋友们精选了相关的编程文章,网友翟陶然根据主题投稿了本篇教程内容,涉及到Python多进程协作、Python多进程协作模拟、Python多进程协作相关内容,已被582网友关注,如果对知识点想更进一步了解可以在下方电子资料中获取。
Python多进程协作
由于python多线程无法发挥多核的作用,因此当计算量很大的时候就需要考虑多进程。
只不过多进程比较麻烦一些,进程中通信向来是一件麻烦事。
python提供了multiprocessing 模块,应该会提供不少便利
假设我们做量化交易需要运行一个算法,针对一只票每运行一次需要30秒,运行完成将结果作为一个因子交给另一个计算模块运行,最后将计算结果统计出来。如果只运行一只票问题不大,大不了等一下就好,同时运行10票的话就很有必然考虑多进程以加快速度。
pro_queue为生产进程的数据队列,生产进程完成生产后将自己相关数据装产pro_queue中
calc_queue为计算进程的数据队列,计算进程先将生产进程的数据通过参数传递的方式获取到,然后进行计算,并将计算结果存入calc_queue中
主进程在最后不断获取计算进程的计算结果,并将其累加,最终获取到一个总的计算结果
生产进程:
def func_a(i, p: queues): print(F"第{i}个生产进程: 进程号:{os.getpid()},开始...") time.sleep(random.randint(1, 5)) result = random.randint(50, 100) print(F"第{i}个生产进程: 完成。生产结果[{result}]。") p.put((i, os.getpid(), result))
计算进程:
def func_b(i, data, q: queues): print(F"第{i}个计算进程: 进程号:{os.getpid()}, 数据源{data[0]}:{data[1]}:{data[2]},开始...") time.sleep(random.randint(1, 3)) result = data[2] * 100 print(F"第{i}个计算进程: 完成。计算结果【{result}】") q.put(result)
程序一开始先将生产进程启动起来:其中process_num表示同时启动多少个生产进程
for i in range(process_num): p = Process(target=func_a, args=(i, pro_queue,)) p.start()
然后不停等待生产进程的结果,每等到一个结果就启动一个计算进程
for i in range(process_num): data = pro_queue.get() p = Process(target=func_b, args=(i, data, calc_queue)) p.start()
最后就是等待计算进程的计算结果
s = 0 for i in range(process_num): s += calc_queue.get() print(F"所有计算完成,总结果:{s}")
补上程序一开始的两个队列的申明:
import multiprocessing import time from multiprocessing import Process from multiprocessing import queues import random import os pro_queue = queues.Queue(ctx=multiprocessing) calc_queue = queues.Queue(ctx=multiprocessing) process_num = 5
到此这篇关于Python多进程协作模拟实现流程的文章就介绍到这了,更多相关Python多进程协作内容请搜索码农之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持码农之家!