Python实现的多进程和多线程功能示例
本文实例讲述了Python实现的多进程和多线程功能。分享给大家供大家参考,具体如下:
听了朋友说起,他们目前开发的测试框架,用python实现的分布式系统。虽然python的执行效率没有c和c++那么高,但是依靠集群的力量,产生的压力很是牛逼啊。
了解了下大概的方式就是
1、有台主控机,负责调度,比如执行的参数等
2、有n多台执行机,每个执行机上部署一个python的xmlRPCserver,主控机调用rpccall,然后执行机执行。rpccall里面会fork一些进程,每个进程再创建一些线程,去调用测试方法。这样,扩展性就很好了。
对于python的rpccall,之前也没有接触过,不是很了解,google了一下,发现很简单,拿了个网上的例子,如下,先部署一个rpcServer
fromSimpleXMLRPCServerimportSimpleXMLRPCServer defadd(a,b): returna+bserver=SimpleXMLRPCServer(("10.249.192.38",8000))#这里不要用localhost,否则只有本机才能访问 server.register_function(add) server.serve_forever()
客户端:
fromxmlrpclibimportServer Proxyserver=ServerProxy("http://localhost:8000") try:ret=server.add(30,90)print'result:',retprint'resulttype:',type(ret) except Exception,e:print"exception",e
其实还是很简单的。
然后再看了下python的多进程和多线程的方法,写了个例子,如下:
#encoding=utf-8 importsys importos importtime importpdb importhttplib importthread importthreading constant_p=0#创建全局变量,进程数 constant_s=0#创建全局变量,线程数 mutex_g=threading.RLock()#创建全局锁 defrun(count):#该函数创建3个线程,同时调用3个不同的函数 a=1 b=0 thread.start_new_thread(test0,(a,b))#这里传入的参数需要以元组的形式,跟void指针其实也差不多 thread.start_new_thread(test1,(a,b)) thread.start_new_thread(test2,(a,b)) deftest0(a,b): globalmutex_g globalconstant_s threadid=thread.get_ident() mutex_g.acquire()#这里需要把线程数说锁起来,否则结果会被修改 constant_s=constant_s+1 mutex_g.release() print"thread0called,andthethreadidis:%d"%(threadid) sys.exit(0) deftest1(a,b): globalmutex_g globalconstant_s threadid=thread.get_ident() mutex_g.acquire() constant_s=constant_s+1 mutex_g.release() print"thread1called,andthethreadidis:%d"%(threadid) sys.exit(0) deftest2(a,b): globalmutex_g globalconstant_s threadid=thread.get_ident() mutex_g.acquire() constant_s=constant_s+1 mutex_g.release() print"thread2called,andthethreadidis:%d"%(threadid) sys.exit(0) defmy_fork(): globalconstant_p pid=os.fork()#fork一个子进程,子进程的pid=0同时2个进程会执行my_fork()函数 if(pid==0):#子进程执行到这个if里面 constant_p=constant_s+1 run(3) time.sleep(5) print"totalthreadis%d"%constant_s#这个结果是3,因为子进程创建按了3个线程 elif(pid>0):#父进程执行到这个if里面 constant_p=constant_s+1run(4) time.sleep(5) print"totalthreadis%d"%constant_s#这个结果也是3,因为该进程也创建了3个线程 else: print"forkerror" sys.exit(0) print"totalprocessis%d"%constant_p#该结果是1,因为2个进程只执行了一次 constant_p=constant_s+1 sys.exit(0) if__name__=="__main__": my_fork() #my_fork() #my_fork()
更多关于Python相关内容感兴趣的读者可查看本站专题:《Python进程与线程操作技巧总结》、《PythonSocket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。