简单了解python gevent 协程使用及作用

2023-08-18 20:16:04 173

简介

没有切换开销。因为子程序切换不是线程切换，而是由程序自身控制，没有线程切换的开销，因此执行效率高，

不需要锁机制。因为只有一个线程，也不存在同时写变量冲突，在协程中控制共享资源不加锁，只需要判断状态就好了，所以执行效率比多线程高很多

Python对协程的支持还非常有限，用在generator中的yield可以一定程度上实现协程。

yield

传统的生产者-消费者模型是一个线程写消息，一个线程取消息，通过锁机制控制队列和等待，但一不小心就可能死锁。

如果改用协程，生产者生产消息后，直接通过yield跳转到消费者开始执行，待消费者执行完毕后，切换回生产者继续生产，效率极高

代码

importtime

defconsumer():
r=''
whileTrue:
n=yieldr
ifnotn:
return
print('[CONSUMER]Consuming%s....'%n)
r='200OK'

defproduce(c):
c.next()
n=0
whilen<5:
n=n+1
print('[PRODUCER]Producing%s...'%n)
r=c.send(n)
print('[PRODUCER]Consumerreturn:%s\n'%r)
c.close()

if__name__=='__main__':
c=consumer()
produce(c)

结果

[PRODUCER]Producing1...
[CONSUMER]Consuming1....
[PRODUCER]Consumerreturn:200OK

[PRODUCER]Producing2...
[CONSUMER]Consuming2....
[PRODUCER]Consumerreturn:200OK

[PRODUCER]Producing3...
[CONSUMER]Consuming3....
[PRODUCER]Consumerreturn:200OK

[PRODUCER]Producing4...
[CONSUMER]Consuming4....
[PRODUCER]Consumerreturn:200OK

[PRODUCER]Producing5...
[CONSUMER]Consuming5....
[PRODUCER]Consumerreturn:200OK

分析

首先调用c.next()启动生成器
然后，一旦生产了东西，通过c.send(n)切换到consumer执行
consumer通过yield拿到消息，处理，又通过yield把结果传回
produce拿到consumer处理的结果，继续生产下一条消息

整个过程无锁，由一个线程执行，producer和consumer写作完成任务，所以叫做协程

gevent

Python通过yield提供了对协程的基本支持，但是不完全。而第三方的gevent为Python提供了比较完善的协程支持

gevent是第三方库，通过greenlet实现协程，其基本思想是：

当一个greenlet遇到IO操作时（比如访问网络），就自动切换到其他的greenlet，等到IO操作完成，再在适当的时候切换回来继续执行。由于IO操作非常耗时，经常使程序处于等待状态，有了gevent为我们自动切换协程，就保证总有greenlet在运行，而不是等待IO。

importgevent

deff(n):
foriinrange(n):
printgevent.getcurrent(),i

g1=gevent.spawn(f,5)
g2=gevent.spawn(f,5)
g3=gevent.spawn(f,5)

g1.join()
g2.join()
g3.join()

结果

可以看出3个greenlet依次运行，而不是交替运行

要让greenlet交替运行，可以通过gevent.sleep()交出控制权

importgevent

deff(n):
foriinrange(n):
printgevent.getcurrent(),i
gevent.sleep(1)

g1=gevent.spawn(f,3)
g2=gevent.spawn(f,3)
g3=gevent.spawn(f,3)

g1.join()
g2.join()
g3.join()

结果

可以看出3个greenlet是交替执行

如果把循环改为1000，让执行次数执行时间长些，查看进程，可以看到线程只有一个。

当然，实际代码中，不可能用gevent.sleep()去切换协程，而是在执行IO操作是，gevent自动切换，参考代码如下

importgevent
fromgeventimportmonkey;monkey.patch_all()
importurllib2

deff(url):
print'GET:%s'%url
resp=urllib2.urlopen(url)
data=resp.read()
print'[%d]bytesreceivedfrom%s\n'%(len(data),url)

gevent.joinall([
gevent.spawn(f,'http://www.cnblogs.com/kaituorensheng/'),
gevent.spawn(f,'https://www.python.org/'),
gevent.spawn(f,'https://www.baidu.com'),
])

执行结果

GET:http://www.cnblogs.com/kaituorensheng/
GET:https://www.python.org/
GET:https://www.baidu.com
[227]bytesreceivedfromhttps://www.baidu.com

[14667]bytesreceivedfromhttp://www.cnblogs.com/kaituorensheng/

[47348]bytesreceivedfromhttps://www.python.org/

可以看到3个url结束顺序并不是依次执行完的。

注

使用gevent，可以获得极高的并发性能，但gevent只能在Unix/Linux下运行，在Windows下不保证正常安装和运行。

由于gevent是基于IO切换的协程，所以最神奇的是，我们编写的WebApp代码，不需要引入gevent的包，也不需要改任何代码，仅仅在部署的时候，用一个支持gevent的WSGI服务器，立刻就获得了数倍的性能提升。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持毛票票。

简单了解python gevent 协程使用及作用

简介

yield

gevent

注

热门推荐

随机推荐