golang 限制同一时间的并发量操作
go的并发量是很厉害的,goroutine创建的代价极小,其中一个重要的原因是因为go采用了分段栈技术,每一个goroutine只占极小的空间。与此同时,goroutine是语言层面的,减少了内核态到用户态的切换开销,并且goroutine摒弃了一些golang用不到的一些osthread的系统调用,创建代价小。
我们可以一瞬间创建很多个goroutine,这是相当容易的。
乍一看,这与题目完全不符,前面说了那么多,难道不是鼓励我们多创建goroutine吗?不不不,goroutine确实很好用,但是如果不加以限制,很有可能出现其他的不可预料的错误。
比如在web领域中,一个连接,在linux/unix下就相当于是打开了一个文件,占用一个文件描述符。但是系统会规定文件描述符的上限,我们可以使用ulimit-n来进行查看,如果我们遵循量大就好的话,那么一拥而上的请求连接会瞬间报错。
2018/06/3010:09:54dialtcp:8080:socket:toomanyopenfiles
上面这条报错信息源于我写的一个循环请求的工具
packagemain
import(
"sync"
"net"
"strconv"
"fmt"
"log"
)
const(
MAX_CONCURRENCY=10000
)
varwaitGroupsync.WaitGroup
funcmain(){
concurrency()
waitGroup.Wait()
}
//进行网络io
funcrequest(currentCountint){
fmt.Println("request"+strconv.Itoa(currentCount)+"\r")
conn,err:=net.Dial("tcp",":8080")
iferr!=nil{log.Fatal(err)}
deferconn.Close()
deferwaitGroup.Done()
}
//并发请求
funcconcurrency(){
fori:=0;i
用go建立一个服务端很简单,我这里简单的贴下server的代码
packagemain
import(
"io"
"os"
"fmt"
"net"
)
funccheckErr(errerror){
iferr!=nil{fmt.Fprintln(os.Stderr,err)}
}
funcmain(){
listener,err:=net.Listen("tcp",":8080")
checkErr(err)
for{
conn,err:=listener.Accept()
checkErr(err)
gofunc(connnet.Conn){
_,err:=io.WriteString(conn,"welcome!")
checkErr(err)
deferconn.Close()
}(conn)
}
}
现在回到主题,我们可以看到一拥而上其实也有坏处,想要解决这一问题,我们可以限制同一时间的并发数量,可以利用channel来达到这一点,这有点类似于信号量(Semaphore)
创建一个带缓存的channel,其中CHANNEL_CACHE为同一时间的最大并发量
想简单的说一下为什么这里chan的类型要用一个空的struct,这是因为在这个场景下(限制同一时间的并发量),通过channel传输的数据的类型并不重要,我们只需要通过做一个通知效果就行了(就像你通知你朋友起床,你只用闪个电话,而不用实际的接通,省去了电话费的开销),这里的空的struct实际上是不占任何空间的,因此这里选用空的struct
const(
CHANNEL_CACHE=200
)
vartmpChannel=make(chanstruct{},CHANNEL_CACHE)
在与服务器建立连接的地方这样写(是不是很类似于信号量)
tmpChan<-struct{}{}
conn,err:=net.Dial("tcp",":8080")
<-tmpChan
这样同一时间的并发量就由CHANNEL_CACHE限制下来
经过循环开启的goroutine在请求服务器之前会向channel发送消息,如果缓存满了,那么说明已经有CHANNEL_CACHE个goroutine在进行与服务器的连接,接着就会阻塞在这里,等待其中一个goroutine处理完之后,从channel中读出一个空的struct,这时阻塞的地方向channel发送一个空struct,就可以与服务器建立连接了
下面贴一下全部的代码
packagemain
import(
"sync"
"net"
"strconv"
"fmt"
"log"
)
const(
MAX_CONCURRENCY=10000
CHANNEL_CACHE=200
)
vartmpChan=make(chanstruct{},MAX_CONCURRENCY)
varwaitGroupsync.WaitGroup
funcmain(){
concurrency()
waitGroup.Wait()
}
//进行网络io
funcrequest(currentCountint){
fmt.Println("request"+strconv.Itoa(currentCount)+"\r")
tmpChan<-struct{}{}
conn,err:=net.Dial("tcp",":8080")
<-tmpChan
iferr!=nil{log.Fatal(err)}
deferconn.Close()
deferwaitGroup.Done()
}
//并发
funcconcurrency(){
fori:=0;i
这样就可以愉快的进行并发了!!!
补充:Golang限制N个并发同时运行
我就废话不多说了,大家还是直接看代码吧~
packagemain
import(
"fmt"
"sync"
"time"
)
varwgsync.WaitGroup
funcmain(){
varwgsync.WaitGroup
sem:=make(chanstruct{},2)//最多允许2个并发同时执行
taskNum:=10
fori:=0;i
以上为个人经验,希望能给大家一个参考,也希望大家多多支持毛票票。如有错误或未考虑完全的地方,望不吝赐教。