golang高并发限流操作 ping / telnet
需求
当需要同时ping/telnet多个ip时,可以通过引入ping包/telnet包实现,也可以通过go调用cmd命令实现,不过后者调用效率较差,所以这里选择ping包和telnet包
还有就是高并发的问题,可以通过shell脚本或者go实现高并发,所以我选择的用go自带的协程实现,但是如果要同时处理1000+个ip,考虑到机器的性能,需要ratelimit控制开辟的go协程数量,这里主要写一下我的建议和淌过的坑
ping
参考链接: https://github.com/sparrc/go-ping
import "github.com/sparrc/go-ping" import "time" func (p *Ping) doPing(timeout time.Duration, count int, ip string) (err error) { pinger, cmdErr := ping.NewPinger(ip) if cmdErr != nil { glog.Error("Failed to ping " + p.ipAddr) err = cmdErr return } pinger.Count = count pinger.Interval = time.Second pinger.Timeout = timeout // true的话,代表是标准的icmp包,false代表可以丢包类似udp pinger.SetPrivileged(false) // 执行 pinger.Run() // 获取ping后的返回信息 stats := pinger.Statistics() //延迟 latency = float64(stats.AvgRtt) // 标准的往返总时间 jitter = float64(stats.StdDevRtt) //丢包率 packetLoss = stats.PacketLoss return }
注意: pinger.Run() 这里执行的时候是阻塞的,如果并发量大的时候,程序会卡死在这里,所以当有高并发的需求时建议如下处理:
go pinger.Run()
time.Sleep(timeout)
telnet
package main import ( "github.com/reiver/go-telnet" ) func doTelnet(ip string, port int) { var caller telnet.Caller = telnet.StandardCaller address := ip + ":"+ strconv.Itoa(port) // DialToAndCall 检查连通性并且调用 telnet.DialToAndCall(address, caller) } }
bug出现报错:
lookup tcp/: nodename nor servname provided, or not known
解决:
修改string(port)为strconv.Itoa(port)
DialToAndCall这种方式telnet无法设置超时时间,默认的超时时间有1分钟,所以使用DialTimeout这个方式实现telnet
import "net" func doTelnet(ip string, ports []string) map[string]string { // 检查 emqx 1883, 8083, 8080, 18083 端口 results := make(map[string]string) for _, port := range ports { address := net.JoinHostPort(ip, port) // 3 秒超时 conn, err := net.DialTimeout("tcp", address, 3*time.Second) if err != nil { results[port] = "failed" } else { if conn != nil { results[port] = "success" _ = conn.Close() } else { results[port] = "failed" } } } return results }
shell高并发
本质就是读取ip.txt文件里的ip,然后调用ping方法,实现高并发也是借助&遍历所有的ip然后同一交给操作系统去处理高并发
while read ip do { doPing(ip) } & done < ip.txt
go高并发限速
import ( "context" "fmt" "log" "time" "sync" "golang.org/x/time/rate" ) func Limit(ips []string)([]string, []string, error) { //第一个参数是每秒钟最大的并发数,第二个参数是桶的容量,第一次的时候每秒可执行的数量就是桶的容量,建议这两个值都写成一样的 r := rate.NewLimiter(10, 10) ctx := context.Background() wg := sync.WaitGroup{} wg.Add(len(ips)) lock := sync.Mutex{} var success []string var fail []string defer wg.Done() for _,ip:=range ips{ //每次消耗2个,放入一个,消耗完了还会放进去,如果初始是5个,所以这段代码再执行到第4次的时候筒里面就空了,如果当前不够取两个了,本次就不取,再放一个进去,然后返回false err := r.WaitN(ctx, 2) if err != nil { log.Fatal(err) } go func(ip string) { defer func() { wg.Done() }() err := doPing(time.Second, 2, ip) lock.Lock() defer lock.Unlock() if err != nil { fail = append(fail, ip) return } else { success = append(success, ip) } }(ip) } // wait等待所有go协程结束 wg.wait() return success,fail,nil } func main() { ips := [2]string{"192.168.1.1","192.168.1.2"} success,fail,err := Limit(ips) if err != nil { fmt.Printf("ping error") } }
这里注意一个并发实现的坑,在for循环里使用goroutine时要把遍历的参数传进去才能保证每个遍历的参数都被执行,否则只能执行一次
(拓展)管道、死锁
先看个例子:
func main() { go print() // 启动一个goroutine print() } func print() { fmt.Println("*******************") }
输出结果:
*******************
没错,只有一行,因为当go开辟一个协程想去执行print方法时,主函数已经执行完print并打印出来,所以goroutine还没有机会执行程序就已经结束了,解决这个问题可是在主函数里加time.sleep让主函数等待goroutine执行完,也可以使用WaitGroup.wait等待goroutine执行完,还有一种就是信道
信道分无缓冲信道和缓冲信道
无缓冲信道
无缓冲信道也就是定义长度为0的信道,存入一个数据,从无缓冲信道取数据,若信道中无数据,就会阻塞,还可能引发死锁,同样数据进入无缓冲信道, 如果没有其他goroutine来拿走这个数据,也会阻塞,记住无缓冲数据并不存储数据
func main() { var channel chan string = make(chan string) go func(message string) { channel<- message // 存消息 }("Ping!") fmt.Println(<-messages) // 取消息 }
缓存信道
顾名思义,缓存信道可以存储数据,goroutine之间不会发生阻塞,for循环读取信道中的数据时,一定要判断当管道中不存在数据时的情况,否则会发生死锁,看个例子
channel := make(chan int, 3) channel <- 1 channel <- 2 channel <- 3 // 显式关闭信道 close(channel) for v := range channel { fmt.Println(v) // 如果现有数据量为0,跳出循环,与显式关闭隧道效果一样,选一个即可 if len(ch) <= 0 { break } }
但是这里有个问题,信道中数据是可以随时存入的,所以我们遍历的时候无法确定目前的个数就是信道的总个数,所以推荐使用select监听信道
// 创建一个计时信道 timeout := time.After(1 * time.Second) // 监听3个信道的数据 select { case v1 := <- c1: fmt.Printf("received %d from c1", v1) case v2 := <- c2: fmt.Printf("received %d from c2", v2) case v3 := <- c3: fmt.Printf("received %d from c3", v3) case <- timeout: is_timeout = true // 超时 break } }
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。如有错误或未考虑完全的地方,望不吝赐教。
最新评论