Python并发获取SNMP数据:netsnmp与pysnmp性能对比实战
本文深入探讨Python中并发获取SNMP信息的两种主流方案:基于C接口的netsnmp与纯Python实现的pysnmp。通过对比多线程与异步机制,分析其在处理198个Host及不同OID数量下的采集耗时。测试结果显示,netsnmp在多线程模式下效率显著优于pysnmp,且原生支持walk操作,本文推荐在实际高并发场景中优先选用netsnmp。
Python与SNMP
在Python生态中,获取SNMP信息已有多个成熟库可供选择,其中应用最为广泛的是netsnmp和pysnmp。网络上关于这两个库的使用示例和教程非常丰富,便于开发者快速上手。
本文的核心关注点在于如何实现SNMP数据的并发获取,即如何同时从多台设备中高效采集SNMP信息。
netsnmp库解析
首先介绍。Python中的库实际上是底层net-snmp包的Python封装。
其实现原理是通过Python调用一个C文件,进而调用net-snmp的底层接口来获取数据。
因此,在使用进行并发获取时,不建议使用协程(asyncio)。因为协程在执行get操作时,会阻塞等待net-snmp接口返回数据,无法像Socket那样在等待期间将CPU时间片切换给其他协程。从执行效率来看,使用协程与串行获取的效果几乎没有区别。
那么如何解决并发获取的问题呢?推荐使用线程机制,即通过多线程并发获取(当然也可以采用多进程方案)。多个线程同时调用net-snmp接口获取数据,CPU会在这些线程之间进行切换。当一个线程获取到一个结果后,可以立即继续调用接口获取下一个SNMP数据,从而实现真正的并发处理。
这里提供一个样例程序。首先将所有需要查询的host和oid组合成任务放入队列,然后启动多个线程来执行这些获取任务。程序样例如下:
import threading
import time
import netsnmp
import Queue
start_time = time.time()
hosts = ["192.20.150.109", "192.20.150.110", "192.20.150.111", "192.20.150.112", "192.20.150.113", "192.20.150.114",
"192.20.150.115", "192.20.150.116", "192.20.150.117", "192.20.150.118", "192.20.150.119", "192.20.150.120",
"192.20.150.121", "192.20.80.148", "192.20.80.149", "192.20.96.59", "192.20.82.14", "192.20.82.15",
"192.20.82.17", "192.20.82.19", "192.20.82.12", "192.20.80.139", "192.20.80.137", "192.20.80.136",
"192.20.80.134", "192.20.80.133", "192.20.80.131", "192.20.80.130", "192.20.81.141", "192.20.81.140",
"192.20.82.26", "192.20.82.28", "192.20.82.23", "192.20.82.21", "192.20.80.128", "192.20.80.127",
"192.20.80.122", "192.20.81.159", "192.20.80.121", "192.20.80.124", "192.20.81.151", "192.20.80.118",
"192.20.80.119", "192.20.80.113", "192.20.80.112", "192.20.80.116", "192.20.80.115", "192.20.78.62",
"192.20.81.124", "192.20.81.125", "192.20.81.122", "192.20.81.121", "192.20.82.33", "192.20.82.31",
"192.20.82.32", "192.20.82.30", "192.20.81.128", "192.20.82.39", "192.20.82.37", "192.20.82.35",
"192.20.81.130", "192.20.80.200", "192.20.81.136", "192.20.81.137", "192.20.81.131", "192.20.81.133",
"192.20.81.134", "192.20.82.43", "192.20.82.45", "192.20.82.41", "192.20.79.152", "192.20.79.155",
"192.20.79.154", "192.25.76.235", "192.25.76.234", "192.25.76.233", "192.25.76.232", "192.25.76.231",
"192.25.76.228", "192.25.20.96", "192.25.20.95", "192.25.20.94", "192.25.20.93", "192.24.163.14",
"192.24.163.21", "192.24.163.29", "192.24.163.6", "192.18.136.22", "192.18.136.23", "192.24.193.2",
"192.24.193.19", "192.24.193.18", "192.24.193.11", "192.20.157.132", "192.20.157.133", "192.24.212.232",
"192.24.212.231", "192.24.212.230"]
oids = [".1.3.6.1.4.1.2021.11.9.0",".1.3.6.1.4.1.2021.11.10.0",".1.3.6.1.4.1.2021.11.11.0",".1.3.6.1.4.1.2021.10.1.3.1",
".1.3.6.1.4.1.2021.10.1.3.2",".1.3.6.1.4.1.2021.10.1.3.3",".1.3.6.1.4.1.2021.4.6.0",".1.3.6.1.4.1.2021.4.14.0",
".1.3.6.1.4.1.2021.4.15.0"]
myq = Queue.Queue()
rq = Queue.Queue()
#把host和oid组成任务
for host in hosts:
for oid in oids:
myq.put((host,oid))
def poll_one_host():
while True:
try:
#死循环从队列中获取任务,直到队列任务为空
host, oid = myq.get(block=False)
session = netsnmp.Session(Version=2, DestHost=host, Community="cluster",Timeout=3000000,Retries=0)
var_list = netsnmp.VarList()
var_list.append(netsnmp.Varbind(oid))
ret = session.get(var_list)
rq.put((host, oid, ret, (time.time() - start_time)))
except Queue.Empty:
break
thread_arr = []
#开启多线程
num_thread = 50
for i in range(num_thread):
t = threading.Thread(target=poll_one_host, kwargs={})
t.setDaemon(True)
t.start()
thread_arr.append(t)
#等待任务执行完毕
for i in range(num_thread):
thread_arr[i].join()
while True:
try:
info = rq.get(block=False)
print info
except Queue.Empty:
print time.time() - start_time
break
除了支持get操作外,还支持walk操作,即遍历某个OID下的所有子节点。
但是,使用walk操作时需要格外谨慎,以避免导致高延时等问题。具体注意事项可参考之前发布的关于snmpwalk高延时问题分析的博客文章。
pysnmp库解析
是一套使用Python实现的SNMP协议库。其自身提供了对异步操作的支持。
import time
import Queue
from pysnmp.hlapi.asyncore import *
t = time.time()
myq = Queue.Queue()
#回调函数。在有数据返回时触发
def cbFun(snmpEngine, sendRequestHandle, errorIndication, errorStatus, errorIndex, varBinds, cbCtx):
myq.put((time.time()-t, varBinds))
hosts = ["192.20.150.109", "192.20.150.110", "192.20.150.111", "192.20.150.112", "192.20.150.113", "192.20.150.114",
"192.20.150.115", "192.20.150.116", "192.20.150.117", "192.20.150.118", "192.20.150.119", "192.20.150.120",
"192.20.150.121", "192.20.80.148", "192.20.80.149", "192.20.96.59", "192.20.82.14", "192.20.82.15",
"192.20.82.17", "192.20.82.19", "192.20.82.12", "192.20.80.139", "192.20.80.137", "192.20.80.136",
"192.20.80.134", "192.20.80.133", "192.20.80.131", "192.20.80.130", "192.20.81.141", "192.20.81.140",
"192.20.82.26", "192.20.82.28", "192.20.82.23", "192.20.82.21", "192.20.80.128", "192.20.80.127",
"192.20.80.122", "192.20.81.159", "192.20.80.121", "192.20.80.124", "192.20.81.151", "192.20.80.118",
"192.20.80.119", "192.20.80.113", "192.20.80.112", "192.20.80.116", "192.20.80.115", "192.20.78.62",
"192.20.81.124", "192.20.81.125", "192.20.81.122", "192.20.81.121", "192.20.82.33", "192.20.82.31",
"192.20.82.32", "192.20.82.30", "192.20.81.128", "192.20.82.39", "192.20.82.37", "192.20.82.35",
"192.20.81.130", "192.20.80.200", "192.20.81.136", "192.20.81.137", "192.20.81.131", "192.20.81.133",
"192.20.81.134", "192.20.82.43", "192.20.82.45", "192.20.82.41", "192.20.79.152", "192.20.79.155",
"192.20.79.154", "192.25.76.235", "192.25.76.234", "192.25.76.233", "192.25.76.232", "192.25.76.231",
"192.25.76.228", "192.25.20.96", "192.25.20.95", "192.25.20.94", "192.25.20.93", "192.24.163.14",
"192.24.163.21", "192.24.163.29", "192.24.163.6", "192.18.136.22", "192.18.136.23", "192.24.193.2",
"192.24.193.19", "192.24.193.18", "192.24.193.11", "192.20.157.132", "192.20.157.133", "192.24.212.232",
"192.24.212.231", "192.24.212.230"]
oids = [".1.3.6.1.4.1.2021.11.9.0",".1.3.6.1.4.1.2021.11.10.0",".1.3.6.1.4.1.2021.11.11.0",".1.3.6.1.4.1.2021.10.1.3.1",
".1.3.6.1.4.1.2021.10.1.3.2",".1.3.6.1.4.1.2021.10.1.3.3",".1.3.6.1.4.1.2021.4.6.0",".1.3.6.1.4.1.2021.4.14.0",
".1.3.6.1.4.1.2021.4.15.0"]
snmpEngine = SnmpEngine()
#添加任务
for oid in oids:
for h in hosts:
getCmd(snmpEngine,
CommunityData('cluster'),
UdpTransportTarget((h, 161), timeout=3, retries=0,),
ContextData(),
ObjectType(ObjectIdentity(oid)),
cbFun=cbFun)
time1 = time.time() - t
#执行异步获取snmp
snmpEngine.transportDispatcher.runDispatcher()
#打印结果
while True:
try:
info = myq.get(block=False)
print info
except Queue.Empty:
print time1
print time.time() - t
break
需要注意的是,本身仅支持最基础的get和getnext命令。如果需要使用walk功能,开发者需要自行进行实现。
性能测试环境与方法
在相同的实验环境下,我们对上述两种库进行了性能对比测试。测试场景为对198个Host,每个Host采集10个OID的数据。
| 测试组 | 耗时(sec) |
|---|---|
| netsnmp(20线程) | 6.252 |
| netsnmp(50线程) | 3.269 |
| netsnmp(200线程) | 3.265 |
| pysnmp | 4.812 |
从测试结果可以看出,的采集速度与线程数量密切相关。当线程数增加到一定程度后,采集时间不再显著缩短,这是因为开辟新线程本身也会消耗系统资源。当已有线程数量足以处理当前负载时,增加线程反而可能带来开销。
的性能表现略逊一筹。详细分析显示,在添加任务(执行getCmd时)消耗了约1.2秒,随后的数据采集阶段约消耗3.3秒。
随后我们增加了OID的数量进行第二轮实验。Host数量保持198个不变,但OID数量增加到42个。
| 测试组 | 耗时(sec) |
|---|---|
| netsnmp(20线程) | 30.935 |
| netsnmp(50线程) | 12.914 |
| netsnmp(200线程) | 4.044 |
| pysnmp | 11.043 |
结果显示,随着负载增加,两者的性能差距进一步拉大。在线程数量充足的情况下,的执行效率明显强于。
尽管两者都支持并行采集多个Host,但从易用性角度来看,更为简单直接,且原生支持walk功能。综合考量,本文更推荐在项目中优先使用。
安装前需要先安装net-snmp库。如果使用CentOS系统,通过yum命令进行安装会较为便捷。
以上就是本文的全部内容,希望对大家的学习和工作有所帮助,也欢迎大家继续支持本站。
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













