Python实现定时任务随机间隔执行的方法
本文介绍如何在Python中实现定时任务的随机间隔执行,以规避爬虫检测。通过APScheduler库的BackgroundScheduler,在任务结束后动态生成随机的分钟和秒数间隔,重新注册定时任务。文中提供了基于sched模块的三种传统实现方式作为对比参考,帮助开发者灵活选择适合的技术方案。
背景说明:
当前有一个爬虫服务,需要定期从公开网站抓取数据。为了降低被目标网站识别为爬虫的风险(防爬虫机制通常综合多种特征,时间维度只是其中之一),我们需要在指定的执行周期内,随机生成一个具体的爬取时间点。
该脚本由Python编写,具体实现代码如下:
import logging
import traceback
from datetime import datetime
from apscheduler.schedulers.background import BackgroundScheduler
scheduler = BackgroundScheduler()
def spider_schedule():
# spider_schedule是job_id
scheduler.remove_job('spider_schedule')
try:
print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X')
#--------自己的业务代码-------
pass
#---------------------------
print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X')
except Exception as e:
print traceback.format_exc(e)
finally:
interval_minutes = random.randint(60, 120) # 1-120分钟随机选一个时间
interval_seconds = random.randint(1, 60) # 1~60秒随机选一个时间
scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule')
if __name__ == '__main__':
scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule')
scheduler.start()
补充说明:下文将介绍Python中定时执行任务的另外三种常见实现方式。
#!/user/bin/env python
# @Time :2018/6/7 16:31
# @Author :PGIDYSQ
#@File :PerformTaskTimer.py
#定时执行任务命令
#1.定时任务代码
import time,os,sched
# schedule = sched.scheduler(time.time,time.sleep)
# def perform_command(cmd,inc):
# os.system(cmd)
# print('task')
# def timming_exe(cmd,inc=60):
# schedule.enter(inc,0,perform_command,(cmd,inc))
# schedule.run()
# print('show time after 2 seconds:')
# timming_exe('echo %time%',2)
#2.周期性执行任务
schedule = sched.scheduler(time.time,time.sleep)
def perform_command(cmd,inc):
#在inc秒后再次运行自己,即周期运行
schedule.enter(inc, 0, perform_command, (cmd, inc))
os.system(cmd)
def timming_exe(cmd,inc=60):
schedule.enter(inc,0,perform_command,(cmd,inc))
schedule.run()#持续运行,直到计划时间队列变成空为止
print('show time after 2 seconds:')
timming_exe('echo %time%',2)
#3.循环执行命令
# import time,os
# def re_exe(cmd,inc = 60):
# while True:
# os.system(cmd)
# time.sleep(inc)
# re_exe("echo %time%",5)
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













