Python 3.5+ 异步协程核心机制与实战解析

顾星河
顾星河
发布时间:2026-10-13 | 4人浏览过
原创

本文深入解析Python 3.4后引入的asyncio模块,阐述单线程下通过协程实现异步IO的工作机制。重点讲解event_loop、coroutine、task及future等核心概念,并结合async/await语法演示协程定义、回调绑定及多任务并发处理,帮助开发者掌握高效网络IO处理技巧。

Python异步IO基础与asyncio模块概述

自Python 3.4版本起,标准库中引入了asyncio模块,旨在协助开发者检测网络IO操作(如HTTP连接),并在应用层面实现异步IO切换。需特别注意,asyncio仅支持TCP层面的请求发送,并不直接处理HTTP协议层。

异步IO的核心定义在于:当发起一个网络IO请求时,程序无需等待该操作完成即可继续执行后续逻辑;一旦IO操作结束,系统会发出通知告知结果。

实现异步IO的主要路径是结合单线程模型与协程技术。

以下是异步协程的具体使用方法。

核心概念解析:事件循环与协程机制

为了深入理解协程实现,我们需要回顾Python版本演进:从Python 3.4开始引入协程概念,初期基于生成器对象;至Python 3.5,引入了async/await语法,大幅简化了协程的实现过程。在此之前,需明确几个关键概念:

  • event_loop(事件循环):作为一个无限循环机制,允许将特定函数注册其中。当满足触发条件时,事件循环将调用相应的处理方法。
  • coroutine(协程):在Python中通常指代协程对象。可将协程对象注册至事件循环中供其调用。使用async关键字定义的方法在调用时不会立即执行,而是返回一个协程对象。
  • task(任务):这是对协程对象的进一步封装,用于跟踪和管理任务的各类状态。
  • future:用于表示尚未执行或正在执行的任务结果,其本质与task并无显著区别。

此外,还需掌握从Python 3.5开始专用于定义协程的async/await关键字。其中,async用于定义协程,而await则用于挂起阻塞方法的执行,确保异步流程的正确调度。

协程实战:定义、回调与多任务处理

1. 定义一个协程示例

具体代码实现如下:


from time import sleep
import asyncio

async def request(url):
  print('正在请求url')
  sleep(2)
  print('下载成功')

# 返回一个特殊的协程对象,request函数内部不会被执行
c = request('www.baidu.com')

# 实例化一个事件循环对象
loop = asyncio.get_event_loop()

# 基于事件循环对象创建一个任务对象,并将协程对象封装到该对象中
task = loop.create_task(c)

# 另一种形式实例化任务对象的方法
task = asyncio.ensure_future(c)

# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
# 当事件循环对象内的第一个参数遇到阻塞是,就会自动执行后面的对象,当第一个对象的阻塞结束是会上报给事件循环对象,然后事件循环对象继续执行第一个对象,从而达到异步的效果
loop.run_until_complete(task)

2. 为任务对象绑定回调函数


import asyncio

async def request(url):
  print('正在请求url')
  print('下载成功')
  return url

# 回调函数必须有一个参数:task【任务对象】
# task.result():任务对象中封装的协程对象对应的特殊函数内部的返回值
def callback(task):
  print('this is callback')
  print(task.result())

c = request('www.baidu.com')
# 创建一个任务对象
task = asyncio.ensure_future(c)
# 给任务对象绑定一个回调函数
task.add_done_callback(callback)
# 实例化一个事件循环对象
loop = asyncio.get_event_loop()
# 将协程对象注册到事件循环对象中,并需要启动事件循环对象
loop.run_until_complete(task)

3. 多任务异步协程处理


import asyncio
import time

urls = ['www.baidu.com','www.sogou,com','www.goubanjia.com']
start_time = time.time()
async def request(url):
  print('正在请求url')
  # 在多任务异步协程事项中,不可以出现不支持异步的相关代码,sleep不支持
  # sleep(2)
  await asyncio.sleep(2)
  print('下载成功')

loop = asyncio.get_event_loop()
# 任务列表:防止多个任务对象
tasks = []
for url in urls:
  c = request(url)
  task = asyncio.ensure_future(c)
  tasks.append(task)

loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)

4. 多异步任务在实际场景中的应用


# aiohttp:支持异步的一个基于网络请求的模块
import aiohttp
import asyncio
import time

urls = ['http://127.0.0.1:5000/jay',
    'http://127.0.0.1:5000/bobo',
    'http://127.0.0.1:5000/tom',]

start_time = time.time()

async def get_pageText(url):
  async with aiohttp.ClientSession() as s:# 实例化请求对象
    async with await s.get(url) as response:
      page_text = await response.text()
      print(page_text)
      # 这里有返回值,是因为要用回调函数进行数据解析
      return page_text

# 封装回调函数用于数据解析
def parse(task):
  # 1.获取相应数据
  page_text = task.reault()
  print(page_text+',即将进行数据解析...')
  # 以下解析操作


tasks = []
for url in urls:
  c = get_pageText(url)
  task = asyncio.ensure_future(c)
  # 给任务对象绑定回调函数用于数据解析
  task.add_done_callback(parse)
  tasks.append(task)

loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
print(time.time() - start_time)

以上内容涵盖了本文的核心知识点,希望能对读者的学习有所助益,也欢迎持续关注本站以获取更多信息。

本站声明

本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。

Python 相关产品和应用

全部下载

专题列表