三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

Python 异步编程实战:从入门到性能翻倍

Python 异步编程实战:从入门到性能翻倍

Python 异步编程实战:从入门到性能翻倍


前言

在日常开发中,你是否遇到过这样的场景:程序需要同时请求多个接口、批量下载文件、或者处理大量 I/O 密集型任务,但同步代码的执行效率让人抓狂?

本文将带你从原理理解实战落地,全面掌握 Python 异步编程(asyncio),让你的程序性能实现质的飞跃。


一、为什么需要异步编程?

同步 vs 异步的直观对比

假设你需要请求 10 个接口,每个接口响应时间为 1 秒:

模式总耗时原因
同步~10 秒逐个等待,串行执行
异步~1 秒并发等待,同时发起

核心区别在于:同步是"等一个人做完再做下一个",异步是"同时派出去,谁先回来先处理谁"


二、核心概念速览

在动手写代码之前,先理解三个关键词:

  • 协程(Coroutine):用async def定义的函数,是异步编程的基本单元
  • 事件循环(Event Loop):调度和执行协程的"调度中心"
  • Task:对协程的封装,代表一个"正在执行的任务"
importasyncio# 定义一个协程asyncdefhello():print("Hello")awaitasyncio.sleep(1)# 模拟 I/O 操作print("World")# 运行协程asyncio.run(hello())

⚠️注意await只能在async def函数内部使用,它会"让出"控制权,让事件循环去处理其他任务。


三、实战场景:并发请求多个 API

这是异步编程最经典的应用场景。我们以请求多个天气接口为例:

同步版本(慢)

importrequestsimporttimedeffetch_weather(city):# 模拟网络请求time.sleep(1)returnf"{city}: 晴, 28°C"cities=["北京","上海","广州","深圳","杭州"]start=time.time()forcityincities:result=fetch_weather(city)print(result)print(f"总耗时:{time.time()-start:.2f}s")# 输出: 总耗时: 5.02s

异步版本(快)

importasyncioimportaiohttpimporttimeasyncdeffetch_weather(session,city):# 模拟网络请求(实际项目中替换为真实 API)awaitasyncio.sleep(1)returnf"{city}: 晴, 28°C"asyncdefmain():cities=["北京","上海","广州","深圳","杭州"]asyncwithaiohttp.ClientSession()assession:tasks=[fetch_weather(session,city)forcityincities]results=awaitasyncio.gather(*tasks)forresultinresults:print(result)start=time.time()asyncio.run(main())print(f"总耗时:{time.time()-start:.2f}s")# 输出: 总耗时: 1.01s

性能提升 5 倍!城市越多,优势越明显。


四、进阶技巧

4.1 控制并发数(信号量)

当需要请求上百个接口时,不能无限制并发,否则会触发限流或压垮服务器:

asyncdeffetch_with_limit(semaphore,session,city):asyncwithsemaphore:# 限制同时执行的数量awaitasyncio.sleep(1)returnf"{city}: 晴, 28°C"asyncdefmain():semaphore=asyncio.Semaphore(3)# 最多同时 3 个请求cities=["北京","上海","广州","深圳","杭州","成都","武汉"]tasks=[fetch_with_limit(semaphore,None,city)forcityincities]results=awaitasyncio.gather(*tasks)print(results)

4.2 异常处理

异步代码中的异常需要特别处理,否则一个任务失败可能导致整个gather崩溃:

asyncdefsafe_fetch(city):try:awaitasyncio.sleep(1)ifcity=="广州":raiseValueError("接口异常")returnf"{city}: 晴, 28°C"exceptExceptionase:returnf"{city}: 请求失败 -{e}"asyncdefmain():cities=["北京","广州","上海"]tasks=[safe_fetch(city)forcityincities]results=awaitasyncio.gather(*tasks)forrinresults:print(r)# 输出:# 北京: 晴, 28°C# 广州: 请求失败 - 接口异常# 上海: 晴, 28°C

4.3 异步生成器与流式处理

处理大量数据时,使用异步生成器可以避免一次性加载所有结果到内存:

asyncdefstream_data(n):"""模拟流式读取数据"""foriinrange(n):awaitasyncio.sleep(0.1)yield{"id":i,"value":f"data_{i}"}asyncdefmain():asyncforiteminstream_data(10):print(f"处理:{item}")

五、异步编程的适用场景与避坑指南

✅ 适合异步的场景

场景说明
网络请求(HTTP/RPC)等待网络响应时不阻塞
文件 I/O大量文件读写操作
数据库查询并发查询多个数据源
WebSocket 通信长连接场景

❌ 不适合异步的场景

场景原因
CPU 密集型计算应使用多进程(multiprocessing
调用同步阻塞库会阻塞整个事件循环
简单脚本引入异步反而增加复杂度

⚠️ 常见踩坑点

  1. 在异步中调用同步阻塞函数:使用loop.run_in_executor()将阻塞操作放到线程池
  2. 忘记await:协程不会自动执行,必须await或创建 Task
  3. 全局共享状态:异步并发下需注意数据竞争问题
# 正确做法:将阻塞操作放入线程池importasyncioimporttimedefblocking_task():time.sleep(2)# CPU 密集型或同步阻塞操作return"done"asyncdefmain():loop=asyncio.get_event_loop()result=awaitloop.run_in_executor(None,blocking_task)print(result)

六、性能对比总结

以并发请求 50 个接口(每个 100ms)为例:

同步串行: ~5.0 秒 异步并发: ~0.1 秒(提升 50 倍) 异步+限流(10):~0.5 秒(安全且高效)

七、总结

要点内容
核心思想遇到 I/O 等待时让出控制权,做其他事
关键语法async defawaitasyncio.run()
并发控制asyncio.gather()+Semaphore
适用边界I/O 密集型任务,非 CPU 密集型

异步编程不是银弹,但在 I/O 密集型场景下,它是最优雅、最高效的解决方案。掌握asyncio,你的 Python 程序将如虎添翼。

← 返回列表