异步与并发架构:纠正 AI 同步阻塞写法,提升系统吞吐能力
AI 写代码有一个很常见的问题: 代码能跑,但一到多人访问就变慢。 尤其在 Python Web 项目中,即使使用 FastAPI,函数也写成了 async def,数据库查询、HTTP 请求、大模型调用等操作仍然可能同步阻塞。 问题的关键在于: async def 只是异步函数的入口,并不会自动把里面的同步代码变成异步代码。 对于 Web 服务、知识库和智能体平台这类大量依赖外部 I/O 的系统,建立统一的异步与并发架构,是提升系统吞吐能力的重要基础。 ...