缓存与多级存储:别让 AI 无脑直查数据库
AI 写业务代码时,有一种非常典型的倾向: async def get_user(user_id: int): return await user_db.get_by_id(user_id) 功能没错。但如果项目里所有读取都变成: 查用户 → 数据库 查权限 → 数据库 查模型 → 数据库 查 Agent → 数据库 查知识库 → 数据库 查配置 → 数据库 系统很快就会进入一种状态: 每个函数都很正确,整体架构却越来越低效。 问题不只是“有没有缓存”,而是: AI 没有先判断:我要复用的是一个“值”,还是一个“已经构建好的运行对象”? 这正是 miniagent 当前缓存架构最值得借鉴的地方。 它不是简单地做一套缓存,而是明确分成两类: Object Cache 对象缓存 Value Cache 值缓存 两者解决的根本不是同一个问题。 ...