用FastAPI做langchain本地大模型的API

本文讲述了如何使用FastAPI和langchain框架,包装本地大模型llama3.1,实现语言翻译功能的API。 相对于 Flask ,使用FastAPI做接口要简便得多。 ...

十一月 5, 2024 · 2 分钟 · 火云