http://www.wfcoding.com/tags/conversational-rag/ Recent content in Conversational RAG on 有趣的AI Hugo -- 0.164.0 zh-CN 火云 Thu, 10 Oct 2024 00:00:00 +0000 http://www.wfcoding.com/articles/practice/0105/ Thu, 10 Oct 2024 00:00:00 +0000 http://www.wfcoding.com/articles/practice/0105/ <p>本文概述了基于langchian框架和对话式增强生成（<code>Conversational RAG</code>(<code>Retrieval Augmented Generation</code>)）技术实现知识问答。<br> 具体来说，系统<mark>自动记录聊天历史</mark>，并把它作为上下文提供给大模型，这样它让大模型产生了“记忆”，可以“理解”和关联上下文，体验更好。<br> 此样例程序使用本地部署的<code>nomic-embed-text</code>模型做嵌入检索，使用本地部署的<code>llama3.1</code>做回答内容生成。</p> http://www.wfcoding.com/articles/practice/0104/ Wed, 09 Oct 2024 00:00:00 +0000 http://www.wfcoding.com/articles/practice/0104/ <p>本文讲述了基于<code>langchian</code>框架，使用本地部署的<code>nomic-embed-text</code>模型做嵌入检索、<code>llama3.1</code>做回答内容生成的知识问答系统实例。</p> <ul> <li>会话式检索增强生成，即：<code>Conversational RAG</code>。</li> <li><code>nomic-embed-text</code>：一个高性能开放嵌入模型，具有较大的标记上下文窗口。这个模型只有274M，但实际做嵌入和检索时，感觉<strong>比llama3好</strong>。</li> </ul> <blockquote> <p>通过对比测试使用历史聊天记录和不使用历史聊天记录两种情况，我们可以明显看出来使用历史聊天记录的优点：它让大模型产生了“记忆”，可以“理解”和关联上下文，体验更好。</p> </blockquote>