程序员应该熟悉的概念

在之前的文章 嵌入和语义检索 中，我们了解了把文本变成向量的方法，由于这些向量相当于将文本做了分类：语义相近的距离越近，所以这些向量就可以很方便的应用于语义检索场景了。 比较向量相似度（vector similarity）的常见算法主要分为两大类： 1️⃣ 基于“角度/方向”的度量 2️⃣ 基于“距离/差异”的度量 下面我们系统的整理一下。 ...

语义检索是指系统能够理解用户查询的深层含义（语义），而不仅仅是匹配字面关键词。它通过分析上下文、同义词、相关概念等，查找与查询意图最相关的信息，即使文档中没有完全相同的词语。 与关键词检索的区别： 关键词检索：基于字面匹配，查找包含用户输入的特定词语的文档。它不理解词语的含义，因此可能遗漏意思相关但用词不同的内容，或返回用词相同但意思不符的结果。 语义检索：基于意义匹配，理解查询和文档的“意思”。它能找到表达方式不同但含义相近的内容，返回更符合用户真实意图的结果。 简单来说：关键词检索是“找词”，语义检索是“懂意”。 例如：如果用关键词检索“苹果”，那么可能找到我们吃的苹果以及苹果公司的相关信息；而语义检索会考虑检索内容的上下文，它能断定这个苹果是“苹果公司”，所以只会检索“苹果公司”的相关内容出来。 ...

vLLM(Virtual Large Language Model) 和 Ollama 都是用于运行大语言模型 大语言模型/LLM 的工具，旨在降低本地部署和使用大模型的门槛。应用程序可以通过它们的统一接口，使用不同大模型。 ...

大语言模型/LLM 通常是由海量通用知识（如语法、常识、逻辑）训练的，在面对具体场景（如医疗问诊、法律文书生成）时，能力往往不足。 Fine-tuning/微调 正是为解决这一问题而生的核心技术，其本质是在预训练模型的基础上，用特定领域 / 任务的小数据集进一步训练，让模型 适配具体需求，最终输出更精准、更贴合场景的结果。 ...

MoE(Mixture of Experts,专家混合模型）是当前大模型（尤其是 GPT-4、Gemini、Mixtral、DeepSeek 等）架构中非常核心的一个概念。 MoE 的思想非常直白：不同的 专家/Expert 只负责处理自己擅长的那一类输入，而不是让整个模型的所有参数都去处理所有任务。 也就是说： 一个 MoE 模型内部其实包含了很多个“子网络”（这些子网络叫做 专家/Expert）； 每次输入一句话或一段文本时，模型不会激活所有 专家/Expert，而是通过一个 路由/Router来挑选 最合适的几个专家； 只有被选中的那几个 专家/Expert 会参与这次计算，从而节省大量算力。 ...

在上一篇文章 MCP简介 中，我们对 MCP(Model Context Protocol) 有了一个概念上的认识，本文将更加深入的介绍 MCP 的架构和功能。 ...

MCP(Model Context Protocol) 是由 Anthropic 在 2024 年 11 月提出并开源的一个协议标准，目的是统一 AI 模型（尤其是大语言模型） 与外部资源 / 工具 / 数据源之间的交互方式。 MCP 被比喻为 AI 的 “USB-C 接口” —— 就像 USB-C 为各种外设提供统一接口一样，MCP 为 AI 模型与各类资源之间提供统一、标准化的接口。 OpenAI 在 2025 年 3 月宣布其 Agents SDK 已支持 MCP，从而使 OpenAI 的生态也兼容该协议。 多家厂商和工具也在采纳 MCP，包括 IDE、插件、代理框架、知识库 / 应用平台等。 ...

大名鼎鼎的 OpenAI 发布之后，其 OpenAI API规范 逐渐成了事实上的工业标准，很多大模型API都兼容这个规范。这也就意味着：OpenAI的SDK可以使用很多大模型。 兼容 OpenAI API规范 的大模型API包括：百炼、本地部署的Ollama、Anthropic（Claude 系列）、Mistral、Google DeepMind (Gemini)、Cohere、xAI（Elon Musk 团队）… 下面我们简单了解一下 OpenAI API规范。 ...

在这个前后端分离（前端和后端均为独立的应用，只通过API/接口通信）成为应用编程主流的时代，RESTful 规范（REST全称是：Representational State Transfer）应该是程序员必须掌握的API/接口设计规范。 RESTful 规范是一种基于 HTTP 协议设计网络接口的架构风格，旨在构建可扩展、清晰、易于理解的 Web 服务。 其核心思想是将资源作为中心，通过标准的 HTTP 方法对资源进行操作，强调无状态通信和统一接口。 ...

当前AI的本质能力上是预测：AI能通过大数据训练，总结过去的规律，预测未来。 比如我们问AI：“内蒙古的首府是哪个城市？”，其实AI并不会透彻“理解”这句话的意思，但是它可以预测：当人们提出这样一个问题时，他们寻找的是一个特定的答案：呼和浩特。 从经济的角度看，AI能让各种“中低端”的服务变得更廉价，可见AI必然会逐渐替代这些服务有其必然性。 ...