本阶段课程 · 知识库、检索与 RAG
记忆、RAG 与微调的区别
按保存位置、更新方式和用途,区分几种让AI适应任务的方法。
“让AI更懂我”可能是在提三种不同需求
你希望以后回答更简短,想让助手知道公司的最新报销规则,或者希望每天整理留言都使用固定栏目。这三种需求分别偏向表达偏好、事实资料与任务行为。它们都可能改善体验,但不一定用同一种机制解决。
先问“要保存什么、放在哪里、以后怎样使用”,比直接决定“训练一个自己的AI”更容易选对办法。很多需求可以先通过提示词、应用设置和资料来源实现。
上下文、记忆、RAG与微调分别做什么
| 方法 | 主要改变哪里 | 常见用途 | 如何更新 |
|---|---|---|---|
| 提示词与当前上下文 | 本次模型输入 | 一次任务的要求、材料和示例 | 修改输入 |
| 应用记忆 | 模型外保存的信息 | 偏好、已确认事实或任务记录 | 查看、修改、删除保存项 |
| RAG | 查找并提供资料的流程 | 根据可更新文件回答问题 | 更新来源与索引 |
| 微调 | 模型参数与行为 | 在适合的任务上学习稳定模式 | 准备数据、训练并重新评估 |
这些方式可以组合使用。比如,应用记住你喜欢简短回答,检索到当前活动规则,再用一个固定格式回复。它们并不是只能四选一的竞争产品。
经常变化的事实,为什么需要可更新来源
报销标准、营业时间和活动政策可能随时变化。把它们保存到有版本的文档或业务系统里,应用就能按需读取,并让答案追溯到具体来源。发生错误时,也能知道该改哪份资料。
例如规则从提前24小时可退,更新为提前12小时可退。系统需要知道新版替代旧版,并在后续查询时使用正确来源。如果检索仍取回旧片段,只在提示词里写“请用最新信息”并不能真正完成更新。
微调更适合讨论什么问题
微调使用额外训练数据调整模型参数,可能帮助模型更稳定地遵循某类格式、风格或任务模式。但它需要高质量数据、评估和维护,也不能保证所有输出都正确。
对于固定栏目整理任务,可以先尝试明确规则和代表性样例。如果已经有稳定任务、大量合适示例,并且其他方法仍达不到目标,再评估微调是否值得。不要把它当作保存最新政策的默认手段,也不要假设它一定比检索更便宜或更准确。
长期记忆也需要边界
应用保存的偏好可能过期、被误解,或只适用于某个场景。工作报告需要正式语气,私人聊天喜欢轻松语气,两者不应永远混用。记忆最好能够查看、修改与删除,并说明什么时候会被带入当前任务。
理解这几种机制后,再看到“专属AI”“AI记住了你”“私有知识”等说法,就可以追问具体实现:是保存了一条设置,取回了一份文档,还是实际调整了模型参数。这些问题会直接影响更新方式、可追溯性和使用成本。
检查一下理解
本节参考与继续阅读
下列章节用于核对概念与机制。本站以中文重新组织讲解,例子和练习为独立编写。
- Google · Introduction to Large Language Models
对应语言模型、Token与上下文。原课包含技术前置知识,本站以不需要公式的解释展开。
- Microsoft · RAG and Vector Databases
对应资料准备、检索与生成链路;向量与原文需保存对应关系,本站不把相似度或RAG本身当成准确性保证。
- Anthropic · AI Fluency 课程大纲
参考描述任务、检查结果、再次反馈的协作过程;没有照搬其整套课程。
可选练习能为个人偏好、更新频繁的资料和稳定任务格式选择起点。
能为个人偏好、更新频繁的资料和稳定任务格式选择起点。
打开你常用的 AI 对话工具,选择“新建对话”或“新建聊天”。在输入框粘贴下面的内容,点击发送。后续步骤留在同一段对话里;只有明确要求时才新开对话。
A:以后回答我时尽量简短。 B:本月活动退费规则变了,要按新规则回答。 C:每天把几十条客户留言整理成固定栏目。
跟着做一遍
下面的结果是本站编写的对照示例。实际工具的措辞可能不同,按每步的关键条件检查即可。
先为每张卡找最简单的做法
新建对话,要求先给不训练模型的做法。
请为A“回答简短”、B“按本月新规则答”、C“留言整理成固定栏目”分别给出最简单的做法。区分偏好设置、资料更新和提示词模板,不推荐先训练模型。
做完后,展开结果对照
A可用当前提示或产品偏好设置;B更新并检索当前资料;C先用固定栏目和示例模板。
为什么这样做很多“更懂我”的需求,起步时并不需要训练。先把任务是什么说清楚。
实际试一次偏好与规则分离
把口吻和事实各写在一行,观察是否能同时满足。
表达偏好:最多两句话。当前规则:活动开始前24小时可全额退款,不足24小时不退款、可转让。问题:开场前2小时能退吗?
做完后,展开结果对照
按当前规则,提前2小时不足24小时,不能退款。可以转让名额。
为什么这样做偏好决定怎么说,规则决定说什么;一句“记住我”不能替代两类信息的维护。
规则改了,只更新规则
假设这是下一次练习,不是真实政策更新。
练习更新:旧规则作废。当前规则为活动开始前12小时可全额退款,不足12小时不退款、可转让。仍用两句话回答:提前18小时能退吗?
做完后,展开结果对照
可以,提前18小时超过当前12小时的退款时限。依据是更新后的规则。
为什么这样做如果答不对,先排查旧资料、检索或上下文,而不是立刻认定需要微调。
记忆、知识库与微调
记忆保存可取回的信息;知识库用于查资料;微调用额外训练调整模型行为。它们解决的问题有重叠,但不是同一个按钮。
没做出来?从这里排查
想让所有事实都靠长期记忆保存
先区分个人偏好与组织政策,重要规则使用可维护的资料来源。
模板偶尔出错就想训练
收集出错案例,先检查输入、示例和验收标准是否清楚。
换一个例子验证
给自己的三项需求选保存方式。
- 一项表达偏好,一项事实资料,一项重复任务。
- 写明分别保存在哪里、怎样更新。
- 为每项写一个验证问题,更新后再试一次。
完成状态仅保存在当前浏览器,可再次点击取消。