让 AI 用上你自己的资料
把长资料切成片段、检索出相关的几段、让模型照着答并标出出处 —— 这就是 RAG。最后一章再讲多智能体的取舍与上线清单。每章都有可在本机运行的示例、小结表和章末小测,零基础也能跟下来。
按 6 个模块、L1~L5 难度自己测一遍,10 题一组即答即批,适合学完几章之后查漏补缺。 链接:https://myimage.cn/rag-agent/
全部章节
第 1 章 为什么需要 RAG
1.1 模型不知道的三类事
到上一阶段为止,Agent 已经会查、会算、会调工具了。但你问它「我们公司出差住宿上限是多少」,它依然答不上来,因为这类信息属于:
- 私有资料:你的制度文件、产品手册、客户记录,模型训练时没见过。
- 最新信息:训练数据有截止时间,之后发生的事它不知道。
- 具体细节:条款号、金额、编号这类要求一字不差的内容,它最容易编。
硬把这些内容塞进 Prompt 也不行:资料一多就撑爆上下文窗口,而且贵、慢、还容易被无关内容干扰。
RAG(Retrieval-Augmented Generation,检索增强生成)的思路特别朴素:别让模型背下整个图书馆,先帮它把相关的那几页找出来,摊在桌上,再让它照着答。
1.2 一句话流程
- 准备:把资料切成小片段(chunk)。
- 建索引:把每个片段变成可检索的形式。
- 检索:用户提问时,找出最相关的几个片段。
- 拼装:把片段和提问一起放进 Prompt。
- 生成:让模型只根据这些片段回答,并标出出处。
注意最后一步那句「只根据」—— 这才是 RAG 抑制幻觉的关键。检索到了好材料却不约束模型,它照样会自由发挥。
| 微调(Fine-tuning) | RAG | |
|---|---|---|
| 改变模型本身 | 是 | 否 |
| 资料更新 | 要重新训练 | 换 / 加文档即可 |
| 成本与门槛 | 高 | 低,适合入门 |
| 答案可溯源 | 难 | 容易,能附出处 |
1.3 入门阶段的正确预期
RAG 不是「让模型变聪明」,而是给它一份临时的、针对这次问题的开卷资料。所以它有两道独立的坎:找不找得到(检索质量)和答得对不对(生成质量)。
很多人一上来就调模型、调 Prompt,效果不好却始终没发现问题其实出在第一步:相关片段根本没被检索出来。第 5 章会讲怎么把这两件事分开测。
1.4 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| RAG 要解决 | 私有 / 最新 / 要求精确的资料 |
| 核心比喻 | 开卷考试:先找相关几页,再照着答 |
| 五步流程 | 准备 → 索引 → 检索 → 拼装 → 生成 |
| 对比微调 | 不改模型、更新便宜、答案可溯源 |
| 两道坎 | 检索质量 与 生成质量,要分开测 |
第 2 章 第一步:把资料切成小块
2.1 为什么要切(chunk)
一份 50 页的制度文件不可能整篇塞进上下文。切分(chunking)就是把长文档拆成一段段独立、语义完整的小片段,检索时只取相关的几段。
- 太大:一个片段里混了好几个主题,检索命中了但噪声多,还浪费 token。
- 太小:一句话被拦腰截断,缺主语、缺条件,模型看不懂。
- 合适:一个片段讲清一件小事,能独立读懂。
优先按结构切:标题、章节、空行、条目,比「每隔 500 字一刀」更靠谱。
2.2 带重叠的切分(本机可运行)
相邻片段留一点重叠(overlap),能避免「一句话正好被切断」。下面这段纯 Python 可直接跑:
def split_text(text, size=40, overlap=8):
"""按固定长度切片段:size=每段长度,overlap=相邻两段重叠的长度"""
chunks, start = [], 0
while start < len(text):
end = min(start + size, len(text))
chunks.append(text[start:end])
if end == len(text):
break
start = end - overlap # 回退一小段,形成重叠
return chunks
# 一段制度原文(两个字符串相邻,Python 会自动把它们拼成一个字符串)
doc = "出差住宿上限:一线城市每晚 500 元,其它城市每晚 350 元。" "报销需提供发票,并在归来后 7 个工作日内提交。"
parts = split_text(doc, size=30, overlap=6) # 片段 30 字、重叠 6 字
for i, p in enumerate(parts, 1):
print(i, "|", p)
# 输出(片段之间有重叠):
# 1 | 出差住宿上限:一线城市每晚 500 元,其它城市每晚 350
# 2 | 每晚 350 元。报销需提供发票,并在归来后 7 个工作日内
# 3 | 个工作日内提交。小白提示:看输出的第 2、3 行:一句话被切成了两半。这就是「重叠分块」——相邻片段故意重复一小段,避免答案正好被切在中间。代价是内容会重复,收益是语义不断。真实项目里每块通常取 300~800 字。
可以看到相邻片段有重复文字 —— 这就是 overlap 的作用。真实项目里请按标题 / 段落切,而不是按字符数硬切;这里只是让你看清原理。
重叠不是越多越好:重叠太多会让检索结果里出现大量重复内容,白占上下文。一般取片段长度的 10%~20% 起步再调。
2.3 别丢元数据
每个片段除了正文,还应记下它从哪来:文件名、章节标题、页码或段落号。没有这些,后面就没法「标出出处」,也没法按部门 / 日期做筛选。
chunk = {
"text": "一线城市每晚 500 元,其它城市每晚 350 元。", # 片段正文
"source": "差旅制度.md", # 来自哪个文件 —— 溯源要用
"section": "第三章 住宿标准", # 来自哪一节 —— 定位更准
"id": "travel-003", # 片段唯一编号,方便评测与引用
}
print(chunk["source"], "→", chunk["section"])
# 输出: 差旅制度.md → 第三章 住宿标准source(来自哪个文件)和 section(来自哪一节)就是溯源用的:只有回答里能标出出处,用户才敢信。id 则是给评测脚本对答案用的。
有了 source 和 section,最终答案就能附上「来源:差旅制度.md · 第三章」,用户可自行核对。
2.4 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| 切分目的 | 让检索只取相关片段,省 token 降噪声 |
| 太大 / 太小 | 噪声多 / 语义被截断 |
| 优先按结构切 | 标题、章节、空行、条目 |
| 重叠 overlap | 防句子被切断,一般 10%~20% 起步 |
| 元数据 | source / section / id,用于溯源与筛选 |
第 3 章 检索:怎么找出「相关的那几页」
3.1 两种检索,先用简单的
| 方式 | 原理 | 特点 |
|---|---|---|
| 关键词检索 | 数词出现次数 / 倒排索引 | 对编号、专有名词、精确术语特别准 |
| 向量检索 | 把文字变成数字向量,比「方向」相近程度 | 能处理「说法不同但意思相近」 |
| 混合检索 | 两者结果合并再排序 | 实战最常用,兼顾精确与语义 |
入门先从关键词检索做起:它可解释、零依赖、容易调试。等你能稳定测出「哪些问题找不准」了,再引入向量检索,才知道它到底改善了什么。
别一上来就装向量数据库。很多「RAG 效果差」的根因是文档没切好或问题里有错字,跟向量一点关系都没有。
3.2 一个能跑的最小检索器(纯 Python)
下面用「关键词命中数」模拟打分,不装任何库就能跑,帮你把检索这件事看明白:
chunks = [
{"id": "travel-003", "source": "差旅制度.md",
"keywords": ["住宿", "上限", "每晚", "元"],
"text": "一线城市每晚 500 元,其它城市每晚 350 元。"},
{"id": "leave-001", "source": "休假制度.md",
"keywords": ["年假", "申请", "主管", "工作日"],
"text": "年假需提前 3 个工作日申请,由主管审批。"},
{"id": "travel-007", "source": "差旅制度.md",
"keywords": ["报销", "发票", "提交"],
"text": "报销需提供发票,归来后 7 个工作日内提交。"},
]
def score(query, chunk):
# 极简「打分」:问题里命中了多少个片段关键词
return sum(1 for k in chunk["keywords"] if k in query)
def search(query, top_k=2):
"""打分 → 排序 → 取前 top_k 条,并丢掉 0 分的(宁缺毋滥)"""
ranked = sorted(chunks, key=lambda c: score(query, c), reverse=True)
return [c for c in ranked[:top_k] if score(query, c) > 0]
for q in ["住宿上限多少", "年假怎么申请"]:
print("问题:", q)
for c in search(q):
print("→", c["source"], "|", c["text"])
# 输出:
# 问题: 住宿上限多少
# → 差旅制度.md | 一线城市每晚 500 元,其它城市每晚 350 元。
# 问题: 年假怎么申请
# → 休假制度.md | 年假需提前 3 个工作日申请,由主管审批。这是极简的关键词检索示意,只为讲清「问题 → 找到片段」这一步。真实项目会用向量检索(embedding),才能找到「意思相近但用词完全不同」的内容,比如问「住酒店能报多少」也能命中「住宿标准」。
这个打分函数很朴素(真实向量检索会换成向量距离),但它把「打分 → 排序 → 取 top_k」的流程完整跑了一遍,而且流程不变。这正对应前面说的:入门先做可解释的关键词检索。
注意 score > 0 这个过滤:完全不相关时不返回片段,比硬塞一个不沾边的片段更安全 —— 那会诱导模型硬答。
3.3 top_k 与阈值
- top_k:取前几条。太少容易漏,太多噪声大、还占上下文。一般从 3~5 起步。
- 阈值:分数太低就当「没找到」,走「资料中未说明」的出口。
- 重排(rerank):先粗略召回一批,再用更细的方法挑出最贴切的几条,属于进阶优化。
- 查询改写:把「住宿能报多少」补成「住宿 报销 上限 标准」,能明显提升命中率。
3.4 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| 三种方式 | 关键词 / 向量 / 混合,实战常用混合 |
| 入门顺序 | 先做可解释的关键词检索 |
| 流程不变 | 打分 → 排序 → 取 top_k |
| 两个旋钮 | top_k 取几条;阈值决定「算不算没找到」 |
| 宁缺毋滥 | 不相关就别塞,让模型答「资料未说明」 |
第 4 章 拼装与生成:让答案带出处
4.1 把检索结果拼进 Prompt
检索到片段后,要把「问题 + 片段 + 规则」按固定格式拼起来。规则里必须写清三件事:只用给定材料、每句话标出处、材料没写就答「资料未说明」。
def build_rag_prompt(question, hits):
"""把检索到的片段拼成一条带约束、带编号的 Prompt"""
blocks = []
for i, c in enumerate(hits, 1):
# 每段前面加编号,模型回答时就能写 [1] 这样的出处
blocks.append(f"[{i}] 来源:{c['source']} · {c.get('section','')}\n{c['text']}")
material = "\n\n".join(blocks) if blocks else "(没有检索到相关资料)"
return (
"只根据下面的【材料】回答问题,不要使用材料之外的知识。\n"
"每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。\n\n"
f"【材料】\n{material}\n\n【问题】{question}"
)
hits = [{"source": "差旅制度.md", "section": "第三章 住宿标准",
"text": "一线城市每晚 500 元,其它城市每晚 350 元。"}]
print(build_rag_prompt("上海住宿上限多少?", hits))
print("--- 无命中 ---")
print(build_rag_prompt("海外出差标准?", []))
# 输出:
# 只根据下面的【材料】回答问题,不要使用材料之外的知识。
# 每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。
#
# 【材料】
# [1] 来源:差旅制度.md · 第三章 住宿标准
# 一线城市每晚 500 元,其它城市每晚 350 元。
#
# 【问题】上海住宿上限多少?
# --- 无命中 ---
# 只根据下面的【材料】回答问题,不要使用材料之外的知识。
# 每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。
#
# 【材料】
# (没有检索到相关资料)
#
# 【问题】海外出差标准?小白提示:对比两组输出:有命中时把材料塞进【材料】;没命中时明确写「(没有检索到相关资料)」。后者非常重要——它给了模型一个体面的退路,让它回答「资料未说明」,而不是硬编一个数字。
运行后你会看到两份完整 Prompt。第二份特意留空材料,用来验证「不硬答」这条规则真的生效 —— 这是最该测的边界情况。
4.2 溯源为什么重要
带出处的答案带来三个好处:用户可以自己去核对;你能一眼看出模型是不是在编;出问题时能追到是检索取错了片段,还是片段本身写得有歧义。
| 答案表现 | 优先怀疑 |
|---|---|
| 答案错,且出处片段本身就不相关 | 检索层:切分 / 打分 / top_k / 查询改写 |
| 答案错,但出处片段里明明写着正确答案 | 生成层:Prompt 约束 / 模型指令遵循 |
| 没有出处却答得很肯定 | 生成层:模型脱离材料,需加强约束与校验 |
这张表就是第 5 章「分开测」的思路雏形:有出处,故障定位从「猜」变成「查」。
4.3 拼装时三个容易忽略的细节
- 给每个片段编号并附上来源,让模型能引用。
- 控制总长度:片段太多先截断或重排,别把上下文塞满。
- 去重:overlap 会让相邻片段重复,拼装前可做一次简单去重。
4.4 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| 拼装三要素 | 问题 + 带编号的材料 + 明确规则 |
| 必须写清的三条 | 只用材料 / 标出处 / 没写就答未说明 |
| 溯源价值 | 可核对、可定位是检索错还是生成错 |
| 必测边界 | 检索无命中时是否老实答「资料未说明」 |
| 工程细节 | 编号、长度控制、overlap 去重 |
第 5 章 评估与调优:别凭感觉说「效果不好」
5.1 先分开测两层
把「效果不好」拆成两个可测的问题:
- 检索层:对于这个问题,正确片段有没有被取回来?(只看命中,不看答案)
- 生成层:在已经给对材料的前提下,答案是否正确、是否带出处?
分开测的价值:如果检索命中率只有 60%,你换再贵的模型也没用 —— 材料根本没送到它面前。
5.2 做一张最小评测集(可直接运行)
准备 10~20 个「问题 → 应该命中哪个片段 id」的样例,就能算出命中率。下面纯 Python 可跑:
gold = [
{"q": "住宿上限多少", "want": "travel-003"},
{"q": "年假提前几天申请", "want": "leave-001"},
{"q": "报销要什么凭证", "want": "travel-007"},
]
# 假装是检索器返回的结果(真实项目里换成 search())
predicted = ["travel-003", "travel-007", "travel-007"]
hit = sum(1 for g, p in zip(gold, predicted) if g["want"] == p) # 命中的条数
print("命中:", hit, "/", len(gold))
print("命中率:", round(hit / len(gold) * 100, 1), "%")
for g, p in zip(gold, predicted): # 逐条对比,把没命中的打出来
if g["want"] != p:
print("未命中 →", g["q"], "| 期望", g["want"], "实际", p)
# 输出:
# 命中: 2 / 3
# 命中率: 66.7 %
# 未命中 → 年假提前几天申请 | 期望 leave-001 实际 travel-007命中率 66.7% 说明三个问题里有一个检索错了,输出还直接点名是哪一条、期望哪个片段、实际命中了哪个。RAG 效果差时,排查顺序是:先看检索(召回)→ 再看 Prompt → 最后才考虑换模型。一上来就换大模型,往往白花钱。
有了这张表,调优就变成「改一处 → 再跑一次 → 看数字变没变」,而不是凭感觉。
评测集要包含「答案不在资料里」的问题,专门验证系统会不会老实说「资料未说明」。只测能答对的问题,会掩盖最危险的幻觉。
5.3 按层排查的对照表
| 现象 | 优先检查 | 常见修法 |
|---|---|---|
| 正确片段没被召回 | 切分 / 打分 / top_k / 查询 | 按标题重切、改写查询、调 top_k、混合检索 |
| 召回了但排名靠后 | 打分函数 / 重排 | 加重排、补关键词权重 |
| 材料对、答案错 | Prompt 约束 / 模型 | 强化「只用材料」、给示例、换模型验证 |
| 无命中却硬答 | 生成层约束 | 加「资料未说明」出口,材料为空时直接短路 |
| 答案没有出处 | 拼装格式 | 给片段编号,要求引用,代码校验编号存在 |
每次只改一行、只跑一次评测集,数字的变化才有意义。这和前面两个阶段反复强调的「单变量迭代」是同一套方法。
5.4 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| 两层分开测 | 检索命中率 / 生成正确率 |
| 最小评测集 | 10~20 条「问题 → 期望片段 id」 |
| 必含样例 | 答案不在资料里的问题 |
| 按层排查 | 先定位是哪一层,再针对性修 |
| 调优节奏 | 改一处、跑一次、看数字 |
第 6 章 多智能体与收尾
6.1 多智能体不是「越多越好」
多智能体(Multi-Agent)就是让几个各司其职的角色分工协作,比如一个负责检索、一个负责写草稿、一个负责核对。听起来很酷,但它带来的是更复杂的通信、更长的链路、更高的费用与更难的排错。
| 情况 | 建议 |
|---|---|
| 一个 Agent + 两三个工具就能完成 | 就用单 Agent,别拆 |
| 步骤固定、顺序明确 | 写流水线,不用多智能体 |
| 确实需要不同角色独立判断、互相校验 | 再考虑多智能体 |
| 只是觉得「听起来高级」 | 不要引入 |
判断标准很简单:拆成多个角色后,错误率或成本是否真的下降?如果没测出来,就别拆。
6.2 真要拆,先定三件事
- 角色与边界:每个角色只做什么、不做什么,输入输出格式写死。
- 交接协议:谁把结果交给谁、用什么结构(还是结构化输出那一套)。
- 终止与仲裁:谁说了算、意见冲突怎么办、最多几轮、谁负责最终收口。
常见模式:主管 + 执行者(主管拆任务、汇总)、流水线(A→B→C 顺序交接)、评审回路(生成者 + 核对者,不合格打回)。入门建议先实现流水线。
6.3 上线前的检查清单
| 维度 | 检查项 |
|---|---|
| 资料 | 切分合理、元数据完整、更新有流程 |
| 检索 | 有评测集、命中率达标、无命中会短路 |
| 生成 | 只用材料、带出处、格式有校验 |
| 安全 | 材料只当数据、工具白名单、危险动作人工确认 |
| 成本 | top_k / 上下文长度 / 最大步数 / 总预算有上限 |
| 可观测 | trace 记录检索命中、片段 id、生成结果与耗时 |
这张表把四个阶段串成了一条线:Prompt 骨架 → 结构化输出 → 工具与循环 → 检索与溯源。你会发现前面每一章的东西,最后都出现在这里。
6.4 四阶段路线总览与术语速查
| 阶段 | 核心问题 | 关键产物 |
|---|---|---|
| 01 Python 基础 | 怎么把想法写成程序 | 能跑的脚本 |
| 02 大模型与 Prompt | 怎么把话说清楚 | 五要素模板 + 结构化输出 |
| 03 Agent 核心机制 | 怎么让它动手做事 | 工具 + 循环 + 安全边界 |
| 04 RAG 与多智能体 | 怎么让它用上你的资料 | 检索 + 溯源 + 评测集 |
| 术语 | 一句话 |
|---|---|
| RAG | 先检索相关资料,再让模型照着答 |
| Chunk | 切出来的小片段 |
| Overlap | 相邻片段的重叠,防语义被切断 |
| Embedding | 把文字变成可比较的数字向量 |
| top_k | 取分数最高的前几条 |
| Rerank | 召回后再精排 |
| 溯源 | 答案标注来自哪个片段 |
| 评测集 | 问题 → 期望片段,用来算命中率 |
| Multi-Agent | 多个角色分工协作 |
| 幻觉 | 编造看似合理但不真实的内容 |
6.5 【本章小结】
| 你学到了什么 | 关键记忆点 |
|---|---|
| 多智能体 | 能不拆就不拆,拆了要能测出收益 |
| 拆之前定三事 | 角色边界 / 交接协议 / 终止仲裁 |
| 入门模式 | 先做流水线,别一上来主管+评审 |
| 上线清单 | 资料/检索/生成/安全/成本/可观测 |
| 四阶段闭环 | Prompt → 结构化输出 → 工具循环 → 检索溯源 |