文档首页
阶段 04 · RAG 与多智能体 在线知识文档
学习路线 第 5 / 6 步 · 模块 ⑦RAG 检索增强生成← 上一站 ⑤⑥ Agent 核心机制下一站 ⑧⑨ 框架与 MCP →第 6 章「多智能体」对应模块 ⑩,建议学完 ⑧⑨ 再回看完整顺序:① Python → ② FastAPI → ③④ Prompt → ⑤⑥ Agent → ⑦ RAG → ⑧⑨ 框架与 MCP → ⑩ 多 Agent(回看)→ ⑪~⑭ 编写中 · 查看学习路线图 →

让 AI 用上你自己的资料

把长资料切成片段、检索出相关的几段、让模型照着答并标出出处 —— 这就是 RAG。最后一章再讲多智能体的取舍与上线清单。每章都有可在本机运行的示例、小结表和章末小测,零基础也能跟下来。

去做在线自测 → AI Agents 学习路线 →
6个章节
25个小节
30道章末小测
测
配套推荐
RAG 与多智能体在线自测 - 我的图片

按 6 个模块、L1~L5 难度自己测一遍,10 题一组即答即批,适合学完几章之后查漏补缺。 链接:https://myimage.cn/rag-agent/

打开在线自测 →

全部章节

第 01 章

第 1 章 为什么需要 RAG

1.1 模型不知道的三类事

到上一阶段为止,Agent 已经会查、会算、会调工具了。但你问它「我们公司出差住宿上限是多少」,它依然答不上来,因为这类信息属于:

  • 私有资料:你的制度文件、产品手册、客户记录,模型训练时没见过。
  • 最新信息:训练数据有截止时间,之后发生的事它不知道。
  • 具体细节:条款号、金额、编号这类要求一字不差的内容,它最容易编。

硬把这些内容塞进 Prompt 也不行:资料一多就撑爆上下文窗口,而且贵、慢、还容易被无关内容干扰。

RAG(Retrieval-Augmented Generation,检索增强生成)的思路特别朴素:别让模型背下整个图书馆,先帮它把相关的那几页找出来,摊在桌上,再让它照着答。

1.2 一句话流程

  1. 准备:把资料切成小片段(chunk)。
  2. 建索引:把每个片段变成可检索的形式。
  3. 检索:用户提问时,找出最相关的几个片段。
  4. 拼装:把片段和提问一起放进 Prompt。
  5. 生成:让模型只根据这些片段回答,并标出出处。

注意最后一步那句「只根据」—— 这才是 RAG 抑制幻觉的关键。检索到了好材料却不约束模型,它照样会自由发挥。

微调(Fine-tuning)RAG
改变模型本身是否
资料更新要重新训练换 / 加文档即可
成本与门槛高低,适合入门
答案可溯源难容易,能附出处

1.3 入门阶段的正确预期

RAG 不是「让模型变聪明」,而是给它一份临时的、针对这次问题的开卷资料。所以它有两道独立的坎:找不找得到(检索质量)和答得对不对(生成质量)。

很多人一上来就调模型、调 Prompt,效果不好却始终没发现问题其实出在第一步:相关片段根本没被检索出来。第 5 章会讲怎么把这两件事分开测。

1.4 【本章小结】

你学到了什么关键记忆点
RAG 要解决私有 / 最新 / 要求精确的资料
核心比喻开卷考试:先找相关几页,再照着答
五步流程准备 → 索引 → 检索 → 拼装 → 生成
对比微调不改模型、更新便宜、答案可溯源
两道坎检索质量 与 生成质量,要分开测
第 02 章

第 2 章 第一步:把资料切成小块

2.1 为什么要切(chunk)

一份 50 页的制度文件不可能整篇塞进上下文。切分(chunking)就是把长文档拆成一段段独立、语义完整的小片段,检索时只取相关的几段。

  • 太大:一个片段里混了好几个主题,检索命中了但噪声多,还浪费 token。
  • 太小:一句话被拦腰截断,缺主语、缺条件,模型看不懂。
  • 合适:一个片段讲清一件小事,能独立读懂。

优先按结构切:标题、章节、空行、条目,比「每隔 500 字一刀」更靠谱。

2.2 带重叠的切分(本机可运行)

相邻片段留一点重叠(overlap),能避免「一句话正好被切断」。下面这段纯 Python 可直接跑:

PYTHON
def split_text(text, size=40, overlap=8):
    """按固定长度切片段:size=每段长度,overlap=相邻两段重叠的长度"""
    chunks, start = [], 0
    while start < len(text):
        end = min(start + size, len(text))
        chunks.append(text[start:end])
        if end == len(text):
            break
        start = end - overlap        # 回退一小段,形成重叠
    return chunks

# 一段制度原文(两个字符串相邻,Python 会自动把它们拼成一个字符串)
doc = "出差住宿上限:一线城市每晚 500 元,其它城市每晚 350 元。"       "报销需提供发票,并在归来后 7 个工作日内提交。"
parts = split_text(doc, size=30, overlap=6)   # 片段 30 字、重叠 6 字
for i, p in enumerate(parts, 1):
    print(i, "|", p)

# 输出(片段之间有重叠):
#   1 | 出差住宿上限:一线城市每晚 500 元,其它城市每晚 350
#   2 | 每晚 350 元。报销需提供发票,并在归来后 7 个工作日内
#   3 |  个工作日内提交。

小白提示:看输出的第 2、3 行:一句话被切成了两半。这就是「重叠分块」——相邻片段故意重复一小段,避免答案正好被切在中间。代价是内容会重复,收益是语义不断。真实项目里每块通常取 300~800 字。

可以看到相邻片段有重复文字 —— 这就是 overlap 的作用。真实项目里请按标题 / 段落切,而不是按字符数硬切;这里只是让你看清原理。

重叠不是越多越好:重叠太多会让检索结果里出现大量重复内容,白占上下文。一般取片段长度的 10%~20% 起步再调。

2.3 别丢元数据

每个片段除了正文,还应记下它从哪来:文件名、章节标题、页码或段落号。没有这些,后面就没法「标出出处」,也没法按部门 / 日期做筛选。

PYTHON
chunk = {
    "text": "一线城市每晚 500 元,其它城市每晚 350 元。",   # 片段正文
    "source": "差旅制度.md",            # 来自哪个文件 —— 溯源要用
    "section": "第三章 住宿标准",        # 来自哪一节 —— 定位更准
    "id": "travel-003",                 # 片段唯一编号,方便评测与引用
}
print(chunk["source"], "→", chunk["section"])
# 输出: 差旅制度.md → 第三章 住宿标准

source(来自哪个文件)和 section(来自哪一节)就是溯源用的:只有回答里能标出出处,用户才敢信。id 则是给评测脚本对答案用的。

有了 source 和 section,最终答案就能附上「来源:差旅制度.md · 第三章」,用户可自行核对。

2.4 【本章小结】

你学到了什么关键记忆点
切分目的让检索只取相关片段,省 token 降噪声
太大 / 太小噪声多 / 语义被截断
优先按结构切标题、章节、空行、条目
重叠 overlap防句子被切断,一般 10%~20% 起步
元数据source / section / id,用于溯源与筛选
第 03 章

第 3 章 检索:怎么找出「相关的那几页」

3.1 两种检索,先用简单的

方式原理特点
关键词检索数词出现次数 / 倒排索引对编号、专有名词、精确术语特别准
向量检索把文字变成数字向量,比「方向」相近程度能处理「说法不同但意思相近」
混合检索两者结果合并再排序实战最常用,兼顾精确与语义

入门先从关键词检索做起:它可解释、零依赖、容易调试。等你能稳定测出「哪些问题找不准」了,再引入向量检索,才知道它到底改善了什么。

别一上来就装向量数据库。很多「RAG 效果差」的根因是文档没切好或问题里有错字,跟向量一点关系都没有。

3.2 一个能跑的最小检索器(纯 Python)

下面用「关键词命中数」模拟打分,不装任何库就能跑,帮你把检索这件事看明白:

PYTHON
chunks = [
    {"id": "travel-003", "source": "差旅制度.md",
     "keywords": ["住宿", "上限", "每晚", "元"],
     "text": "一线城市每晚 500 元,其它城市每晚 350 元。"},
    {"id": "leave-001", "source": "休假制度.md",
     "keywords": ["年假", "申请", "主管", "工作日"],
     "text": "年假需提前 3 个工作日申请,由主管审批。"},
    {"id": "travel-007", "source": "差旅制度.md",
     "keywords": ["报销", "发票", "提交"],
     "text": "报销需提供发票,归来后 7 个工作日内提交。"},
]

def score(query, chunk):
    # 极简「打分」:问题里命中了多少个片段关键词
    return sum(1 for k in chunk["keywords"] if k in query)

def search(query, top_k=2):
    """打分 → 排序 → 取前 top_k 条,并丢掉 0 分的(宁缺毋滥)"""
    ranked = sorted(chunks, key=lambda c: score(query, c), reverse=True)
    return [c for c in ranked[:top_k] if score(query, c) > 0]

for q in ["住宿上限多少", "年假怎么申请"]:
    print("问题:", q)
    for c in search(q):
        print("→", c["source"], "|", c["text"])

# 输出:
#   问题: 住宿上限多少
#   → 差旅制度.md | 一线城市每晚 500 元,其它城市每晚 350 元。
#   问题: 年假怎么申请
#   → 休假制度.md | 年假需提前 3 个工作日申请,由主管审批。

这是极简的关键词检索示意,只为讲清「问题 → 找到片段」这一步。真实项目会用向量检索(embedding),才能找到「意思相近但用词完全不同」的内容,比如问「住酒店能报多少」也能命中「住宿标准」。

这个打分函数很朴素(真实向量检索会换成向量距离),但它把「打分 → 排序 → 取 top_k」的流程完整跑了一遍,而且流程不变。这正对应前面说的:入门先做可解释的关键词检索。

注意 score > 0 这个过滤:完全不相关时不返回片段,比硬塞一个不沾边的片段更安全 —— 那会诱导模型硬答。

3.3 top_k 与阈值

  • top_k:取前几条。太少容易漏,太多噪声大、还占上下文。一般从 3~5 起步。
  • 阈值:分数太低就当「没找到」,走「资料中未说明」的出口。
  • 重排(rerank):先粗略召回一批,再用更细的方法挑出最贴切的几条,属于进阶优化。
  • 查询改写:把「住宿能报多少」补成「住宿 报销 上限 标准」,能明显提升命中率。

3.4 【本章小结】

你学到了什么关键记忆点
三种方式关键词 / 向量 / 混合,实战常用混合
入门顺序先做可解释的关键词检索
流程不变打分 → 排序 → 取 top_k
两个旋钮top_k 取几条;阈值决定「算不算没找到」
宁缺毋滥不相关就别塞,让模型答「资料未说明」
第 04 章

第 4 章 拼装与生成:让答案带出处

4.1 把检索结果拼进 Prompt

检索到片段后,要把「问题 + 片段 + 规则」按固定格式拼起来。规则里必须写清三件事:只用给定材料、每句话标出处、材料没写就答「资料未说明」。

PYTHON
def build_rag_prompt(question, hits):
    """把检索到的片段拼成一条带约束、带编号的 Prompt"""
    blocks = []
    for i, c in enumerate(hits, 1):
        # 每段前面加编号,模型回答时就能写 [1] 这样的出处
        blocks.append(f"[{i}] 来源:{c['source']} · {c.get('section','')}\n{c['text']}")
    material = "\n\n".join(blocks) if blocks else "(没有检索到相关资料)"
    return (
        "只根据下面的【材料】回答问题,不要使用材料之外的知识。\n"
        "每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。\n\n"
        f"【材料】\n{material}\n\n【问题】{question}"
    )

hits = [{"source": "差旅制度.md", "section": "第三章 住宿标准",
         "text": "一线城市每晚 500 元,其它城市每晚 350 元。"}]
print(build_rag_prompt("上海住宿上限多少?", hits))
print("--- 无命中 ---")
print(build_rag_prompt("海外出差标准?", []))

# 输出:
#   只根据下面的【材料】回答问题,不要使用材料之外的知识。
#   每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。
#
#   【材料】
#   [1] 来源:差旅制度.md · 第三章 住宿标准
#   一线城市每晚 500 元,其它城市每晚 350 元。
#
#   【问题】上海住宿上限多少?
#   --- 无命中 ---
#   只根据下面的【材料】回答问题,不要使用材料之外的知识。
#   每个结论后用 [编号] 标出来源;材料里没有就直接答「资料未说明」。
#
#   【材料】
#   (没有检索到相关资料)
#
#   【问题】海外出差标准?

小白提示:对比两组输出:有命中时把材料塞进【材料】;没命中时明确写「(没有检索到相关资料)」。后者非常重要——它给了模型一个体面的退路,让它回答「资料未说明」,而不是硬编一个数字。

运行后你会看到两份完整 Prompt。第二份特意留空材料,用来验证「不硬答」这条规则真的生效 —— 这是最该测的边界情况。

4.2 溯源为什么重要

带出处的答案带来三个好处:用户可以自己去核对;你能一眼看出模型是不是在编;出问题时能追到是检索取错了片段,还是片段本身写得有歧义。

答案表现优先怀疑
答案错,且出处片段本身就不相关检索层:切分 / 打分 / top_k / 查询改写
答案错,但出处片段里明明写着正确答案生成层:Prompt 约束 / 模型指令遵循
没有出处却答得很肯定生成层:模型脱离材料,需加强约束与校验

这张表就是第 5 章「分开测」的思路雏形:有出处,故障定位从「猜」变成「查」。

4.3 拼装时三个容易忽略的细节

  1. 给每个片段编号并附上来源,让模型能引用。
  2. 控制总长度:片段太多先截断或重排,别把上下文塞满。
  3. 去重:overlap 会让相邻片段重复,拼装前可做一次简单去重。

4.4 【本章小结】

你学到了什么关键记忆点
拼装三要素问题 + 带编号的材料 + 明确规则
必须写清的三条只用材料 / 标出处 / 没写就答未说明
溯源价值可核对、可定位是检索错还是生成错
必测边界检索无命中时是否老实答「资料未说明」
工程细节编号、长度控制、overlap 去重
第 05 章

第 5 章 评估与调优:别凭感觉说「效果不好」

5.1 先分开测两层

把「效果不好」拆成两个可测的问题:

  1. 检索层:对于这个问题,正确片段有没有被取回来?(只看命中,不看答案)
  2. 生成层:在已经给对材料的前提下,答案是否正确、是否带出处?

分开测的价值:如果检索命中率只有 60%,你换再贵的模型也没用 —— 材料根本没送到它面前。

5.2 做一张最小评测集(可直接运行)

准备 10~20 个「问题 → 应该命中哪个片段 id」的样例,就能算出命中率。下面纯 Python 可跑:

PYTHON
gold = [
    {"q": "住宿上限多少", "want": "travel-003"},
    {"q": "年假提前几天申请", "want": "leave-001"},
    {"q": "报销要什么凭证", "want": "travel-007"},
]
# 假装是检索器返回的结果(真实项目里换成 search())
predicted = ["travel-003", "travel-007", "travel-007"]

hit = sum(1 for g, p in zip(gold, predicted) if g["want"] == p)   # 命中的条数
print("命中:", hit, "/", len(gold))
print("命中率:", round(hit / len(gold) * 100, 1), "%")

for g, p in zip(gold, predicted):        # 逐条对比,把没命中的打出来
    if g["want"] != p:
        print("未命中 →", g["q"], "| 期望", g["want"], "实际", p)

# 输出:
#   命中: 2 / 3
#   命中率: 66.7 %
#   未命中 → 年假提前几天申请 | 期望 leave-001 实际 travel-007

命中率 66.7% 说明三个问题里有一个检索错了,输出还直接点名是哪一条、期望哪个片段、实际命中了哪个。RAG 效果差时,排查顺序是:先看检索(召回)→ 再看 Prompt → 最后才考虑换模型。一上来就换大模型,往往白花钱。

有了这张表,调优就变成「改一处 → 再跑一次 → 看数字变没变」,而不是凭感觉。

评测集要包含「答案不在资料里」的问题,专门验证系统会不会老实说「资料未说明」。只测能答对的问题,会掩盖最危险的幻觉。

5.3 按层排查的对照表

现象优先检查常见修法
正确片段没被召回切分 / 打分 / top_k / 查询按标题重切、改写查询、调 top_k、混合检索
召回了但排名靠后打分函数 / 重排加重排、补关键词权重
材料对、答案错Prompt 约束 / 模型强化「只用材料」、给示例、换模型验证
无命中却硬答生成层约束加「资料未说明」出口,材料为空时直接短路
答案没有出处拼装格式给片段编号,要求引用,代码校验编号存在

每次只改一行、只跑一次评测集,数字的变化才有意义。这和前面两个阶段反复强调的「单变量迭代」是同一套方法。

5.4 【本章小结】

你学到了什么关键记忆点
两层分开测检索命中率 / 生成正确率
最小评测集10~20 条「问题 → 期望片段 id」
必含样例答案不在资料里的问题
按层排查先定位是哪一层,再针对性修
调优节奏改一处、跑一次、看数字
第 06 章

第 6 章 多智能体与收尾

6.1 多智能体不是「越多越好」

多智能体(Multi-Agent)就是让几个各司其职的角色分工协作,比如一个负责检索、一个负责写草稿、一个负责核对。听起来很酷,但它带来的是更复杂的通信、更长的链路、更高的费用与更难的排错。

情况建议
一个 Agent + 两三个工具就能完成就用单 Agent,别拆
步骤固定、顺序明确写流水线,不用多智能体
确实需要不同角色独立判断、互相校验再考虑多智能体
只是觉得「听起来高级」不要引入

判断标准很简单:拆成多个角色后,错误率或成本是否真的下降?如果没测出来,就别拆。

6.2 真要拆,先定三件事

  1. 角色与边界:每个角色只做什么、不做什么,输入输出格式写死。
  2. 交接协议:谁把结果交给谁、用什么结构(还是结构化输出那一套)。
  3. 终止与仲裁:谁说了算、意见冲突怎么办、最多几轮、谁负责最终收口。

常见模式:主管 + 执行者(主管拆任务、汇总)、流水线(A→B→C 顺序交接)、评审回路(生成者 + 核对者,不合格打回)。入门建议先实现流水线。

6.3 上线前的检查清单

维度检查项
资料切分合理、元数据完整、更新有流程
检索有评测集、命中率达标、无命中会短路
生成只用材料、带出处、格式有校验
安全材料只当数据、工具白名单、危险动作人工确认
成本top_k / 上下文长度 / 最大步数 / 总预算有上限
可观测trace 记录检索命中、片段 id、生成结果与耗时

这张表把四个阶段串成了一条线:Prompt 骨架 → 结构化输出 → 工具与循环 → 检索与溯源。你会发现前面每一章的东西,最后都出现在这里。

6.4 四阶段路线总览与术语速查

阶段核心问题关键产物
01 Python 基础怎么把想法写成程序能跑的脚本
02 大模型与 Prompt怎么把话说清楚五要素模板 + 结构化输出
03 Agent 核心机制怎么让它动手做事工具 + 循环 + 安全边界
04 RAG 与多智能体怎么让它用上你的资料检索 + 溯源 + 评测集
术语一句话
RAG先检索相关资料,再让模型照着答
Chunk切出来的小片段
Overlap相邻片段的重叠,防语义被切断
Embedding把文字变成可比较的数字向量
top_k取分数最高的前几条
Rerank召回后再精排
溯源答案标注来自哪个片段
评测集问题 → 期望片段,用来算命中率
Multi-Agent多个角色分工协作
幻觉编造看似合理但不真实的内容

6.5 【本章小结】

你学到了什么关键记忆点
多智能体能不拆就不拆,拆了要能测出收益
拆之前定三事角色边界 / 交接协议 / 终止仲裁
入门模式先做流水线,别一上来主管+评审
上线清单资料/检索/生成/安全/成本/可观测
四阶段闭环Prompt → 结构化输出 → 工具循环 → 检索溯源