文档首页
阶段 02 · 大模型与 Prompt 在线知识文档
学习路线 第 3 / 6 步 · 模块 ③④大模型基础认知 / Prompt Engineering← 上一站 ② FastAPI 框架下一站 ⑤⑥ Agent 核心机制 →完整顺序:① Python → ② FastAPI → ③④ Prompt → ⑤⑥ Agent → ⑦ RAG → ⑧⑨ 框架与 MCP → ⑩ 多 Agent(回看)→ ⑪~⑭ 编写中 · 查看学习路线图 →

从第一次提问,到写出稳定的 Prompt

左边点目录,右边看知识点;顶上「全文速览」能把全部章节一次铺开通读,左上角搜索能搜到正文和代码里的每个词。每章都有「导览 → 讲解 → 可运行示例 → 小结表 → 章末小测」,专为零基础写,不要求联网、不要求 API 密钥。

去做在线自测 → AI Agents 学习路线 →
6个章节
28个小节
30道章末小测
测
配套推荐
大模型与 Prompt 在线自测 - 我的图片

按 6 个模块、L1~L5 难度自己测一遍,10 题一组即答即批,适合学完几章之后查漏补缺。 链接:https://myimage.cn/llm-prompt/

打开在线自测 →

全部章节

第 01 章

第 1 章 先弄明白:大模型到底是什么

1.1 不用怕,先打个比方

把大模型(LLM,Large Language Model)想成一个读过海量文字、特别擅长「接下一句」的助手。你给它一段话,它根据见过的规律,猜下一个字最可能是什么,一个字一个字接下去,就成了你看到的回答。它不像数据库那样去「查答案」,更像一个把语言规律学得很熟的人。

所以第一件要记住的事:它生成的是「看起来最合适的文字」,不是「从事实库里取出的真理」。这句话能解释后面绝大多数坑(比如它会一本正经编造不存在的书名)。

它能做得不错它天生不擅长
改写、润色、总结、翻译精确计算(让它算 12345×6789 可能出错)
按你给的格式整理信息知道「今天」发生了什么(训练数据有截止时间)
解释概念、给学习路线、陪你练习知道你电脑里的文件、公司内网资料
把需求变成代码草稿保证 100% 不说错(这叫「幻觉」)

给小白的一句话:把它当成「很会写、很会归纳、但会记错细节的实习生」。重要结论一定要自己核一遍。

1.2 三个高频词:Token、上下文、参数

  • Token(词元):模型看文字的最小单位。中文里大致一个字或一个词算 1~2 个 token,英文单词常被切成几块。API 按 token 计费,所以「长文更贵」。
  • 上下文窗口(Context Window):一次对话里模型能「同时看到」的文字总量上限。超出的部分会被挤掉,这就是聊久了它像「忘了前面」的原因。
  • 参数(Parameters):训练出来的内部数值,可以理解为它的「记忆容量」。常说的 7B、70B 指参数量,越大通常越强也越慢越贵,但不是越大越适合你。

把上下文窗口想成一张桌子:你的提问、你贴的材料、它前面的回答,都要摊在桌上。桌子就这么大,材料太多就得往外拿。学 Prompt,很大程度就是学「怎么把桌面的空间用在刀刃上」。

1.3 它能帮你做什么:从三个真实场景开始

  1. 读懂一段看不懂的东西:贴一段合同 / 报错 / 英文文档,让它「用大白话解释,并列出 3 个我要确认的点」。
  2. 把乱的变整齐:贴一堆零散笔记,让它「整理成表格,列:事项、负责人、截止时间,缺失的写『未说明』」。
  3. 当陪练:让它「扮演面试官,一次只问一个问题,等我回答再追问」。

注意这三个例子的共同点:都给了明确的任务、都给了材料、都说了要什么格式。这正是第 3 章要讲的 Prompt 骨架。

别一上来就问「AI 能干什么」。先挑一件你每周都要做的重复小事,试着让它做一遍,是最快的入门方式。

1.4 第一次使用:网页、客户端、API 三种入口

入口适合谁特点
网页对话(各类 AI 助手)所有人打开就能用,零配置;适合先熟悉它怎么说话
桌面客户端 / 编辑器插件要写代码、处理本地文件的人能读你打开的文件,注意隐私边界
API(程序调用)想把能力放进自己程序的人按 token 计费、需要密钥,可批量、可自动化

建议路线:先在网页里玩一周,把「什么样的提问能得到好回答」摸熟;再学 API。跳过第一步的人,往往会把「Prompt 没写好」误判成「模型不行」。

本章不写任何需要联网或密钥的代码,先把概念立住。第 2 章会给出完全在本机可运行的示例,帮你把「一次请求长什么样」看清楚。

1.5 【本章小结】

你学到了什么关键记忆点
大模型的本质按规律「接下一句」,不是查事实库
最该记住的风险会幻觉;重要结论必须核实
Token计费单位,长文更贵
上下文窗口一次能看到的文字上限,像一张桌子
入门顺序先网页对话练提问,再学 API
第 02 章

第 2 章 一次对话是怎么发出去的

2.1 「消息列表」是什么

调用 API 时,你不是发一句话,而是发一个消息列表(messages)。每条消息有角色和内容。模型每次都把这个列表整个读一遍,再接着往下生成。

角色谁写的作用
system你(开发者)定规矩:身份、语气、输出格式、禁止事项。优先级最高
user用户具体的问题或材料
assistant模型它之前的回答;放进列表里,它才知道自己说过什么
tool外部工具工具执行完的结果(第 3 阶段学 Agent 时才会用到)

关键理解:模型本身没有记忆。所谓「多轮对话」,其实是每次请求都把历史消息重新发一遍。这也解释了为什么对话越长越贵。

2.2 在本机看清请求结构(不需要联网、不需要密钥)

下面这段 Python 只用了标准库,可以直接在你电脑上跑。它把一次请求「拼」出来并打印,帮你建立形状上的直觉:

PYTHON
import json

# ① 消息列表:一次对话的全部内容。system 定规矩,user 提问题
messages = [
    {"role": "system", "content": "你是耐心的辅导老师,用大白话回答,每次不超过 100 字。"},
    {"role": "user",   "content": "什么是上下文窗口?"},
]

# ② 请求体:模型名 + 消息 + 参数,打包成一个 JSON 对象
request = {
    "model": "某模型名称",
    "messages": messages,
    "temperature": 0.3,
}

# ③ 先打印出来"看一眼":真发请求之前,先确认结构对不对
print(json.dumps(request, ensure_ascii=False, indent=2))
print("本次消息条数:", len(messages))

# 输出:
#   {
#     "model": "某模型名称",
#     "messages": [
#       {
#         "role": "system",
#         "content": "你是耐心的辅导老师,用大白话回答,每次不超过 100 字。"
#       },
#       {
#         "role": "user",
#         "content": "什么是上下文窗口?"
#       }
#     ],
#     "temperature": 0.3
#   }
#   本次消息条数: 2

运行后你会看到一份缩进整齐的 JSON。逐行对照:model 是用哪个模型,messages 是这次对话的全部消息,temperature 是随机程度。真正的请求,就是把这份 JSON 通过 HTTP 发给服务商,再把返回的 JSON 读回来。

运行后你会看到一份缩进整齐的 JSON。真正的请求就是把这份 JSON 通过 HTTP 发给服务商,再把返回的 JSON 读回来。

安全提醒:API 密钥只能放在服务端或环境变量里,绝不能写进网页前端、上传到公开仓库,或截图发人。前端代码任何人都能看到。

2.3 常用参数各自管什么

参数管什么小白建议
model用哪个模型先用便宜的小模型练手,效果不够再换
temperature随机程度:越低越稳定、越高越发散要稳定格式就用 0~0.3;要创意文案可 0.7 以上
max_tokens最多生成多少 token设一个上限,防止跑偏后烧钱
stop遇到什么字符串就停做结构化输出时很有用

还有一个最容易误解的点:改 temperature 不会让模型「变得更聪明」,只改变它在多个候选里怎么挑。答案错了,先改 Prompt 和材料,别先拧参数。

2.4 一步一步:从零发出第一次请求

  1. 第 1 步:在服务商网站注册,拿到 API Key,把它存进环境变量(不要写进代码文件)。
  2. 第 2 步:先只用网页版试一遍你的 Prompt,确认它能给出你想要的格式。
  3. 第 3 步:照上面的 messages 结构,用官方 SDK 或 HTTP 请求发一条最简单的消息,打印原始返回值,看清它长什么样。
  4. 第 4 步:从返回值里取出正文文本,单独打印,忽略其它字段。
  5. 第 5 步:加上 try/except 处理网络错误和额度错误,再考虑批量调用。

按顺序做,每一步只加一件新东西。一上来就把重试、并发、流式输出全写上,出错时根本不知道是哪一层坏了。

2.5 【本章小结】

你学到了什么关键记忆点
一次请求的主体messages 消息列表,不是单句话
三种核心角色system 定规矩 / user 提问题 / assistant 是历史回答
模型没有记忆多轮=每次把历史重新发一遍
temperature只管随机性,不管聪不聪明
密钥安全只放服务端或环境变量,绝不进前端
第 03 章

第 3 章 Prompt 的骨架:把话说清楚

3.1 五要素模板

新手最常见的问题不是「不会用高级技巧」,而是话说得太含糊。把一次提问拆成五块,效果立刻不一样:

要素回答的问题例子
角色让它以谁的身份说话「你是耐心的小白辅导老师」
任务到底要做什么「把下面这段笔记整理成待办清单」
材料基于什么内容用分隔符包起来的原文
约束不能做什么「不要编造没出现的人名;缺失写『未说明』」
输出格式要长什么样「用 Markdown 表格,三列:事项/负责人/时间」
TEXT
【角色】你是耐心的小白辅导老师。
【任务】把下面笔记整理成待办清单,并指出有歧义的地方。
【材料】
"""
周五前把合同发给小王;设计稿可能下周才有;
服务器那块老张说要看一眼。
"""
【约束】只用材料里出现的信息;没有明确时间的写「未说明」;不要补充猜测。
【输出格式】Markdown 表格,三列:事项 | 负责人 | 时间。表格后用一句话列出歧义点。

小白提示:这五栏分别回答「谁来做、做什么、拿什么做、有什么限制、交成什么样」。用法很简单:把【材料】换成你自己的笔记,其它四栏照抄。少写一栏,模型就容易自己脑补。这段是写给模型看的文字,不是代码,所以没有终端输出。

注意「材料」用了三个引号包起来:这叫分隔符,能帮模型分清「哪部分是要处理的数据,哪部分是指令」。

对比一下:只发「帮我整理下这段」,模型只能猜你要什么格式、要不要保留人名、能不能补信息。把五要素补齐,等于把评分标准提前告诉了它。

3.2 一个能反复用的拼装函数(本机可运行)

把模板写成函数,以后换材料只改一处。下面这段纯 Python,可直接运行:

PYTHON
def build_prompt(role, task, material, limits, fmt):
    """把五要素拼成一条 Prompt:角色 / 任务 / 材料 / 约束 / 输出格式"""
    return (
        f"【角色】{role}\n"
        f"【任务】{task}\n"
        # 材料用三引号包住,和上面的指令隔开,防止材料里的字被当成新指令
        "【材料】\n" + '"""' + f"\n{material}\n" + '"""' + "\n"
        f"【约束】{limits}\n"
        f"【输出格式】{fmt}"
    )

# 换一组真实内容试一次
p = build_prompt(
    "你是耐心的小白辅导老师",
    "把笔记整理成待办清单",
    "周五前把合同发给小王;设计稿可能下周才有。",
    "只用材料里的信息,缺失写未说明,不要猜测。",
    "Markdown 表格:事项 | 负责人 | 时间",
)
print(p)

# 输出:
#   【角色】你是耐心的小白辅导老师
#   【任务】把笔记整理成待办清单
#   【材料】
#   """
#   周五前把合同发给小王;设计稿可能下周才有。
#   """
#   【约束】只用材料里的信息,缺失写未说明,不要猜测。
#   【输出格式】Markdown 表格:事项 | 负责人 | 时间

注意:打印出来的只是「拼好的一段文字」,并没有发给任何模型。先在本地看一眼拼得对不对,是调试 Prompt 最省钱的习惯——毕竟发请求是要计费的。

这就是很多教程里说的「Prompt 模板」。真正工程化的写法,就是把这五块变成可复用的函数。

运行后你能看到完整提问。先把它复制到网页版 AI 里试,满意了再接 API —— 省下大量调试时间。

3.3 给例子,比讲道理管用

如果格式总是不对,与其反复解释「要严格按格式」,不如直接给它一两个输入输出样例。这叫少样本提示(few-shot)。

TEXT
任务:把句子归类为「询问 / 投诉 / 建议」,只输出类别名。

输入:这个按钮点了没反应啊
输出:投诉

输入:能不能加个夜间模式
输出:建议

输入:请问怎么修改密码
输出:

小白提示:这叫「少样本示例」(few-shot):不讲规则,直接给几个「输入 → 输出」的正确答案,模型会照着格式续写。写示例时有两个讲究:类别名要逐字一致,还要特意放一两个容易混淆的例子。同样,这段是 Prompt 文本,不是可执行代码。

最后一行留空,模型会顺着模式补出「询问」。

例子要覆盖你最容易出错的那类情况(比如材料里信息缺失时该怎么输出),而不是随便凑数量。

3.4 迭代 Prompt 的四步节奏

  1. 第 1 步 · 写清楚:把五要素补齐,先跑一次。
  2. 第 2 步 · 找出具体错在哪:是格式不对?编造了内容?还是漏了某项?一次只记一个问题。
  3. 第 3 步 · 只改一处:针对那个问题加一条约束或一个例子,再跑一次对比。
  4. 第 4 步 · 固定下来:把稳定版本存成模板,附上两三个典型输入当「测试用例」。

这个节奏和写代码调 bug 完全一样。不要一次改五处,否则你不知道是哪条起了作用。

3.5 【本章小结】

你学到了什么关键记忆点
五要素角色 / 任务 / 材料 / 约束 / 输出格式
分隔符用三引号等把材料包起来,区分数据与指令
少样本给 1~2 个输入输出样例,比反复讲道理有效
模板化把 Prompt 写成可复用函数
迭代节奏写清楚→定位一处问题→只改一处→固化并留测试用例
第 04 章

第 4 章 让输出稳定、能被程序读

4.1 为什么要结构化输出

人读的答案可以是一段话;但程序要用的答案必须是固定结构。只要你说「请返回 JSON」,并写清字段名和类型,后续就能直接解析、入库、画表格。

TEXT
只返回一个 JSON 对象,不要任何解释文字、不要 Markdown 代码块标记。
字段:
- title: 字符串,不超过 15 字
- tags: 字符串数组,1~3 个
- urgent: 布尔值

材料:"""周五前把合同发给小王"""

这一段也是写给模型的指令,期望它只回一个 JSON 对象、不要解释、不要 Markdown 代码块。真实调用后,你可能拿到 {"title":"发合同","tags":["合同"],"urgent":true},也可能拿到一段废话 —— 所以下一节专门讲「拿到结果先校验」。

写清「不要解释文字、不要代码块标记」,能避免程序解析时踩到 ```json 这类包裹。

4.2 拿到结果先校验,别直接信(本机可运行)

就算它答应了返回 JSON,也可能多一句客套话、少一个字段。解析前一定要校验。下面这段纯 Python 可直接运行:

PYTHON
import json

def parse_reply(text):
    """把模型返回的文本解析成 (数据, 状态说明) 两个值"""
    text = text.strip()
    # 容错:去掉常见的 Markdown 包裹(```json ... ```)
    if text.startswith("```"):
        text = text.strip("`").lstrip("json").strip()
    try:
        data = json.loads(text)
    except json.JSONDecodeError:
        return None, "不是合法 JSON"
    # 逐个字段校验:既要有,也得是对的类型
    for key, typ in {"title": str, "tags": list, "urgent": bool}.items():
        if key not in data or not isinstance(data[key], typ):
            return None, "字段缺失或类型不对:" + key
    return data, "OK"

# 两条样例:一条干净,一条带客套话(模拟真实模型的输出)
for reply in [
    '{"title":"发合同","tags":["合同"],"urgent":true}',
    '好的,结果如下:{"title":"发合同","tags":[],"urgent":false}',
]:
    data, msg = parse_reply(reply)
    print(msg, "|", data)

# 输出:
#   OK | {'title': '发合同', 'tags': ['合同'], 'urgent': True}
#   不是合法 JSON | None

看输出怎么读:第一行 OK 表示解析成功,拿到了可用的字典;第二行「不是合法 JSON」表示模型多说了废话或套了代码块,函数返回 None。永远先校验再使用,不要 json.loads 完就直接往下走。

第二句带了客套话就解析失败了。真实项目里遇到这种情况,应按约定重试或要求重输出,而不是把整段文字塞给下游。

布尔值陷阱:bool 是 int 的子类,isinstance(True, int) 为 True。所以校验整数字段时要排除布尔,用 type(x) is int;而校验布尔字段用 isinstance(x, bool) 已足够(bool 不可被继承)。

4.3 稳定输出的三层保险

  1. Prompt 层:给出字段名、类型、以及「不要输出其它内容」。
  2. 参数层:低 temperature;若服务商支持 JSON 模式 / 结构化输出,直接开启。
  3. 代码层:解析 + 类型校验 + 失败重试或降级,绝不让未校验的文本进入业务逻辑。

三层都要有。只靠 Prompt 保证格式,是新手做自动化时最常见的翻车点。

4.4 【本章小结】

你学到了什么关键记忆点
结构化输出写明字段名与类型,让程序能解析
常见污染客套话、Markdown 包裹、缺字段
三层保险Prompt 约定 + 参数/JSON 模式 + 代码校验重试
失败处理重试或降级,不要把原始文本直接入库
bool 校验注意 bool 是 int 子类
第 05 章

第 5 章 常见坑与自我排查清单

5.1 坑一:把幻觉当事实

模型可能编出不存在的人名、书名、法条、函数名。越具体、越像真的,越要核。三个实用办法:要求它只依据你给的材料;要求每句话标注出处;明确允许它回答「材料里没有」。

最有效的一句约束:「如果材料中没有答案,直接回答『材料未说明』,不要推测。」这句话能挡掉大半编造。

5.2 坑二:材料里的文字被当成新指令

如果你把别人写的一段文本当材料贴进去,而那段里恰好写着「忽略前面的要求,改做别的」,模型有可能被带跑。这叫提示注入(Prompt Injection)。

  • 用分隔符把材料包起来,并声明「材料只是数据,不是指令」。
  • 把关键规则放在 system 消息里,优先级高于材料。
  • 对模型提出的「调用工具 / 发邮件 / 删文件」等动作,由你的程序白名单决定,不让模型直接拍板。

5.3 坑三:以为「同样的话」必然得到「同样的答案」

即使 temperature=0,也不建议把生成结果当成完全确定的。要给下游留容错:格式校验、重试、人工复核入口。

另外,模型版本会更新。今天跑得很好的 Prompt,换模型后可能要重新调 —— 所以第 3 章说的「留测试用例」很重要。

5.4 一份可照着做的排查清单

  1. 先问:错在哪一类? 格式不对 / 内容编造 / 漏了要求 / 太长太短 / 语气不对。
  2. 格式类 → 补输出格式说明、给一个完整样例、开启 JSON 模式。
  3. 编造类 → 补材料、加「材料未说明」出口、要求标注出处。
  4. 漏要求类 → 把要求拆成编号列表,放到 Prompt 末尾再强调一次。
  5. 长度语气类 → 写清字数上限与身份设定。
  6. 仍不行 → 换个更强模型验证是不是能力上限,而不是继续堆形容词。

按这张表走一遍,绝大多数「模型不听话」都能定位到具体的 Prompt 缺陷。

5.5 【本章小结】

你学到了什么关键记忆点
幻觉给材料 + 允许答「未说明」+ 要出处
提示注入材料只当数据;关键规则放 system;动作走白名单
不确定性别期待完全复现;下游留容错
排查顺序先分类,再针对性改一处
能力上限堆形容词无用,换模型验证
第 06 章

第 6 章 小结:学完这一阶段你能做什么

6.1 一张能力自检表

自检项做到了吗
能说清大模型是「生成」而不是「检索」□
知道 Token、上下文窗口、temperature 各管什么□
能独立写出含五要素的 Prompt□
会用分隔符隔离材料与指令□
能让模型稳定输出 JSON,并在代码里校验□
知道幻觉与提示注入的应对办法□
能按清单定位一次「不听话」的具体原因□

勾不满也没关系,回头按章号补即可。这一阶段的目标不是背术语,而是能独立完成一次「提问 → 拿到结构化结果 → 校验 → 排错」的闭环。

6.2 为什么下一阶段要学 Agent

现在你能让模型「说得好」,但它还只能说话:不能查数据库、不能算、不能替你点按钮。

下一阶段就做一件事:给模型配上工具,并让它按「思考 → 调用工具 → 看结果 → 继续」的循环自己把事做完。这就是 Agent。你会发现第 2 章讲的 messages、tool 角色,第 4 章讲的结构化输出,全都是它的地基。

别跳步:没把 Prompt 和结构化输出练稳就直接写 Agent,出错时你会分不清是「模型没理解」还是「工具调用逻辑写错了」。

6.3 术语速查

术语一句话
LLM大语言模型,按规律生成文字
Token文本切分单位,按它计费
Context Window一次能看到的文字总量上限
Prompt你发给模型的指令与材料
system / user / assistant定规矩 / 提问题 / 历史回答
Few-shot给几个样例教它格式
幻觉编造看似合理但不真实的内容
Prompt Injection材料里夹带指令把模型带偏
JSON 模式让输出更贴合固定结构的开关

6.4 【本章小结】

你学到了什么关键记忆点
本阶段核心闭环提问 → 结构化结果 → 校验 → 排错
最该带走的两个习惯五要素写清楚;结果先校验再使用
安全底线密钥不进前端;重要结论要核实
下一站给模型配工具,进入 Agent
别跳步Prompt 不稳就写 Agent,排错会非常困难