先理解它在做什么，再谈它聪不聪明。
常见的生成式大语言模型，会把输入切成 Token，转换成数字表示，再根据当前上下文预测后续 Token。生成一个，就把它接回上下文，继续生成下一个，这叫自回归生成。

训练时模型从大量的数据样本中学到语言规律、知识关联和任务模式；因此“预测下一个 Token”是计算机制，不代表它具有可靠的事实数据库。

Transformer 中的 Attention（注意力机制），可以理解成计算当前位置应该参考上下文里的哪些信息、参考多少。例如“合同已签，但款项未付”，回答付款状态时必须关注“未付”，不能只抓住“已签”。这种关联通过多层计算形成，并不是系统预先写好所有语法和业务规则。不过 Attention 不是事实核验器：原文错误、条件遗漏或模型误用关联，都可能生成流畅的错误答案。

训练和使用模型是两件事。
预训练：建立广泛能力；
后训练：是通过监督微调（SFT）、基于人类反馈的强化学习（RLHF）等方法，对模型进行针对性优化，以提升其推理能力、任务性能和对齐性。其方法呈现出共同特点，包括“合成数据、迭代训练、人类偏好标签和大量过滤”，且能以远低于预训练的计算成本显著提升模型性能
推理/应用开发：调用已经训练好的模型处理请求，叫推理。把文件放进本次上下文，通常不会改模型参数；保存聊天记录，也不等于完成训练。

比如给模型一份会议记录，让它整理结论，这是利用已训练模型处理当前输入；这次提供记录不等于重新训练模型。

有些推理模型会在回答前投入更多计算或生成内部推理 Token，复杂任务可能因此受益，但耗时、成本也会上升，具体行为取决于服务。Temperature 等采样参数主要改变输出选择的随机程度，并不是“越低越真实”的准确率旋钮。即使低随机性输出稳定地重复同一句话，它也可能稳定地答错。

提示词、检索增强生成和微调：分别改变了什么？

先记一句话：缺最新资料，优先补检索；任务要求说不清，先改提示词；任务稳定、样本充分，但行为反复不达标，再评估微调。 对文档多、经常更新、需要权限和引用的企业问答，我通常从 RAG（检索增强生成）加 Prompt（提示词）工程起步。它们不是三选一，也没有适用于所有企业的固定占比。

这里说的企业资料，包括内部制度、产品手册、合同、标书、售后标准作业流程和供应商资料。这类问题真正难的，往往不是“回答得像不像人”，而是拿到正确版本的资料，只让有权限的人看到，并且每个关键结论都有依据。

1. Prompt（提示词工程）：先把任务和回答规则讲清楚

你可以把提示词理解成给模型的任务说明：要做什么、依据什么、按什么格式回答、没有证据怎么办。把几份资料直接放进上下文，是它的一种用法；提示词工程本身也用于生产系统，不能等同于临时演示。

好处是不用训练模型，改指令、换示例就能验证。比如拿一份五页报价单，要求“只比较含税单价，找不到交付日期就写未提供”，很适合先直接提供全文。

边界是上下文容量、长文本理解质量、重复输入的成本和响应时间。资料装得下，也不等于模型能准确找出每个细节。长上下文模型让直接读全文更可行，但仍要和检索方案实测，不能只按页数划线。提示词也可以通过模板和程序维护，不是每次资料更新都靠人工改一大段文字。

我的判断是：材料规模可控、直接读全文已经达标，就先用简单方案；即使后来接入检索，回答规则和引用要求仍然需要提示词。

2. RAG（检索增强生成）：把需要的证据找出来，再交给模型回答

它把“管理知识”和“生成答案”分开。先解析资料、建立索引；用户提问时，找到相关内容，再把问题、证据和回答规则一起交给大语言模型。通常不需要改生成模型的权重。

向量检索是常见做法，但不是唯一做法。合同编号、产品型号适合关键词或精确匹配；自然语言描述适合语义检索，实际可以混合使用，再重排候选片段。查库存、订单状态这类实时数据，往往应该调用有权限控制的业务接口，不能只依赖文档库。

它适合资料持续变动、文档量大、需要按权限检索和核对出处的场景。更新资料通常只需要更新解析结果与索引，不用重新训练模型。不过“上传成功”不等于已经生效，还要确认索引完成、旧版本失效、缓存更新，删除资料也要清理对应索引和缓存。

引用和少幻觉都不是自动附赠的。 解析时要保留文档、版本、页码或段落位置，生成时绑定引用，之后核验引用是否真的支持结论。没检索到证据要拒答或追问；拿到证据仍可能被模型误读。权限必须由系统执行，不能只在提示词里写一句“不要泄密”。

代价是多了一条解析、分块、索引、检索、重排与更新链路。能否支撑上万份文档、成本是否合适，要结合文档质量、并发量、检索范围和服务指标来验证，不能只看用了向量库。

3. 微调：用训练样本改善稳定任务上的行为

微调会更新模型参数，或训练一小部分适配参数。监督微调常用“输入—理想输出”样本，让模型学习希望的处理方式。它可以改善分类、专业表达、工具调用和指令遵循，也能改善风格与格式，不只用于统一语气。

但固定格式不等于必须微调。比如必须输出固定字段，我会先用模型提供的结构化输出、字段校验和失败重试；固定四段客服话术，先试模板和少量示例。只有这些方法仍不达标，而且有足够干净、具有代表性的样本，才值得比较微调收益。

微调能学到部分事实，但不能把权重当成可精确增删、随时查询来源的业务数据库。把动态制度写进权重，会增加更新、纠错和溯源难度；如果微调只学习回答行为，制度更新通常无需重训，更新检索资料即可。

微调不保证格式永远正确，也不保证推理一定更快。 若它让更小的模型胜任任务，或者减少重复指令，可能降低时延和单次成本；训练、标注、评测和维护成本也要一起算。样本少或分布单一，还可能过拟合：练过的答得很好，换个表达就失效。

微调通常怎么做？先把流程串起来

先记住这条线：定目标 → 准备样本 → 清洗并划分数据 → 选择训练方式 → 训练与验证 → 独立评测 → 灰度上线与回退。 不是把企业文档交给训练程序，就算完成了微调。

第一步，把要改善的行为说具体。 比如客服分类总把“询问进度”判成“退款失败”，或者工具调用经常遗漏必填参数。先留下原模型和提示词方案的成绩，才能知道训练有没有收益。动态制度由检索提供，订单状态从业务接口查；微调主要改善模型怎样处理这些输入。

第二步，准备“输入—理想输出”样本。 这就是 SFT（监督微调）的基本思路：用正确示范教模型完成任务。样本中的输入要接近上线时实际能看到的内容；如果正式回答依赖检索证据，训练样本也要提供证据，不能训练时让它凭空回答、上线时却要求有据可查。

有授权的真实日志通常能反映实际问题，但要先脱敏、去重、纠错，补上容易混淆、缺信息和需要拒答的情况。几百到几千条可以是实验规模，不是“这些数量就一定够”的承诺；重复堆同一种好回答，覆盖仍然可能很差。

第三步，分清训练、调参和最后验收的数据。 训练集用来更新参数，验证集帮助选择训练配置和模型版本，独立测试集用于最终评测。先按用户、文档或时间分组，再划分，避免同一问题的近似改写分别进入训练和测试，让成绩虚高。比例取决于样本规模与覆盖，不必机械按 9:1。对话格式也要使用所选模型或服务支持的模板，不能随意换个角色标签就直接开训。

第四步，选的是“训练哪些参数”，不是再选一个业务目标。 全参数微调更新整个模型，资源开销通常更高；LoRA（低秩适配）冻结基座，只训练新增的低秩参数；QLoRA（量化低秩适配）通常把冻结的基座量化以节省显存，再训练适配参数。SFT 描述训练目标，LoRA 描述参数更新方式，所以可以用 LoRA 来做 SFT，它们不是互斥选项。托管平台提供哪些方式，则以平台能力为准。

第五步，训练要看趋势，不背固定参数。 学习率决定每次调整的步幅，批量大小是一次更新聚合多少样本，训练轮次是数据被遍历多少遍，预热是逐步调整初期学习率。这些配置一起影响稳定性和资源消耗，要用验证结果选择。训练损失继续下降而验证表现持续变差，可能是过拟合；但一次波动不能直接下结论，也不能把“训练 2～5 轮”当成通用规则。

第六步，验收的是业务能力，不只是损失下降。 看目标任务正确率、字段和参数合规、拒答是否恰当、原有能力有没有退化，再比较时延与成本。BLEU（双语评估替换分数）、ROUGE（召回导向摘要评估）等文本相似度指标不能单独代表事实正确；模型评分要校准并人工抽检。适配器能否动态加载或合并，要看基座版本、量化方式和推理框架是否兼容。

最后，小范围上线，并准备好撤回。 同时记录基座、适配器、数据和提示词版本，保留原方案；先对照少量真实流量，达标后扩大使用，把失败案例变成下一轮经过审核的样本。不是线上收集到什么，就立即自动拿去训练。

追问：监督微调和偏好优化有什么区别？

可以这样记：SFT（监督微调）给示范，DPO（直接偏好优化）给比较。 前者用输入和理想回答训练，后者使用同一输入下更优与较差回答的配对数据优化偏好。常见做法是在已有合适能力的模型上继续做偏好优化，但不是每个项目都必须自行先跑一轮 SFT，再上 DPO。数据好坏和目标是否明确，决定了是否值得做；它也不保证自动消除幻觉或错误拒答。

把三种方式串成一套学习顺序

先建一小批有代表性的评测题。 包含有答案、没答案、旧制度、新制度、无权限和表格问题，标好预期结论及证据。后面所有方案用同一口径比较。
建立简单基线。 用提示词加直接提供资料判断模型能否读懂；资料规模和更新要求确实需要时，再搭检索链路。先把答案可靠、权限正确、引用可核对跑通。
收集失败样本并分类。 是原文没解析出来、检索漏了、证据过时，还是证据正确但模型理解或格式有问题？不同问题的修法不同。
再决定是否微调。 对持续出现的行为问题整理高质量样本，按文档、时间或问题类型划分训练集和独立评测集，避免近似样本同时进入两边，造成分数虚高。
按完整业务成本验收。 看答案正确率、引用支持率、权限越界、该拒答时是否拒答、有效问题是否被误拒，以及响应时间、人工修订量和每个合格答案的成本。微调上线后保留原模型或原方案，方便回退。

我的落地原则是：先修真正的短板，再增加复杂度。 检索漏了制度原文，先修检索；字段经常缺失，先做结构约束；同类任务有稳定而顽固的行为偏差，才拿训练方案做对照。

对应练习：三种方案选型的简洁口述版 · 微调实施流程与口述答案。分块规则继续看第 07 节，完整问答链路看第 11 节。