AI Knowledge

外观

Prompt、RAG 和 Fine-tuning 应该如何选择？ ​

3 分钟速学卡 ​

30 秒口述： 我会先按问题类型选方案：Prompt 适合低成本定义任务、格式和少量示例；RAG 适合动态、私有、需引用和权限控制的知识；Fine-tuning 适合用稳定样本固化行为、风格或特定任务能力。三者不是互斥关系，常见顺序是先做 Prompt 基线，再为知识问题接 RAG，只有稳定重复行为仍不达标时才评估微调。选择要用固定评测集比较质量、延迟、成本、安全、更新频率和运维复杂度。

  • 本质： Prompt 管当前指令，RAG 管外部知识，Fine-tuning 管稳定行为。
  • 核心机制： 先建立 Prompt 基线，再按明确缺口增加系统复杂度；动态私有知识优先 RAG，实时真值优先权威工具。
  • 关键判断： 稳定重复行为才值得评估微调；最终选择必须由同一评测集的质量、成本和风险证据支撑。
  • 项目落地： 示例项目：企业客服先用 Prompt 与结构化 Schema 建基线；政策问答接入带 ACL 和引用的 RAG。
  • 边界与坑： “知识不足就微调”：动态知识更适合 RAG 或权威工具；“上了 RAG 就不需要 Prompt”：仍需定义证据使用、引用和拒答规则。

目录 ​

面试官为什么问 ​

这道题考方案诊断而非名词优劣。面试官关注你能否区分知识更新、行为学习与任务编排，以及是否有渐进式、可回滚的验证方法。

小白先看懂 ​

新员工办业务：岗位说明书告诉他当前任务和格式，像 Prompt；随时查阅最新制度库，像 RAG；长期培训形成稳定话术和操作习惯，像 Fine-tuning。制度变化不应每次都重新培训进大脑，复杂行为也不一定靠塞一大本说明书解决。

映射中员工是模型，制度库是外部知识，培训是参数更新。类比忽略了检索质量、上下文窗口、训练数据治理和模型版本成本。

图：教学图片｜Prompt、RAG 和 Fine-tuning 应该如何选择？

替代文本： 16:9 中文教学决策图，新员工面前有岗位说明书、最新制度库和长期训练场，右侧映射模型系统。

Prompt、RAG 和 Fine-tuning 应该如何选择？教学图片

读图结论： Prompt 管指令，RAG 管知识，微调管行为。实时真值走权威工具。

这张图片用于展示三种方案解决不同问题并可组合。精确公式、参数、失败分支和事实边界仍以正文与 Mermaid 为准。

图片生成记录： model=gpt-image-2，generated=2026-07-15，prompt_version=v1，reviewed=2026-07-16，review_basis=user-confirmed；查看生成 Prompt。

图：按问题性质选择 Prompt、RAG 或微调

替代文本： 需求先判断是任务说明、动态知识还是稳定行为；分别进入 Prompt、RAG 或 Fine-tuning，并可组合，最后统一通过质量、成本、安全和延迟门禁。

图表加载中…

读图结论： 先识别缺口再选技术；Prompt、RAG 和微调可以组合，但每增加一层都要有可测收益。

核心原理 ​

方案主要改变擅长主要代价
Prompt当前请求上下文快速定义任务、格式和示例上下文占用、易受输入影响
RAG外部证据上下文新鲜、私有、可引用知识摄取、检索、权限与延迟
Fine-tuning模型或适配器参数稳定行为、风格、重复任务数据、训练、评测、发布与回滚

实时业务真值优先走受控 API/SQL，不应由 RAG 或参数记忆猜测。微调也不能可靠替代频繁更新的事实库。

项目和生产视角 ​

示例项目： 企业客服先用 Prompt 与结构化 Schema 建基线；政策问答接入带 ACL 和引用的 RAG；若大量固定分类或话术在高质量标注集上持续不达标，再比较 LoRA。统一报告任务正确性、引用支持率、P95、Token、调用与维护成本。

发布时绑定 Prompt、语料、索引、Embedding、模型和适配器版本，支持单层回滚。本文没有实测数据，所有选型结论均为条件性建议。

常见错误回答 ​

  • “知识不足就微调”：动态知识更适合 RAG 或权威工具。
  • “上了 RAG 就不需要 Prompt”：仍需定义证据使用、引用和拒答规则。
  • “Prompt 能解决所有稳定行为”：复杂重复模式可能需要数据和参数学习。
  • “三者选一个即可”：生产系统常组合，但要控制复杂度。

递进追问 ​

  1. 如何判断问题是知识缺口还是行为缺口？
  2. 为什么实时余额不应由 RAG 回答？
  3. RAG 与微调组合时如何设计评测？
  4. 哪些证据能证明微调值得长期运维？
  5. 三层版本如何独立回滚？

关联阅读 ​

总结 ​

一句话记忆： Prompt 管当前指令，RAG 管外部知识，Fine-tuning 管稳定行为。

  • 先建立 Prompt 基线，再按明确缺口增加系统复杂度。
  • 动态私有知识优先 RAG，实时真值优先权威工具。
  • 稳定重复行为才值得评估微调。
  • 最终选择必须由同一评测集的质量、成本和风险证据支撑。