AI Knowledge

外观

RAG 框架实现与选型：LangChain、LlamaIndex 与自研 ​

目录 ​

1. 面试结论 ​

30 秒专业短答｜ RAG 框架封装摄取、索引、检索和合成，但检索质量取决于数据、配置、模型与评测，不由框架名称保证。主链路是“解析切片并版本化 → 构建稀疏和稠密索引 → 召回融合重排 → 上下文构造生成与引用评测”。框架是实现选择，不替代 RAG 链路设计；实时业务真值仍应走受控 API 或 SQL，项目中必须用 Trace、失败样本和成本指标验证。

面试官为什么问： 看你能否把框架名词拆成控制流、数据契约、失败边界与选型依据，而不是只会调用 API。

2. 概念、原理与边界 ​

小白先这样理解：旅行社可买整套行程、选资料管家或自己拼路线 ​

旅行社可买整套行程、选资料管家或自己拼路线；框架对应套装，自研对应自行拼装，验收表对应统一基准。技术上仍要由确定性代码处理权限、状态提交和终止；生活类比没有覆盖并发、版本与分布式失败。

核心机制 ​

  1. 解析切片并版本化：把输入和约束变成可校验契约。
  2. 构建稀疏和稠密索引：执行主题的核心计算或控制决策。
  3. 召回融合重排：提交结果，并保留版本和证据。
  4. 上下文构造生成与引用评测：成功收口；失败按类别重试、降级或人工处理。

边界： 框架是实现选择，不替代 RAG 链路设计；实时业务真值仍应走受控 API 或 SQL。概念本身与框架无关，框架只是实现路径。

3. 技术栈与横向选型 ​

技术点 ID技术点/环节类型采用方案链路职责版本/证据边界
TP-RFW-CORERAG 框架实现与选型：LangChain、LlamaIndex 与自研核心链路机制与参考实现接口分层并以基准集驱动选型完成“解析切片并版本化 → 构建稀疏和稠密索引 → 召回融合重排 → 上下文构造生成与引用评测”设计参考；动态能力以 2026-07-14 官方资料和项目基准为准
技术点 ID候选方案优点缺点/代价适用场景不适用场景选择结论与依据
TP-RFW-CORELangChain 或 LlamaIndex能力完整，便于标准化抽象、依赖或运维成本更高约束与生态匹配的生产项目只验证最小机制当前参考方案；须用同数据、同预算基准验证
TP-RFW-CORE轻量自研管线路径直接，边界透明需要自行补齐工程能力小规模、强定制或机制验证复杂协作和快速交付需求简单时优先；复杂度超过维护能力再切换

4. 架构与调用流程 ​

图：架构｜RAG 框架实现与选型：LangChain、LlamaIndex 与自研组件边界

替代文本： 输入经过解析切片并版本化、构建稀疏和稠密索引、召回融合重排和上下文构造生成与引用评测形成结果，策略与观测横跨链路提供约束和证据。

图表加载中…

读图结论： 核心机制位于中间两步，策略控制执行边界，观测层负责证明结果和定位失败。

架构图说明静态职责，不代表所有步骤都必须拆成独立服务；是否拆分取决于隔离、扩缩容和故障域。

图：技术调用流程｜RAG 框架实现与选型：LangChain、LlamaIndex 与自研成功与失败路径

替代文本： 调用方提交请求，控制层执行前置校验后调用核心组件；有效结果被验证并返回，异常结果进入止损、降级或人工处理。

图表加载中…

读图结论： 失败不能统一重试；先区分未执行、可重试和结果未知，再决定恢复动作。

调用流程把模型或框架能力放在受控运行时内部，授权、验证和最终完成判定不交给概率模型。

5. 最小实现与证据 ​

python
def run(request, policy, engine, verifier):
    checked = policy.validate(request)
    result = engine.execute(checked)
    verifier.assert_valid(result)
    return result

这段伪代码刻意只保留四个边界：输入校验、核心执行、结果断言和返回。生产实现还需超时、取消、幂等、版本与审计。

最小证据集： 一个正常样本、一个边界样本、一个失败注入；记录输入、输出、版本、Trace、延迟和成本。没有这些证据时，只能说“完成设计”，不能声称已上线或提升。

6. 项目落地与面试追问 ​

示例项目： 在内部 AI 助手中用 TP-RFW-CORE 承担核心链路。上线前以固定任务集比较 LangChain 或 LlamaIndex 与 轻量自研管线，验收任务成功率、关键错误率、P95、单位任务成本和人工接管率。

面试追问：

  1. RAG 框架实现与选型：LangChain、LlamaIndex 与自研解决什么问题，又不解决什么？
  2. 四步链路中哪一步必须由确定性代码控制？
  3. 为什么当前选择 LangChain 或 LlamaIndex，何时改用 轻量自研管线？
  4. 如何证明不是 Demo 恰好成功？
  5. 发生“框架升级后默认切片或检索行为变化”时先查什么？

7. 生产风险与排障 ​

生产风险演练 ​

现象影响定位证据根因临时止损长期修复回归验证监控与防复发
代码未改但候选和答案指标漂移框架升级后默认切片或检索行为变化，影响正确性、稳定性或成本parser、chunker、embedding、index、retriever version关键默认值未显式固化锁版本并回滚索引和配置显式配置、适配层、黄金集和迁移测试同语料同问题比较 Recall、引用、延迟和成本按租户、任务和版本监控失败率、尾延迟、成本与降级率

排障顺序固定为：先止损并固定版本，再找首次异常证据，最后修复、重放和灰度；不要先换模型或扩大重试。

8. 参考资料 ​

9. 总结 ​

一句话记忆： RAG 框架封装摄取、索引、检索和合成，但检索质量取决于数据、配置、模型与评测，不由框架名称保证。

  • 核心链路：解析切片并版本化 → 构建稀疏和稠密索引 → 召回融合重排 → 上下文构造生成与引用评测。
  • 选型：LangChain 或 LlamaIndex 与 轻量自研管线 必须在同约束下比较。
  • 边界：框架是实现选择，不替代 RAG 链路设计；实时业务真值仍应走受控 API 或 SQL。
  • 排障：固定版本，沿 Trace 找首次异常，再重放验证。