知识库

企业 RAG 为什么答不准

企业 RAG 答不准通常不是模型一个问题，而是文档清洗、切分、召回、权限、引用和评估链路没有设计好。

问题通常不在模型，而在知识库链路

• 企业 RAG 的回答质量取决于原始资料、切分方式、检索策略、权限过滤和生成约束。
• 如果检索阶段没有拿到正确资料，模型只能根据不完整上下文回答，结果自然不稳定。
• 如果没有引用和日志，团队很难判断错误来自文档、召回、模型还是权限。

文档清洗和切分决定召回下限

• 扫描件、表格、页眉页脚、重复附件和过期制度都会污染知识库。
• 切分太碎会丢失上下文，切分太大又会降低召回精度。
• 更可靠的做法是保留标题层级、章节编号、版本、来源和权限元数据。

只做向量检索不一定够

• 很多企业问题同时需要关键词、部门、时间、文档类型和权限过滤。
• 向量召回之后还需要重排、引用选择和答案约束。
• 对于制度、合同、产品资料这类内容，混合检索通常比单一向量检索更稳。

权限过滤是生产上线的分水岭

• 企业知识库不是所有人看同一套资料，不同部门、项目和角色的可见范围不同。
• 权限应在检索前或检索阶段执行，而不是只在提示词里提醒模型不要泄露。
• 没有权限过滤的 RAG 适合演示，不适合进入真实业务。

没有评估集就无法持续优化

• 企业应保留典型问题、正确资料、期望答案和失败案例，形成评估集。
• 每次调整切分、模型、检索参数或提示词后，都要用同一批样本回归测试。
• LLMOps 要记录召回命中率、引用覆盖率、无答案率和用户反馈。