
企业知识库检索出了相关资料,AI 仍可能引用旧版本、套错规则或遗漏关键附件。真正可靠的企业智能体,还需要通过上下文工程,把正确的信息交给正确的任务。 很多企业建设 AI 知识库后,会遇到一种更隐蔽的问题:资料找到了,答案却依然不可靠。检索结果看起来不少,引用来源也像模像样,但 AI 可能把旧方案当成现行方案,把其他项目的规则套到当前客户,或者抓住了一段相关文字,却忽略了真正决定结论的附件。 第五篇讲到,记忆让企业智能体能够接着做。接下来还要解决一个关键问题:面对知识库、项目记忆、业务系统和当前对话中的大量信息,智能体究竟应该把什么放进这一次任务的上下文? 01 找到资料,只完成了一半 继续看前面的客户项目。客户第一次沟通时,希望建设企业知识库;第二次沟通又增加了报告生成和流程审批,并明确要求私有化部署。几周后,业务人员让 AI 更新项目方案。 知识库检索出了三份文件:最早的需求记录、上一版项目方案和最新会议纪要。三份资料都与客户高度相关。如果系统只按关键词相似度排序,旧方案很可能排在最前面。AI 随后写出一份语言流畅、结构完整,却遗漏最新需求的方案。 这里的问题不在于“没找到”,而在于“没判断”。企业任务需要的不只是相关信息,还要判断它是否最新、是否适用于当前项目、是否经过确认,以及能不能支撑眼前这个结论。要理解这层差别,首先要看看这些资料最终被放到了哪里。 02 上下文窗口不是仓库,而是 AI 的工作台 大模型每次处理任务,都依赖一个有限的上下文窗口。可以把它理解为 AI 当前的工作台:用户目标、任务状态、检索资料、历史决定和工具结果,都要在这张工作台上被同时理解。 工作台上放得太少,AI 会缺少关键依据;放得太多,旧信息、重复内容和无关材料又会挤占注意力。把整个知识库一次性塞进去,既增加成本和延迟,也可能让真正重要的信息被淹没。 因此,企业需要做“上下文工程”:围绕当前任务,主动选择、组织、压缩和更新模型真正需要的信息。知识库负责存放资料,上下文工程负责决定这一次该拿哪些资料来工作。接下来的关键,就是建立一套选择标准。 03 一段内容能不能进入上下文,要过四道筛选 第一道是相关性。它是否直接回答当前问题,还是只是出现了相同关键词?“私有化部署”可能出现在产品介绍、历史方案和客户确认记录中,三者作用并不相同。 第二道是时效性。同一需求存在多个版本时,最新记录通常应获得更高优先级;但如果任务是复盘历史过程,旧版本又不能被简单删除。 第三道是权威性。正式制度、已审批方案和客户确认纪要,应高于个人草稿和未经确认的讨论。来源层级会直接影响结论可信度。 第四道是适用范围。集团制度、部门规则和项目约定可能同时存在。资料本身都正确,套错对象仍然会得出错误答案。 相关、最新、可信、适用,四个条件共同决定一段信息能不能成为当前任务的有效上下文。但有了标准还不够,系统还要把判断过程做成一条可以稳定运行的处理链。 04 从检索到可用上下文,中间还差一条处理链 一套更可靠的上下文处理流程,通常包括任务理解、查询改写、多源检索、结果重排、冲突检测、内容压缩和来源标注。 还是更新客户方案这个任务。系统先识别目标是“基于最新需求修改现有方案”,再把查询拆成客户最新需求、已确认技术边界、现行报价规则和方案模板。资料从知识库、项目记忆和业务系统中被分别检索出来,再按照相关性、时间、来源权威性和适用范围重新排序。 如果最新会议纪要与旧方案发生冲突,系统不应悄悄选一个,而要标出差异:客户已新增流程审批需求,旧方案尚未覆盖;部署方式已确认为私有化,早期记录仍写着待确认。随后,系统把有效信息压缩成清晰的任务上下文,并保留来源位置。 到了这一步,AI 拿到的才不再是一堆搜索结果,而是一组能够支持当前任务的证据。对于简单问题,一轮处理可能已经足够;客户方案这类复杂任务,往往还会在执行中暴露新的信息缺口。 05 Agentic RAG:让 AI 主动补齐缺失信息 传统 RAG 通常经历一次“提问—检索—生成”。对于简单问答,这条链路已经很有价值;但企业任务往往无法通过一次检索拿齐所有信息。 Agentic RAG 在检索过程中加入智能体的判断能力。智能体先分析任务,发现信息缺口,再决定去哪里查、换什么关键词、是否需要调用业务系统,以及当前证据是否足够。检索结果不完整时,它可以继续追问和补查,而不是带着缺口直接生成最终答案。 例如,系统已经找到客户最新需求,却没有查到私有化部署对应的交付周期。智能体可以继续检索产品能力说明和历史项目记录;如果仍然缺少确定依据,就把“交付周期待技术负责人确认”标记为阻塞项。 这让 RAG 从一次资料搜索,升级为围绕任务持续获取和验证证据的过程。智能体拥有了更主动的检索能力,也意味着来源、权限和操作边界必须同步收紧。 06 上下文也要可信:来源、冲突和权限一个都不能少 上下文决定 AI 这一次会依据什么做判断,因此它同样需要可信治理。每条关键信息应保留来源、时间和版本,让用户能够回到原文核对;不同来源出现冲突时,系统要展示差异并交给规则或人工处理。 权限也不能在检索阶段被绕过。员工无权查看的合同、财务数据和其他项目资料,不应因为语义相关就进入模型上下文。检索范围必须继承原系统的身份与访问控制,敏感字段还需要根据任务进行脱敏。 可信上下文的目标很清楚:AI 使用的每一项关键依据,都应该找得到来源、看得出新旧、辨得清范围,也符合当前用户的权限。 结语
企业 AI 缺的不是更多资料,而是更合适的上下文。
知识库解决资料在哪里,记忆解决过去发生过什么,上下文工程解决这一次应该让 AI 看见什么。三者相互配合,企业智能体才能基于正确的信息继续完成任务。 判断一套企业 RAG 是否好用,也不能只看召回了多少文档。更重要的是:关键证据有没有被选中,旧版本有没有被识别,冲突有没有被提示,来源能不能追溯,权限有没有被守住。 对于企业智能体来说,真正稀缺的从来不是信息数量,而是在正确的时间,把正确的证据交给正确的任务。 下一篇,我们将继续讨论上下文越来越长之后的另一个现实问题:AI 如何压缩信息、保留关键线索,并避免在长任务中逐渐忘记最初目标。 如果您的企业正在建设内部知识库、智能问答系统或业务智能体,尤其遇到复杂文档处理、表格问答、图纸资料理解、多部门权限控制、答案来源追溯等问题,欢迎与广东省制造业协会人工智能与机器人专委会联系咨询。 人工智能与机器人专委会可信智能体技术专家 陈文清 中山大学软件工程学院副教授 2022年7月入选中山大学百人计划,加入软件工程学院;主要研究方向包括自然语言处理、因果推断、大语言模型、智慧医疗、智慧司法等,目前聚焦基于因果推断的大语言模型偏差分析与缓解。主持国家自然科学基金青年科学基金项目、广东省自然科学基金面上项目等纵向课题,并主持若干项大模型横向科研课题,参与国家重点研发计划、上海市级科技重大专项等项目,获ACM珠海新星奖。在顶级会议及期刊发表论文30余篇,获国家发明专利授权7项。主导开发电力大模型、金融大模型、化学大模型等大模型和智能体产品。 图片来源于网络,如有侵权请联系删除 编辑:刘颖、叶健文、吴伟佳 ·END·
电话:穆先生:18665021673
何小姐:18565191549
邮箱:frgj3790@163.com
扫一扫关注
微信公众号
电话:020-8230 8816
邮箱 : frgj3790@163.com