朗新提出提高RAG问答准确率的方案:高可靠智能问答引擎
RAG问答结果准确率不高,一直是影响很多企业应用大模型的重要因素。很多技术供应商都在提出技术方案来优化这一问题。朗新科技集团咨询业务部近期也提出了一个面向电力行业的高可靠智能问答引擎技术方案,虽然是面向电力行业,但是其技术思路适合各行业参考。方案完整技术介绍见“阅读原文”,作者李思晗、邢超杭,这里AIE做一个简化的通俗概括,不一定准确,只为方便大家快速了解基本思路。整个方案大体可以理解为在RAG问答的不同阶段,开展的4个部分的优化。第一部分是在数据入库和切片过程中通过精细操作,针对不同文档内容,采取不同策略,保证切的细,完整和可溯源。- 政策、规程等长文档,自动识别章节、上下文关系等进行智能切片,确保切出来的片段语义完整
- 运维日志、工单等利用命名实体识别(NER)和关系抽取,提炼为“事件-诊断-处置”的结构化知识对
- 各种原理图等,采用多模态大模型生成一段描述性文字及图片向量,系统能通过语义向量匹配到这张图
切出来的每个片段都绑定来源位置信息,方面后续溯源定位第二部分是接收到问题后先进行一波预处理,把模糊的问题转为更具体的指令这部分首先是构建多层次的专业术语词典,针对用户问题结合词典识别出专业名词,重写为结构化指令第三部分是查询时分类查询。创建了一个调度分配查询任务的Agent,针对不同类型的问题,匹配不同的查询:针对确定性实体调用精确检索模块,针对模糊咨询激活向量检索模块,针对复杂关联关系启用图谱推理模块。 第四部分是在内部查询结果返回,最终输出给用户前,开展结果检验和验证。一个Agent将业务规则作为规则约束,对模型初步答案进行审查和验证,并综合多路返回的结果,给出最终的面向用户的结果。 当然,这里也会给出相关引用的来源,方便做进一步判断。以上就是整个方案的大体思路,遗憾的是原文并没有给出方案能够达到的准确率实测数据。当然,从更长远来看,以上方案可能是迈向更准确RAG问答的一部分工作,后续可能还要在此基础上进一步优化。除传统RAG外,Graph-RAG也是RAG的重要升级方向,都过构建知识图谱,让模型能够更好的识别专业名词、实体见的关系,使模型能够更准确的回答问题。当然,Graph-RAG也面临算力消耗过大的问题,还有待进一步优化提升。 著作权归作者所有,欢迎分享,未经许可,不得转载
首次发布时间:2026-04-28
最近编辑:6月前