交融RAG

约 3045 字大约 10 分钟

2025-04-16

交融 RAG 是中交 AI 中心构建的自主可控技术栈的核心技术之一，基于交融 RAG，可快速搭建 RAG 知识库，构建 RAG 问答智能体或搭建企业制度知识库等各类知识库，并提供快速、准确、可溯源的知识问答服务。用户可通过自然语言对话查询知识库内容，并支持定位到原文片段。

一、什么是 RAG

RAG（Retrieval-Augmented Generation）是一种自然语言查询方法，通过一个检索信息组件从外部知识源获取附加信息，添加到 LLM 提示词以更准确地回答所需的问题。通过额外的知识来增强 LLM 以回答问题，用以减少 LLM 产生幻觉的倾向。

二、RAG 技术的基本流程

RAG 技术的基本流程包括两个阶段，索引和查询。

索引

在索引过程中，构建向量数据库。

按照一定的规则拆分数个小片段 chunk；
对这些chunk进行嵌入生成其嵌入向量 embedding；
将生成的 embedding 存储到高维向量数据库中，形成索引。

查询

查询即为基于已构建的向量数据库进行问答、知识查询。

对查询语句进行向量化，转换为 embedding；
在向量数据库中，基于向量相似度查找与查询语句的 embedding最相似的数个 chunk的 embedding，即检索到与查询最相关的数个知识片段。
将文本块内容拼接到提示词模板中发送给 LLM，生成回答结果。

三、交融 RAG 特征

知识库的构建

在知识库构建的过程中，交融 RAG 将用户上传到知识库的文件进行解析，提取知识存入向量知识库。对于输入的文档，通过 OCR 与布局检测等模型、采用文档解析工具与解析算法，识别和检测文档中的文本布局、版面结构，并进行区域检测、布局识别和区域微调。将提取的知识内容基于不同知识结构化方式提取进行分块和结构化存储。

交融 RAG 通过纳入多种多样的解析策略，支持包括 doc、docx、ppt、pdf、xlsx、md、json、jpg、bmp 在内的常见文件格式的解析。交融 RAG 可支持 RAPTOR 技术，将分块后的扁平化文档知识进一步地提炼为树结构的索引和检索系统，对同一聚类的文本块进行总结，捕捉文本的多尺度、不同层次的信息，向 LLM 提供不同层次的信息。

查询的语义分析

在知识问答时，交融 RAG 首先会进行一次查询的语义提取，结合对话的上下文，将用户提出的问题原文转变为一个更聚焦的查询语句，然后再进行进一步的知识检索获取相关知识，最终将检索得到的相关知识与用户的原始问题拼接到提示词中，通过 LLM 回答用户的原始问题。

交融 RAG 通过语义提取智能体，更好地理解用户问题，避免用户问题用词的偏差、或用户问题中附带的非关键信息影响知识检索质量，检索得到的知识、文本块将更趋近于用户问题的真实语义，从而实现更好的知识检索召回，提供更好的问答效果。

提供知识溯源

通过交融 RAG 构建 RAG 应用后，在进行知识查询时，我们不但可以给出查询的回答，还可以给出查询的回答所参考的知识原文的具体位置，帮助定位知识来源，用户可结合知识原文来核实知识的准确性，更进一步地避免 LLM 的幻觉带来的影响。

支持附件上传

RAG 技术的应用由于存在索引与查询两个阶段，无法回答知识库以外的知识内容。对于用户实时获取的知识文档，用户难以实时更新知识库并进行问答。

交融 RAG 在应用实践中，额外提供了附件上传功能，在 RAG 问答的过程中，可以同时基于已预先构建的知识库和实时新上传的附件进行知识问答，能够适应用户需要同时基于 RAG 知识库与新上传附件进行查询的问答需求。通过提供附件上传问答的功能，交融 RAG 能够更好地支持更具实时性的知识问答需求，扩大了适用的情景范围。

四、交融 RAG 应用方式

方式一：一站式知识库构建服务

用户将构建的知识库所预期包含的全部知识文档全部交给我们，由中交 AI 中心进行相关操作，来完成知识库创建、数据处理、文件管理及上传、定制化设计解析策略，以及全部文件的解析工作，构建精品 RAG 知识库；基于我们成熟的 RAG 产品解决方案，设计独有 RAG 应用界面，提供成熟的 RAG 问答服务。

方式二：灵活自主的知识库构建与管理

中交 AI 中心将知识库相关操作权限赋予部门管理员，由部门管理员自行完成 RAG 知识库的构建与应用服务的搭建。

中交 AI 中心可提供知识库创建、知识库配置修改、文件上传、文件查询、文件配置修改、文件移除、文件解析等操作权限，可由部门管理员登录后管系统自行创建知识库，自行配置知识库解析策略，完成文件上传及解析。如此，用户可基于自身需求更灵活地创建自己的 RAG 问答服务。

方式三：交融 RAG 评估体系

交融 RAG 评估体系既考虑了数据的自动生成和人工干预，又涵盖了系统在检索和生成两方面的性能表现，为进一步优化 RAG 应用提供数据支撑和改进依据。本文档介绍交融 RAG 评估体系的整体架构、接口设计和主要流程。该评估体系分为两个主要部分：测试数据生成和问答测试。

下面详细描述了各个模块的工作流程、操作要求和评测指标。

测试数据生成

功能概述

测试数据生成模块的主要任务是根据已上传至语料库的文件内容，生成针对性问答数据。生成的问答数据将供后续人工筛选，以确保测试数据的有效性和针对性，从而达到测试 RAG 性能的目的。

数据生成流程

文件上传与解析

- 用户将包含相关内容的文件上传到语料库。 - 软件对上传文件进行解析，抽取文档中的关键信息和文本结构。

自动问答数据生成

- 根据文件内容，系统利用大模型自动生成初步的问答数据（数量可调整）。 - 自动生成的问题涉及对文档中关键内容的提问，答案和关联对应的文档内容。

人工筛选问答数据

生成的数据需要由用户人工进行筛选和调整。筛选主要按照以下原则进行： - 删除重复的问题确保问答数据中不存在语义或内容重复的问题，提升数据质量。 - 删除非自然提问或无意义的问题删除那些不合常识的问题，或与文档主题不相关的问题，例如在财务制度文件中提问“项目进度”等问题。 - 删除答案或依据缺失的问题针对缺乏合理答案或者缺少引用依据的问题，必须予以剔除。 - 删除依据不合理的问题若回答与问题不匹配、答非所问，或答案依据存在问题的，也应被剔除。

上传筛选后的问答数据

- 用户将经过人工筛选的问答文件上传至系统。 - 系统验证上传文件格式和数据完整性，确认无误后进入测试环节。

数据生成接口示例

文件上传接口 - URL：/api/*** - 方法：POST - 参数：上传文件、文件描述等信息 - 返回：生成的初步问答数据（预览列表）

RAG 应用评估

功能概述

问答评估模块基于筛选后的问答数据，针对每个问题对 RAG 应用进行测试。评估流程包括文档检索与答案生成两步，并通过预设评估标准，对系统的检索与生成能力进行综合评价。

RAG 应用评估流程

问题输入

- 测试系统将用户上传的问题输入至系统。 - 系统接收问题并启动后续的检索和生成流程。

测试指标

召回文档的测试指标包括： - 相关度：衡量检索到的文档内容与提问的贴合程度，即文档中包含的信息是否能够回答该问题。相关度越高，表明检索结果越符合问题需求。 - 精确度：将检索到的文档与预先标记的相关文档（标准答案依据的文档集合）进行比对，考察系统是否能准确识别、排序出真正相关的文档。

回答的测试指标包括： - 相关度：评价生成的回答是否紧扣问题本身，是否符合提问的主题和实际需求。 - 忠实度：检查生成的回答是否忠实反映检索到的文档信息，确保回答内容与参考文档一致且不偏离原意。 - 正确度：根据预先设定的标准答案，检验生成的回答在事实和语境上的准确性。

文档检索部分

系统先通过相似度匹配、关键词提取等技术，检索出与问题相关的所有文档信息。系统将逐个评价每一条召回信息。根据一条文档信息和问题，系统将调用大模型生成回答。通过将回答与标准答案进行比对，来判断该召回文档的相关度和准确度。

如果系统选择的文档准确度足够高，系统调用大模型根据选择的文档和问题生成回答。系统对比本次回答和标准答案，得到回答的相关度，忠实度和正确度。

综合评测与结果统计

- 系统对每个问答进行上述评测，并对每项指标给出打分。 - 最后，系统统计并输出所有问答的平均评测结果，作为对 RAG 性能的综合评价。

RAG 应用评估接口示例

问答数据上传接口 - URL：/api/*** - 方法：POST - 参数：问答数据文件 - 返回：测试结果