KAG：蚂蚁集团推出的专业领域知识服务框架

KAG简介

KAG（Knowledge Augmented Generation）是由蚂蚁集团开发的专业领域知识服务框架。它旨在通过结合知识图谱（KG）和检索增强生成（RAG）技术的优势，提升大型语言模型（LLMs）在专业领域的生成和推理性能。KAG通过五个关键方面进行双向增强：LLM友好的知识表示、知识图谱与原始文本块的相互索引、逻辑形式引导的混合推理引擎、基于语义推理的知识对齐，以及模型能力的增强。该框架在多跳问答任务中表现出色，显著优于现有RAG方法，并已在蚂蚁集团的电子政务和电子健康问答任务中成功应用，显著提高了专业性和准确性。此外，KAG将很快在开源KG引擎OpenSPG上得到支持，助力开发者构建更准确、高效的专业知识服务。

KAG主要功能

1. 专业领域问答：KAG能够有效处理专业领域的复杂问答任务，如法律、医学和科学等，提供准确、连贯且具有逻辑性的答案.
2. 知识图谱构建与索引：通过信息提取和语义对齐技术，构建领域知识图谱，并实现高效的索引机制，支持快速准确的知识检索.
3. 逻辑推理与问题解决：利用逻辑形式引导的混合推理引擎，将自然语言问题转化为逻辑表达式，结合知识图谱和文本信息进行多步骤推理，解决复杂问题.
4. 知识对齐与标准化：通过语义推理，将自动化生成的碎片化知识与领域知识进行对齐和连接，提高知识的标准化和连通性，增强检索和推理的准确性.
5. 模型能力增强：提升通用大型语言模型在自然语言理解、推理和生成方面的能力，使其更好地适应专业领域的问答需求.

KAG技术原理

1. LLM友好的知识表示：
   • 提出LLMFriSPG框架，升级SPG，使其兼容无模式信息提取和有模式专家知识构建.
   • 支持图结构和原始文本块之间的相互索引表示，便于基于图结构的倒排索引构建以及逻辑形式的统一表示、推理和检索.
2. 逻辑形式引导的混合推理引擎：
   • 包含规划、推理和检索三种类型的操作符，将自然语言问题转化为结合语言和符号的问题解决过程.
   • 每一步可利用不同操作符，如精确匹配检索、文本检索、数值计算或语义推理，实现检索、KG推理、语言推理和数值计算四种不同问题解决过程的集成.
3. 基于语义推理的知识对齐：
   • 将领域知识定义为各种语义关系，如同义词、上位词和包含关系，在离线KG索引和在线检索阶段进行语义推理.
   • 在离线索引阶段提高知识的标准化和连通性，在在线问答阶段作为用户问题和索引之间准确连接的桥梁.
4. 模型能力增强：
   • 增强通用LLMs的自然语言理解（NLU）、自然语言推理（NLI）和自然语言生成（NLG）三种特定能力.
   • 通过大规模指令重构和多样化指令合成策略，创建NLU指令数据集进行监督微调，提升模型在下游任务中的NLU能力.
   • 利用高质量的概念知识库和本体，构建包含不同概念推理指令的训练数据集，增强模型的语义推理能力.
   • 采用K-Lora和AKGF等方法，通过知识生成和反馈对齐，提升模型在特定领域生成任务中的性能.

KAG应用场景

1. 电子政务问答：基于政府发布的政策文件、办事指南等文档，构建知识图谱，为公众提供关于行政流程、所需材料、办理条件、服务地点等方面的智能问答服务，帮助用户快速了解和办理相关政务事项.
2. 电子健康咨询：整合医疗资源，如疾病信息、症状描述、治疗方案、药物知识等，构建医疗知识图谱，为用户提供疾病咨询、症状解读、治疗建议、健康科普等服务，辅助用户进行健康管理.
3. 法律咨询解答：将法律法规、案例判决、法律条款等信息转化为知识图谱，针对用户提出的法律问题，提供准确的法律咨询和解答，如合同纠纷、侵权责任、法律程序等，助力用户维护自身合法权益.
4. 金融投资咨询：结合金融产品信息、市场动态、投资策略等知识，构建金融知识图谱，为投资者提供投资咨询、风险评估、产品推荐等服务，帮助用户做出更明智的投资决策.
5. 教育知识辅导：针对不同学科的知识点、教材内容、教学资源等，构建教育知识图谱，为学生提供个性化学习辅导、知识点解析、习题推荐等服务，辅助学生提高学习效率和成绩.
6. 企业知识管理：企业内部积累的业务知识、产品信息、客户数据等，通过构建企业知识图谱，实现知识的系统化管理和共享，支持员工在产品开发、市场营销、客户服务等工作中的知识检索和应用，提升企业运营效率和创新能力.

KAG项目入口

• GitHub代码库：https://github.com/OpenSPG/KAG
• arXiv技术论文：https://arxiv.org/pdf/2409.13731