大语言模型智能体检索增强生成

大语言模型（LLMs）凭借生成类人文本和进行自然语言理解的能力，彻底改变了人工智能（AI）领域。然而，它们对静态训练数据的依赖，限制了其应对动态实时查询的能力，导致输出结果可能过时或不准确。检索增强生成（RAG）作为一种解决方案应运而生，它通过集成实时数据检索来增强大语言模型，以提供与上下文相关的最新回复。尽管传统RAG系统前景广阔，但受限于静态工作流程，缺乏多步推理和复杂任务管理所需的适应性。

智能体检索增强生成（Agentic RAG）通过将自主人工智能智能体嵌入RAG流程，克服了这些限制。这些智能体利用智能体设计模式（反思、规划、工具使用和多智能体协作）来动态管理检索策略，迭代完善上下文理解，并通过从顺序步骤到自适应协作等明确定义的操作结构来调整工作流程。这种集成使智能体RAG系统在各种应用中具备无与伦比的灵活性、可扩展性和上下文感知能力。

本综述全面探讨了智能体RAG，从其基本原理和RAG范式的演变入手，详细介绍了智能体RAG架构的分类，突出了其在医疗、金融和教育等行业的关键应用，并研究了实际的实施策略。此外，还讨论了在扩展这些系统、确保符合伦理的决策制定以及优化实际应用性能方面面临的挑战，同时深入介绍了用于实现智能体RAG的框架和工具。

研究背景：

大语言模型在自然语言处理方面能力卓越，但依赖静态预训练数据，存在信息过时、易产生幻觉回复、无法适应动态现实场景等问题。传统检索增强生成（RAG）系统虽能集成实时数据检索，但在上下文集成、多步推理、可扩展性和延迟方面存在挑战。

实现设计：

智能体RAG系统分为多种架构，如单智能体RAG通过单个智能体管理信息检索、路由和集成；多智能体RAG将职责分配给多个专门智能体并行处理；分层智能体RAG采用结构化多层方法，较高级别智能体监督下级智能体；还有智能体校正RAG、自适应智能体RAG、基于图的智能体RAG（如Agent – G、GeAR）以及智能体文档工作流程等，各架构通过不同组件和流程实现其功能。

实验结果：

文章通过在多个领域的应用案例展示效果，如在客户支持领域提高回复质量和运营效率；医疗保健领域实现个性化护理、节省时间和提高准确性；法律领域提高合同审查效率、识别风险；金融领域提供实时分析、缓解风险；教育领域实现定制学习路径等，证明智能体RAG系统在多领域的有效性和变革潜力。

引言
大语言模型（LLMs），如OpenAI的GPT-4、谷歌的PaLM和Meta的LLaMA，凭借其生成类人文本和执行复杂自然语言处理任务的能力，极大地改变了人工智能（AI）领域。这些模型在包括对话智能体、自动内容创建和实时翻译在内的多个领域推动了创新。最近的进展将它们的能力扩展到了多模态任务，如图文生成和文本转视频生成，使得能够根据详细提示创建和编辑视频及图像，这拓宽了生成式人工智能的潜在应用范围。

尽管取得了这些进展，但大语言模型由于依赖静态预训练数据而面临显著的局限性。这种依赖常常导致信息过时、生成幻觉式回复，并且无法适应动态的现实场景。这些挑战凸显了对能够集成实时数据并动态优化回复以保持上下文相关性和准确性的系统的需求。

检索增强生成（RAG）作为应对这些挑战的一种有前景的解决方案出现。通过将大语言模型的生成能力与外部检索机制相结合，RAG系统提高了回复的相关性和及时性。这些系统从知识库、应用程序编程接口（APIs）或网络等来源检索实时信息，有效地弥合了静态训练数据与动态应用需求之间的差距。然而，传统RAG工作流程仍然受到其线性和静态设计的限制，这限制了它们执行复杂多步推理、融入深度上下文理解以及迭代优化回复的能力。

智能体的发展显著增强了人工智能系统的能力。现代智能体，包括由大语言模型驱动的智能体和移动智能体，是能够感知、推理并自主执行任务的智能实体。这些智能体利用反思、规划、工具使用和多智能体协作等智能体模式，来提高决策能力和适应性。

此外，这些智能体采用提示链接、路由、并行化、协调器 – 工作器模型和评估器 – 优化器等智能体工作流程模式，来构建和优化任务执行。通过整合这些模式，智能体RAG系统可以有效地管理动态工作流程，并解决复杂的问题求解场景。RAG与智能体智能的融合产生了智能体检索增强生成（Agentic RAG），这是一种将智能体集成到RAG流程中的范式。智能体RAG支持动态检索策略、上下文理解和迭代优化，实现了自适应且高效的信息处理。与传统RAG不同，智能体RAG使用自主智能体来协调检索、筛选相关信息并优化回复，在需要精确性和适应性的场景中表现出色。智能体RAG的概述见图1。

本综述探讨了智能体RAG的基本原理、分类和应用。全面介绍了RAG范式，如朴素RAG、高级RAG和图RAG，以及它们向智能体RAG系统的演变。主要贡献包括对智能体RAG框架的详细分类、在医疗、金融和教育等领域的应用，以及对实施策略、基准测试和伦理考量的见解。

本文结构如下：第2节介绍RAG及其演变，突出传统方法的局限性。第3节详细阐述智能体智能的原理和智能体模式。第4节详细介绍智能体工作流程模式。第5节给出智能体RAG系统的分类，包括单智能体、多智能体和基于图的框架。第6节对智能体RAG框架进行比较分析。第7节研究智能体RAG的应用，第8节讨论实施工具和框架。第9节关注基准测试和数据集，第10节总结智能体RAG系统的未来发展方向。

图1 智能体RAG概述

2. 检索增强生成基础
2.1 检索增强生成（RAG）概述
检索增强生成（RAG）是人工智能领域的一项重大进展，它将大语言模型（LLMs）的生成能力与实时数据检索相结合。虽然大语言模型在自然语言处理方面展现出了卓越的能力，但它们对静态预训练数据的依赖往往会导致回复过时或不完整。RAG通过从外部源动态检索相关信息并将其融入生成过程，解决了这一限制，从而实现了上下文准确且最新的输出。

2.2 RAG的核心组件
RAG系统的架构集成了三个主要组件（图2）：

检索

：负责查询外部数据源，如知识库、API或向量数据库。先进的检索器利用密集向量搜索和基于Transformer的模型来提高检索精度和语义相关性。

增强

：处理检索到的数据，提取并总结最相关的信息，使其与查询上下文保持一致。

生成

：将检索到的信息与大语言模型的预训练知识相结合，生成连贯、符合上下文的回复。

图2 RAG的核心组件

2.3 RAG范式的演变
检索增强生成（RAG）领域已经有了显著的发展，以应对现实世界应用中日益增长的复杂性，在这些应用中，上下文准确性、可扩展性和多步推理至关重要。从最初简单的基于关键词的检索，已经发展到复杂、模块化且自适应的系统，能够集成各种数据源和自主决策过程。这种演变强调了RAG系统高效处理复杂查询的需求不断增长。

本节研究RAG范式的发展历程，介绍关键的发展阶段——朴素RAG、高级RAG、模块化RAG、图RAG和智能体RAG，以及它们的定义特征、优势和局限性。通过了解这些范式的演变，读者可以认识到检索和生成能力的进步及其在各个领域的应用。

2.3.1 朴素RAG
朴素RAG是检索增强生成的基础实现。图3展示了朴素RAG简单的检索 – 读取工作流程，主要侧重于基于关键词的检索和静态数据集。这些系统依赖于简单的基于关键词的检索技术，如词频 – 逆文档频率（TF-IDF）和BM25，从静态数据集中获取文档。然后，检索到的文档用于增强语言模型的生成能力。

图3 朴素RAG概述

朴素RAG的特点是简单易实现，适用于涉及基于事实的查询、上下文复杂度较低的任务。然而，它存在一些局限性：

缺乏上下文感知

：由于依赖词汇匹配而非语义理解，检索到的文档往往无法捕捉查询的语义细微差别。

输出碎片化

：缺乏先进的预处理或上下文整合，常常导致回复不连贯或过于笼统。

可扩展性问题

：基于关键词的检索技术在处理大型数据集时存在困难，往往无法识别最相关的信息。

尽管存在这些局限性，朴素RAG系统为检索与生成的集成提供了关键的概念验证，为更复杂的范式奠定了基础。