说明：最初在BigDataWire上分享。

AI代理程序将通过自主解决问题、灵活的工作流程和可扩展性来改变企业运营。但真正的挑战并非仅仅在于构建更好的模型而已。

代理需要访问数据和工具，并能够在不同系统之间共享信息，其输出应能够被多个服务使用，包括其他代理。这并不是一个AI问题，而是一个基础设施和数据互通性的问题。这不仅仅涉及将命令链简单拼接，更需要一个由数据流驱动的事件驱动架构（EDA）。

正如HubSpot CTO Dharmesh Shah所说，“智能代理是新的应用。”要实现这一潜力需要从一开始就投资正确的设计模式。本文探讨了为何EDA是扩展智能代理并释放其在现代企业系统中全部潜力的关键（EDA指的是...）。

要完全理解EDA对未来的AI至关重要，我们必须首先回顾AI的发展历程。

AI的发展历程

AI已经经历了两个不同的波段，现在正进入第三个波段。虽然带来了新的可能，但也存在关键的限制。

AI的首次浪潮：预测性模型的应用

人工智能的第一波浪潮主要集中在传统的机器学习上，侧重于定义明确的任务的预测。

传统的机器学习流程

构建这些模型需要大量的专业技能，因为它们是为特定使用场景量身打造的。这些模型具有领域特性，其领域特性嵌入在训练数据中，这使它们变得僵化且难以重新利用。将一个模型适应到新的领域通常意味着从零开始——这种方法缺乏扩展性，而且减缓了采用速度。

AI的第二波：生成式模型

生成人工智能已经带来了一个转折点，这主要是因为它采用了深度学习技术。

这些生成模型不再局限于单一领域，而是在大量且多样化的数据集上训练，使它们能够适应各种情境。它们能够生成文本、图像，甚至视频，开启了令人兴奋的新应用场景。然而，这也带来了一些挑战。

生成模型是固定在时间点上的——无法纳入新的或动态的信息——并且难以适应。微调成本高昂且容易出错。微调需要大量的数据、大量的计算资源和机器学习专业知识，这在许多情况下是不切实际的。此外，因为这些模型是基于公开数据训练的，它们无法访问特定领域的信息，限制了它们准确回答需要上下文问题的能力。

例如，假设你让一个生成模型为你推荐一个根据用户的个人健康历史、所在地点和财务目标量身定制的保险计划。

简单的提示和响应与大模型的交互

在这种情况下，您向大型语言模型提问，它会生成回应。显然，由于模型无法访问相关用户数据，它无法给出准确建议。没有这些数据，回应要么很泛泛，要么就是错的。

AI复合体连接了空隙

为了克服这些限制，化合物AI系统将生成模型与其他组件结合在一起，如程序逻辑、数据检索机制和验证层。这种设计使AI能够结合各种工具，抓取相关数据并定制化输出，这些都是静态模型所不具备的功能。

例如，在保险推荐的那个例子里面：

• 有个机制会从安全的数据库里把用户的健康和财务信息取出来。
• 这些信息会被加到大语言模型构建提示时用的上下文中。
• 然后大语言模型会用这个提示来生成一个准确的回答。

简单RAG结构

这一过程被称为检索增强生成模型（RAG），通过动态地将相关数据融入模型的工作流程中，弥补了静态AI与实际需求之间的差距。

虽然 RAG 能有效处理这类任务，但它依赖于 固定的工作流程，这意味着每一种交互和执行路径都必须提前定义好。这种刚性使其难以应对更复杂或多变的任务，因为这使得无法将所有工作流程详尽地编码进去。手动编码所有可能的执行路径既耗时又最终会限制其灵活性。

固定流量架构局限性的存在促使了人工智能第三次浪潮的到来：代理型系统。

瑞典炒菜 瑞典炒菜改为：代理型AI的崛起 代理型AI的崛起

虽然人工智能已经取得了很大进展，我们却遇到了固定系统和大型语言模型的局限性。

据报道，尽管谷歌的Gemini使用了更多的训练数据，仍然未能达到内部预期。（详见《深度学习AI》第276期）OpenAI也报告了类似的结果，他们发现GPT AI改进的速度变慢了，所以调整了策略。（《信息公司》文章）OpenAI还报告说他们下一个版本的Orion模型也有类似的结果。

Salesforce CEO Marc Benioff最近在《华尔街日报》的“未来的一切”播客中表示，我们已经达到了大规模语言模型（LLM）所能做的极限。他认为未来将属于自主代理——可以思考、适应和独立行动的系统，而不是像GPT-4那样的模型。

代理带来了新东西：灵活适应情境的工作流程。与固定路径不同，代理系统能够实时确定下一步，适应当前情况。这使它们非常适合解决企业当前面临的不可预测和相互关联的问题。

控制逻辑，编程控制 vs 代理控制

代理人颠覆了传统的控制逻辑。

与其让僵化的程序规定每一步行动，代理利用大模型来做决策。它们能进行推理，使用工具，访问内存，所有这些都是动态的。这样的灵活性让流程可以实时调整，使得代理比那些基于固定逻辑的程序强大得多。

代理架构（Agent架构）（受 https://arxiv.org/pdf/2304.03442 启发）

设计模式如何打造更聪明的智能代理？

AI代理不仅依靠其核心功能，还依靠设计模式来优化它们的工作流和交互，从而获得力量。这些模式让代理能够应对复杂问题，适应不断变化的环境，并有效协作。

让我们来谈谈，一些常用的能够提高代理效率的设计模式。

反省：通过自我评估实现自我提升

自我反省使代理能够评估自己的决定，并在采取行动或提供最终答复前提高输出质量。这一能力使他们能够发现并纠正错误，优化他们的推理过程，并确保更好的结果。

代理模式中的反射机制

工具的使用扩展了智能代理的功能

与外部工具交互可以扩展代理的功能，使其能够执行如数据检索、流程自动化或确定性工作流执行等任务。这对需要高度精确性的操作特别有用，例如数学计算或数据库查询，这些操作中容不得半点误差。工具的使用连接了灵活决策与可预测、可靠执行之间的桥梁。

代理使用的工具运用模式

让计划把目标变成行动

具备规划能力的代理可以将高层次目标拆解为可操作的步骤，将任务按逻辑顺序组织起来。这种设计模式对于解决多步骤问题，或管理有依赖关系的工作流程非常重要。

为智能代理规划设计模式

多代理合作：模块化思考

多智能体系统采用模块化的方法来解决问题，通过将特定任务分配给专门的智能体。这种方法提供了灵活性：您可以使用较小的语言模型（SLMs）来提高特定任务智能体的效率并简化内存管理。模块化设计通过让每个智能体专注于自己的特定任务，来降低它们的复杂性。

一种相关技术是专家混合模型（MoE），它在一个单一框架内使用专门的子模型，这些子模型被称为“专家”。就像多代理协作一样，MoE 动态地将任务分配给最相关的专家，从而优化计算资源并提升性能。这两种方法都强调模块化和专业化——无论是多个代理独立工作，还是通过任务特定的路由在一个统一的模型中实现。

就像在传统的系统设计中一样，把问题拆分成模块化组件可以使其更容易维护、扩展和适应变化。通过合作，这些专门的代理一起分配任务和职责，并协调行动以便更有效地应对复杂的挑战。

适用于多智能体的协作设计模式

简而言之，代理不仅仅执行工作流；它们改变了我们看待它们的方式。它们是构建可扩展、适应性强的AI系统的下一步——超越了传统架构的限制及当前大语言模型的局限。

Agentic RAG：自适应和上下文感知的检索系统

代理式RAG通过使其更加动态和情境化来提升RAG。代理不再依赖固定的流程，而是根据实时需求动态调整。实时决定所需数据、数据位置及如何优化查询以适应当前任务。这种灵活性使得代理式RAG非常适合处理复杂且多步骤的工作流程，要求响应性和适应性。

例如，比如一个代理人制定营销策略时，可能会从CRM中拉取客户数据，利用API收集市场趋势，并根据新信息不断调整策略。通过保存上下文记忆并不断迭代查询，代理人生成更准确和相关的输出。代理式RAG结合了检索、推理和行动，实现了更加高效的工作流程。

一种名为代理型RAG（检索、代理、生成）的设计模式 (A design pattern called the proxy-based RAG (search, proxy, generate)).

智能代理面临的规模化挑战

使代理能够扩展——无论是单个代理还是协作系统——关键在于它们是否能够轻松地访问和共享数据。代理需要从多个渠道收集信息，包括其他代理、工具和外部系统等，以便做出决策并采取行动。

单个代理的依赖

将代理人连接到他们所需的工具和数据本质上是分布式系统领域中的一个挑战。这种情况反映了在设计微服务时遇到的挑战，即组件必须高效地通信，避免产生瓶颈或僵化的依赖关系。

像微服务一样，代理程序必须高效地进行通信，并确保它们的输出在整个系统中发挥作用。而且，像任何服务一样，它们的输出不应该仅仅回流到AI应用，还应该流入数据仓库、CRM、CDP和客户成功平台等关键系统中。

当然，你可以通过 RPC 和 API 将代理和工具连接起来，但这会导致系统过于紧密耦合。紧密耦合会使得系统更难扩展、适应或支持多个数据使用者。代理需要灵活。它们的输出必须能够无缝地融入其他代理、服务和平台，而不将所有内容锁定在僵硬的依赖关系中。

解决方法是啥？

松耦合通过事件驱动架构实现。它是支撑代理程序共享信息、实时行动并集成到更广泛生态系统中的基石，同时避免了紧耦合带来的麻烦。

事件驱动架构：了解入门

在早期，软件系统是单体系统。所有功能都存在于一个紧密集成的代码库中。虽然简单易构建，但随着系统的不断膨胀，它变得越来越难以维护。

缩放是个粗糙的手段：你得把整个应用程序都放大，哪怕只需要其中一部分。这种效率低下造成了臃肿的系统和脆弱的架构，无法应对增长的挑战。

微服务改变了这一切。

通过将应用程序分解为更小的、独立的可部署组件，团队可以扩展和更新特定部分，而无需改动整个系统的任何部分。但这带来了新的问题：这些小服务如何有效地沟通？

如果我们通过直接的 RPC 或 API 调用来连接服务，就会造成一个巨大的依赖混乱。一旦某个服务出了问题，相关节点都会受到影响。

高度耦合的微服务

EDA解决了这个问题。

与紧密耦合的同步通信不同，EDA 让组件能够通过事件来异步通信。服务不用等着对方，而是实况响应，实时作出反应。EDA（事件驱动架构）中的服务在实况中实时作出反应，而不是等待对方服务。

事件驱动的架构

这种方法不仅让系统变得更加强韧和灵活，能够应对现代工作流程的复杂性，而且它还是系统在高压情况下生存的策略。

早起社交巨头的兴衰史

早期社交网络如Friendster的兴衰（点击链接了解详情：https://highscalability.com/friendster-lost-lead-because-of-a-failure-to-scale/）表明了可扩展架构的重要性。Friendster在早期迅速积累了大量用户，但其系统无法承受这种需求。性能问题使用户逐渐流失，最终导致平台的失败。

另一方面，Facebook 并不仅仅是因为它的功能而繁荣，更是因为它投资了可扩展的基础架构。它没有因成功而垮掉，而是崛起并称霸。

今天，我们可能看到类似的故事在AI代理身上再次上演。

就像早期的社交媒体，智能代理也将经历快速的增长和被采用的过程。仅仅构建智能代理是不够的。真正的问题在于你的架构是否能够应对分布式数据、工具集成以及多代理协作带来的复杂性。如果没有正确的基础，你的智能代理栈可能会如同早期社交媒体中的失败案例一样土崩瓦解。

基于事件的未来智能代理

AI的未来不仅仅是创造更智能的代理，更是创建能够随技术进步而进化和扩展的系统。随着AI栈和底层模型的快速变化，僵化的设计很快就会成为创新的障碍。为了保持同步，我们需要架构能优先考虑灵活性、适应性和无缝集成。EDA是这一未来的基石，让代理在动态环境中茁壮成长，同时保持其弹性和可扩展性。

带有信息依赖性的代理微服务

代理相当于微服务：它们是自主且解耦的，并能够独立完成任务。但代理的功能更强大。

尽管微服务通常处理独立的操作，智能代理则依赖于信息丰富的上下文环境来进行推理、决策和协作。这为管理依赖关系和确保实时数据的流动提出了独特的管理要求。

例如，一个代理可能会从CRM中提取客户数据，分析实时数据，并同时利用外部工具——并将更新与其他代理共享。这些互动场景需要一个系统，使得代理可以独立工作，但仍可以流畅地交换关键信息。

EDA通过充当数据的“中枢神经系统”来解决这个问题。它允许代理异步广播事件，确保信息能够动态流动且不形成僵化的依赖。这种解耦使代理能够独立运行并无缝集成到更广泛的流程和系统中。

基于事件的AI智能代理架构

在保持上下文完整的情况下进行脱耦

构建灵活的系统并不意味着忽略上下文环境。高度耦合的设计常常将工作流程绑定到特定的管道或技术上，迫使团队处理瓶颈和依赖。栈中任何部分的变动都会影响整个系统，减缓创新和扩展的步伐。

EDA摆脱了这些限制。通过解耦工作流程并实现异步通信，EDA允许堆栈中的各个组件——代理程序、数据源、工具和应用层——独立运作。

比如说，今天我们使用的 AI 技术栈。MLOps 团队负责管理 RAG 这样的管道，数据科学家选择模型，而应用程序开发者构建界面和后端。这种紧密的设计让这些团队之间产生不必要的依赖关系，让交付变慢，也让适应新工具和技术变得更困难。

相比之下，事件驱动系统则确保工作流保持松散耦合，使每个团队都可以独立进行创新。

应用层不需要理解AI的内部机制——它们只需在需要时使用AI的结果。这种解耦还确保AI洞察不会被孤立起来，使输出更自然。代理的输出可以无缝集成到CRM、CDP、分析工具等中，创建一个统一且灵活的生态系统。

事件驱动架构的代理扩展规模

当我们转向智能代理系统时，EDA起到了关键的作用。EDA是指……

它的能力在于可以解耦工作流程，同时支持实时通信，确保智能代理能够大规模高效运行。如前所述此处，如Kafka这样的平台就体现了EDA在智能代理驱动系统中的优势。

• 水平扩展：Kafka 的分布式设计支持在不遇瓶颈的情况下添加新的代理或消费者，确保系统可以轻松扩展。
• 低延迟：实时事件处理功能使代理能够即时响应变化，确保快速和可靠的流程。
• 松耦合：通过 Kafka 主题通信，而不是直接依赖，代理可以保持独立和可扩展。
• 事件持久化：持久化的消息存储保证了消息在传输过程中不会丢失，这对于保证工作流的高可靠性至关重要。

代理作为代理人，在实时流媒体平台上的事件生产者和消费者

数据流使数据在整个业务中持续流动。一个中央神经系统（或数据中台）充当实时数据流动的统一支撑，无缝连接各种系统、应用和数据源，以实现高效的内部沟通和决策。

这种架构非常契合Anthropic的MCP（Model Context Protocol）这样的协议。

MCP 提供了一种将 AI 系统与外部工具、数据源和应用程序集成的通用标准，确保安全、无缝地访问最新信息。通过简化这些集成，MCP 减少了开发工作，同时支持上下文感知的决策。

EDA 解决了 MCP 想要解决的许多问题。MCP 需要无缝访问多种数据源的能力，实现实时响应和可扩展性，以支持复杂的多代理工作流程。通过解耦系统并启用异步通信的方式，EDA 简化了集成过程，并确保代理可以轻松消费和生成事件，而无需严格的依赖。

基于事件驱动的智能代理将重塑AI的未来

人工智能领域正在迅速变化，架构也必须随之发展。

企业也已经准备好了。一项Forum Ventures的调查（详情见https://www.forumvc.com/2024-the-rise-of-agentic-ai-in-the-enterprise）发现，48%的高级IT主管准备将AI代理集成到运营中去，其中33%表示他们非常有准备的。这表明企业对能够扩展并处理复杂性的AI代理有着明确的需求。

EDA，即事件驱动架构（Event-Driven Architecture），是构建灵活、恢复力强且可扩展的代理系统的关键。它解耦各组件，支持实时工作流程，确保代理能够无缝集成到更广泛的生态系统中。

采用EDA的人不仅不会只是生存下来，他们将在这波新的AI创新浪潮中获得竞争优势，从而脱颖而出。而其他人呢？他们可能会被甩在后面，成为自己无法扩大规模的牺牲品。