跳转至主要内容
CMO专栏

代理式AI 架构:从单个代理到生产级代理系统

2026年8月25日

从AI 模型到代理:是什么让一个系统具有“代理性”?

AI 近年来,机器学习模型和大型语言模型(LLMs)取得了令人难以置信的进步,在自然语言处理方面表现得尤为突出,不仅能够生成语言,还能理解语言。但当前正在发生的真正变革,是现代智能自适应智能体(AI )的发展,它们能够规划并执行端到端的任务。试想一下,这与早期的专用智能系统(AI )有何不同——例如1997年IBM的“深蓝”(Deep Blue)国际象棋引擎,它虽然能轻松击败人类冠军,但仅专注于一项特定任务。 相比之下,如今的随机化、会使用工具的智能体(AI )能够规划并执行诸如“下周预订一次前往旧金山的旅行,预算不超过1,000美元”这类模糊的端到端任务,这些任务需要多个步骤,且在过程中需要自主决策。

我最近获得了克劳德(Claude)认证架构师(基础级)资格,这一过程对我理解代理式AI 的结构、复杂性及机遇大有裨益。我迫不及待地想分享其中的一些核心原则。

首先,让我们来定义基于代理的AI 架构与传统AI 架构有何不同。代理的关键特征在于,它们能够利用模型、外部工具和内存来扩展其所基于的大型语言模型的基本能力。 代理通过自主规划目标来运作,其工作重点在于将复杂的工作流分解为多步骤任务,并且在许多情况下还能实现并行执行。正如我们将要讨论的那样,这一特点正是代理架构最具吸引力的方面之一:通过使用具有专业技能和特定目标的不同代理,协调器可以有效地分配任务,然后整合结果。这比试图通过单个用户请求来解决复杂问题要强大得多。

另一种理解智能体的角度,是看它们能够处理哪些类型的查询。大型语言模型(LLM)可以接收单个查询,并通常能给出令人印象深刻且看似经过深思熟虑的结果。 另一方面,代理系统则能接收解决复杂任务的指令,这需要一个从“感知→推理→行动→观察→更新记忆→重复”直至达成目标的 迭代循环。此外,代理系统并不局限于大型语言模型(LLM)本身,而是能够连接外部系统以扩展知识并采取行动。根据用户偏好,许多代理系统只需极少的人工干预即可运行。

从商业角度来看,近年来,随着各组织试图从聊天式辅助工具转向自主工作流,具有代理能力的AI 系统已成为企业讨论中的主流话题。随着代理技能在企业级范围内接触到公司数据,其在任务自动化以及处理日益复杂的任务方面的能力,可以显著拓宽其在企业各个领域的应用范围。

AI 核心代理架构组件

大多数基于代理的AI 架构可分解为四项核心能力,不过根据所解决问题的具体性质,每种类型可由一个或多个代理构成。

  • 一个协调层 负责管理整体任务,并将组件分配给子代理
  • 认知 这些任务的核心在于理解任务要求和意图,并处理通常具有重要价值的数据源,以从中提取相关信息
  • 推理 推理任务需要理解任务内容,并利用推理所需的素材来确定最佳行动方案
  • 面向操作的任务 连接到向外部发布其可用能力的外部服务(通常通过 MCP(模型上下文协议)服务器),以支持外部操作。

在接下来的章节中,我们将深入探讨这些组件,以了解代理式AI 系统是如何构建的,以及成功且高效的代理式系统所需的诸多独特设计要点。本文无意涵盖用于连接代理式系统的各种技术标准和接口,也不涉及许多分布式系统的复杂环境,而是旨在对当前采用的关键权衡以及典型设计方法进行总体介绍。

感知:代理系统如何摄取并理解世界

感知是代理AI 理解世界的“感官”层。为了理解当前任务的背景,代理需要读取并理解多种不同类型的数据:

  • 自然语言输入,例如聊天输入、电子邮件和服务工单
  • 非结构化文档输入,例如 规格说明书、网页、PDF 等。将此类高密度、非结构化的内容转化为代理架构可理解的输入尤为重要,因为这能使AI 中的代理具备人类通常所感知的那种上下文。
  • 结构化数据输入,例如 SQL 数据库、传感器数据、音频、视频或其他对象存储格式。

对于所有数据类型而言,其根本挑战在于将它们转换为推理引擎能够高效处理的结构化表示形式。

协调与推理:AI 智能体的认知引擎

代理架构的核心是协调与推理层。推理层是 AI 代理的“大脑”,负责选择目标、将其分解为计划、选择工具,并决定任务何时“完成”。目前,大型语言模型(LLMs,如GPT‑4.1、Gemini Pro、Claude、LLaMA的各种变体等)是典型的推理引擎,并构成了该架构的核心。

单次大型语言模型(LLM)调用与代理式方法的区别在于:推理层(包括总体协调器)会将任务分解为子目标,这些子目标决定何时将任务委托给其他代理、何时向人类求助、何时使用工具,以及何时因目标无法达成而终止任务。 在代理系统中,多代理架构中的每个子代理都会被赋予一项比总体任务更聚焦的具体任务。该具体任务配有专属的角色、系统提示和技能,以帮助代理集中精力并更有效地完成其专项任务。

根据任务的不同,推理代理经过精心设计,以确保其工作范围在大型语言模型(LLM)的限制内能够实现。当提示长度达到上限、数据以非结构化格式提供,或者任务规模过大时,可能会出现“幻觉”或“遗忘”关键事实的情况。 在这些情况下,可能需要采用多代理工作流:将大型任务重新分解为由串行或并行代理处理的较小子任务。多代理协作的复杂性在于子任务的管理,这增加了协调器的协调复杂度。

记忆:代理式AI 系统的短期和长期上下文

基于代理的AI 也必然依赖于持久化内存,以确保代理能够跟踪其任务进度,尤其是在代理随时间推移、跨越多个步骤、会话或连续任务进行操作时。其中最简单的是对话历史记录,由于大型语言模型(LLMs)本质上是无状态的,因此代理框架必须将对话历史记录回传给推理层。需要进行结构化的上下文管理,以确保随着任务的推进,对话不会溢出。

除了对话记录本身的短期记忆外,还有存储在持久化存储之外的长期记忆,例如 用户档案、过往事件、项目历史记录,或是通过向量数据库、知识图谱或关系型/SQL 存储实现的领域特定文档。借助长期记忆,AI 代理能够构建 RAG(检索增强生成)管道,例如,客户支持专员可以借此检索过往工单和购买记录,从而提供个性化回复。

行动:工具的使用、执行及其在现实世界中的影响

代理式AI 的核心在于,能够通过调用工具、API、数据库或其他代理,以及生成代码、工单或配置变更,将AI 与决策联系起来,从而实现现实世界中的变化。截至本文撰写之时,工具通常由MCP提供,该组件会发布可供AI 使用的工具,并为输入和输出提供结构化的模式。

工具的使用具有重要影响。目前,如果为代理加载过多工具或提供过于复杂的模式,可能会导致混淆,从而使推理引擎选择错误的工具或导致上下文窗口过载。将代理细分为专门执行特定任务的单元,并为每个单元配备与其子任务相关的工具,是确保取得更好成效的一种策略。

同样重要的是确保足够的安全性,使代理只能访问经批准的工具,并在存在不确定性、高风险、重大财务影响等情况时由人工进行监督。错误处理至关重要,既要确保工具能够成功执行,也要确保在工具执行失败时,代理能妥善处理该情况(例如进行受控重试),同时还要设置防护措施,以确保工具调用符合业务逻辑或安全策略。

系统架构类型:单智能体、多智能体和混合系统

智能体系统的复杂程度各不相同。如今,单智能体系统可处理针对性强的任务流程;多智能体系统则用于解决复杂或大规模的问题;而混合架构则在各层级上融合了人类智能体和AI 智能体。

  • 单代理架构: 一个AI 代理,拥有独立的推理能力、记忆和工具,并在循环中运行。典型的例子包括客户支持代理、文档处理的内部助手以及报告生成代理。
  • 多智能体架构: 这类架构由多个专业化智能体(例如“研究者”、“规划者”、“执行者”、“评审者”)组成,它们通过消息进行协调。多智能体人工智能的设计模式包括分层结构(协调者 + 执行者)、去中心化的点对点网络,以及领导权可根据任务上下文动态转换的混合模式。每种模式各有其优势和复杂性。

最佳实践是先从单代理系统开始,仅在需要解决特定的额外需求(例如:专业化、并行化、验证等)时才转向多代理系统,以避免不必要的复杂性。

展望

代理计算(AI )能够加速新功能的开发,目前已在众多行业和应用场景中得到广泛部署。随着越来越多的服务发布MCP接口(允许代理访问这些服务,无论是进行输入还是输出操作),代理的科学理论与功能正在迅速演进。Sonatus 正在该领域进行大量投资,并交付复杂的多代理系统,以支持从投产前 测试和验证售后服务的各类用例。 我们对这种新型计算方式的潜力及其为客户带来的可能性感到兴奋。

返回顶部