本文为产品和工程团队提供了构建智能代理的实用指南，涵盖了设计基础、工具定义、指令配置、编排模式及防护栏设置等方面，旨在帮助读者掌握基础知识，实现智能代理的可靠、高效与安全部署。

随着大型语言模型（LLM）在推理、多模态和工具使用方面的进步，一种新型的LLM驱动系统——智能代理（agents）应运而生。《A Practical Guide to Building Agents》这篇文章为产品和工程团队提供了关于如何构建首个智能代理的实用指南，总结了众多客户部署的经验，提炼出实用且可操作的最佳实践。文中介绍了智能代理的设计基础、工具定义、指令配置、编排模式以及防护栏的设置，旨在帮助读者掌握构建智能代理的基础知识，并逐步实现可靠、高效且安全的智能代理部署。

1. 什么是智能代理？

智能代理是一种能够独立完成任务的系统，与传统软件不同，它可以在用户授权下以高度独立性执行工作流程。智能代理的核心特征包括：

（1）利用LLM管理工作流程的执行和决策，能够识别工作流程何时完成，并在必要时主动纠正其行为。

（2）可以访问各种工具以与外部系统交互，动态选择合适的工具，且始终在明确定义的防护栏内运行。

2. 何时应该构建智能代理？

智能代理适用于传统确定性和基于规则的方法无法有效处理的复杂工作流程。例如，在支付欺诈分析中，智能代理能够像经验丰富的调查员一样评估上下文、识别细微模式，并在没有明确规则被违反的情况下发现可疑活动。

什么是B端产品经理？和C端产品经理有什么区别？

B端产品经理中的B是Business，商业的意思，B端产品经理首先就要理解这个职位的重要性，要设计出更适合这个项目需求的产品方案，B最终产品经理在日常工作中...

查看详情 >

智能代理特别适合以下场景：

（1）复杂决策：涉及细微判断、例外情况或上下文敏感决策的工作流程，例如客户服务中的退款审批。

（2）难以维护的规则：因规则集庞大且复杂而导致更新成本高昂或容易出错的系统，例如供应商安全审查。

（3）严重依赖非结构化数据：涉及解释自然语言、从文档中提取意义或与用户进行对话式交互的场景，例如处理家庭保险索赔。

3. 智能代理的设计基础

智能代理由三个核心组件构成：

（1）模型（Model）：为智能代理提供推理和决策能力的LLM。

（2）工具（Tools）：智能代理可以使用的外部函数或API，用于采取行动。

（3）指令（Instructions）：明确指导智能代理行为的指南和防护栏。

在选择模型时，建议先使用最强大的模型建立性能基线，然后尝试用较小的模型替换，以优化成本和延迟。工具可以扩展智能代理的能力，通过API或计算机使用模型与系统交互。定义工具时，应确保每个工具都有标准化的定义，并保持可重用性。

以下是使用 OpenAI 的 Agents SDK 时在代码中的示例。也可以使用首选库或直接从头开始构建来实现。

4. 指令配置

高质量的指令对智能代理至关重要。最佳实践包括：

（1）使用现有文档：将操作程序、支持脚本或政策文件转换为LLM友好的指令。

（2）提示智能代理分解任务：将复杂任务分解为更小、更清晰的步骤，减少歧义。

（3）定义明确的动作：确保每个步骤都对应一个具体动作或输出。

（4）捕获边缘情况：考虑用户可能提供不完整信息或提出意外问题的情况，并在指令中包含处理这些情况的条件步骤或分支。

5. 编排模式

编排模式是智能代理系统的核心架构设计，它通过合理分配任务和协调多个代理之间的协作，有效管理复杂工作流程，提升系统效率与灵活性，同时优化用户体验。编排模式分为单智能代理系统和多智能代理系统。单智能代理系统通过逐步添加工具来处理多种任务，保持复杂性可控。多智能代理系统则将工作流程分布在多个协调的智能代理之间。常见的多智能代理模式包括：

（1）管理器模式（Manager Pattern）：一个中心“管理器”智能代理通过工具调用协调多个专业智能代理，每个智能代理负责特定任务或领域。

（2）去中心化模式（Decentralized Pattern）：多个智能代理作为对等实体，根据其专业领域相互传递任务。

图1 单智能代理系统

图2 管理器模式

图3 去中心化模式

6. 防护栏

防护栏用于管理数据隐私风险和声誉风险，确保智能代理在生产环境中安全、可预测地运行。防护栏可以是基于LLM的、基于规则的（如正则表达式）或使用OpenAI调节API来验证用户输入。防护栏的类型包括：

（1）相关性分类器：确保智能代理的响应保持在预定范围内。

（2）安全性分类器：检测试图利用系统漏洞的不安全输入。

（3）个人身份信息（PII）过滤器：防止不必要的个人身份信息暴露。

（4）调节：标记有害或不适当的输入，维护安全、尊重的互动。

（5）工具安全评估：根据工具的风险评级触发自动化动作，例如在执行高风险功能前暂停进行防护栏检查或升级到人工处理。

如下图所示，通过结合基于 LLM 的护栏、基于规则的护栏（如正则表达式）以及 OpenAI 审核 API 来审查用户输入。

7. 结论

智能代理开启了工作流自动化的时代，能够处理复杂决策、非结构化数据或脆弱的基于规则的系统。构建可靠的智能代理需要从强大的模型、明确定义的工具和清晰的指令开始，并根据复杂性选择合适的编排模式。防护栏在每个阶段都至关重要，从输入过滤、工具使用到人工干预，确保智能代理的安全运行。成功的部署不是一蹴而就的，建议从小规模开始，通过真实用户验证逐步扩展能力。