AI 代理在触达客户前应遵循哪些审批规则？

在 AI 代理触达客户之前，必须遵循一套明确的人工主导审批规则：任何面向客户的输出都需经过人工审核，除非该操作已被预先批准为低风险且可逆。AI 代理（AI agent）是指能够自主执行任务、做出决策并与外部系统交互的软件实体；人工主导的 AI 运营模型（human-led AI operating model）意味着人类对关键决策拥有最终决定权；人机回环工作流（human-in-the-loop AI workflow）则是在 AI 执行过程中嵌入人工检查点。这些规则的核心是：将每个步骤分类为“仅人工”“AI 辅助”或“代理可执行”，并为代理可执行步骤设置明确的权限、日志和升级路径。

本文提供一个实用决策框架，帮助创始人和运营负责人梳理工作流，确保 AI 代理在客户面前的行为可控、可追溯、可问责。我们不会讨论具体技术实现，而是聚焦治理原则和操作步骤。

三类操作：仅人工、AI 辅助、代理可执行

任何工作流中的步骤都可以归入以下三类之一。这种分类是审批规则的基础，因为它决定了人类介入的程度和时机。

• 仅人工（Human only）：涉及重大财务承诺、法律约束、品牌声誉或不可逆后果的步骤。例如，签署合同、批准大额退款、发布官方声明。这些步骤必须由人类完成，AI 只能提供信息支持。
• AI 辅助（AI assisted）：AI 生成草稿、建议或分析，但人类必须审核并批准后才能使用。例如，AI 起草回复客户的邮件，但发送前需人工确认；AI 分析客户情绪，但后续行动由人决定。
• 代理可执行（Agent executable）：低风险、可逆、有明确规则且后果可控的步骤。例如，在 CRM 中自动记录交互、发送标准化的确认通知、更新内部状态。这些步骤可以交给 AI 代理自动完成，但必须满足预设的权限和日志要求。

分类不是一成不变的。随着信任的建立和监控的完善，某些“AI 辅助”步骤可以降级为“代理可执行”，反之亦然。关键是每次变更都要经过正式评审，并记录在案。

映射工作流的五个步骤（以入站线索为例）

以下是一个说明性示例，展示如何映射一个入站线索处理流程。这不是客户案例，而是用于演示方法的虚构场景。

1. 定义目标：将入站线索转化为合格商机，并确保响应及时、信息准确。
2. 列出步骤：接收线索 → 记录信息 → 初步评分 → 分配销售 → 发送欢迎邮件 → 安排跟进。
3. 识别输入、决策、交接、系统、权限和证据：每个步骤需要什么数据？谁做决定？使用哪些工具？需要什么权限？如何记录？
4. 分类每个步骤：接收线索（代理可执行，自动从表单导入）；记录信息（代理可执行，写入 CRM）；初步评分（AI 辅助，AI 给出分数，但销售主管确认）；分配销售（仅人工，基于地域和负载）；发送欢迎邮件（代理可执行，使用模板，但需人工审核模板）；安排跟进（AI 辅助，AI 建议时间，销售确认）。
5. 定义审批、日志和升级路径：对于代理可执行步骤，设置权限（如只能写入指定字段）、日志（记录操作时间和内容）和升级路径（如异常时通知主管）。对于 AI 辅助步骤，明确人工审核的时限和标准。

这个映射过程帮助团队清晰地看到哪里可以自动化，哪里必须保留人工控制。它也是 AI 业务自动化审计（AI Business Automation Audit）的核心产出之一。

代理行动前的必备审批、日志与升级机制

在允许 AI 代理执行任何面向客户的操作之前，必须建立以下机制。这些机制是审批规则的落地保障，也是审计和合规的基础。

• 权限控制：代理只能访问完成其任务所必需的最小数据集和系统功能。例如，代理可以读取客户姓名和邮箱，但不能查看支付信息；可以创建草稿邮件，但不能直接发送。
• 操作日志：每次代理操作都必须记录时间、操作者（代理 ID）、动作、输入数据和输出结果。日志应不可篡改，并保留足够长的时间以供审计。
• 审批工作流：对于 AI 辅助步骤，定义谁审批、审批时限、审批标准。例如，销售主管必须在 2 小时内审批 AI 生成的报价，否则自动升级给经理。
• 升级路径：当代理遇到异常情况（如数据缺失、置信度低、规则冲突）时，必须自动暂停并将任务转交给指定人类。升级路径应明确责任人、响应时间和处理流程。
• 定期审查：至少每季度审查一次代理的操作日志和审批记录，评估分类是否仍然合适，权限是否过度，并调整规则。

这些机制确保 AI 代理的行为始终在人类的监督之下，并且任何问题都可以追溯到源头。它们也符合 NIST AI 风险管理框架和 OECD AI 原则中关于透明度和问责制的要求。

常见问题解答

以下是一些创始人常问的问题，基于上述框架给出简洁回答。

如何决定一个步骤是“仅人工”还是“AI 辅助”？

如果步骤的后果不可逆、涉及重大财务或法律风险，或者需要人类判断和同理心，则应归类为“仅人工”。如果 AI 可以提供有价值的输入，但最终决定权在人类，则归类为“AI 辅助”。

代理可执行步骤需要多详细的日志？

日志应至少包含：时间戳、代理标识、执行的动作、输入数据摘要、输出结果、任何错误或警告。日志应结构化存储，便于查询和审计。

如果代理执行了错误操作，谁负责？

根据人工主导的运营模型，人类始终对代理的行为负责。因此，必须设置审批和监控机制，确保错误能够被及时发现和纠正。责任应明确到具体的角色或个人。

小团队如何开始实施这些规则？

从最关键的一个工作流开始，例如客户支持或销售线索处理。按照五步法进行映射，先只自动化最安全的一两个步骤，运行一段时间并审查日志，再逐步扩展。

如果您希望将这套方法应用到自己的业务中，可以联系我进行流程审查。我也在当前的工作中分享更多关于 AI 自动化和治理的实践，欢迎了解我的背景和方法。