AI 代理工作流应明确规定:当缺少必要信息、来源相互冲突、记录匹配不确定,或请求的操作超出代理范围时,如何暂停并转交工作。代理应报告观察到的情况、尚未解决的问题,以及需要作出决定的人员。明确的异常处理路径可以避免信息缺口演变成猜测或未经授权的操作。
哪些情况需要人工审核?
在代理处理实际任务前制定异常规则。常见情况包括:
- 缺少必要输入,或无法使用获准来源
- 两条记录不一致,或公司、联系人匹配不确定
- 请求涉及敏感信息、用途限制或联系人拒绝联系
- 下一步将修改 CRM 权威字段、发送消息或发布内容
- 工具返回错误或意外结果
- 请求含糊不清,或超出已批准任务说明的范围
具体规则取决于任务。研究摘要可以在明确标出信息缺口后继续;涉及客户承诺或修改记录的工作则可能需要暂停,等待负责人审核。
异常报告应包含什么?
报告应能帮助接手人员解决问题。注明相关任务和记录、暂停的步骤、已检查的输入或来源、观察到的问题、不确定性或风险,以及需要作出的决定。在允许的情况下,附上相关来源或记录链接。不要暴露无关个人信息、凭证或模型的隐藏推理。
将观察结果与建议分开。例如,可以报告两条公司记录的域名和负责人不同,但不要默默决定哪个账户才正确。如果代理能提出下一步方案,应标明这是待审核的建议。
团队应如何分配和解决异常?
- 按问题类型指定负责人。 将数据冲突交给账户负责人或数据管理员,权限问题交给系统负责人,面向客户的决定交给相关销售或市场审核人员。
- 让工作保持待审核状态。 不要继续执行依赖尚未解决决定的操作。
- 解决问题或缩小任务范围。 审核人员可以补充背景、修正范围、批准候选项或停止请求。
- 记录决定和下一步。 在适当系统中记录由谁决定、发生了什么变化,以及还有哪些事项未解决。
- 重复发生时更新说明。 修复任务说明、来源、权限或交接中的反复缺口,而不是每次临时处理同一个异常。
如何避免异常反复出现?
为代理设定具体的停止条件,并明确问题应提交到哪里。区分缺少哪些信息可以接受、哪些需要澄清、哪些需要批准。工具或来源出错时,避免使用“不断重试直到成功”之类的指令;重试可能重复错误或产生重复工作。
持续复查异常类型。如果同一问题经常出现,就调整任务、数据准备、权限或审核人员分配。除非已解决根本风险,否则不要仅为减少升级次数而移除保护措施。
有关代理可访问的数据和可执行操作范围,请参阅CRM 工作流中的 AI 代理权限。
常见问题
缺少必填字段时,AI 代理应该猜测吗?
不应该。代理应将值保留为未知,指出缺少的输入;如果继续任务必须使用该信息,就向指定审核人员询问。
工具出错后代理应该重试吗?
只有获准的工作流定义了安全的重试方式时才可以。否则应报告错误并暂停。不要重复可能造成重复发送消息或重复修改记录的操作。
异常应该发送给谁?
发送给能够解决该类问题的人,例如账户负责人、数据管理员、工具管理员或客户沟通审批人。在工作流中明确下一位负责人。
不改变任务也可以关闭异常吗?
可以。审核人员可以确认无需行动、补充缺失背景,或停止请求。记录决定,避免在没有新信息时重复打开同一问题。
如果代理反复报告同一异常怎么办?
检查任务说明、允许的输入、访问权限或路由是否不完整。改进底层工作流,同时在不确定性或后果仍然重要的情况下保留人工审核。