微软收紧Copilot代理：发送邮件和支付需人工审批

微软正在给其AI代理套上缰绳——至少目前是这样。这家科技巨头宣布，将于9月推出Copilot Studio的更新，引入一项功能，要求AI代理在执行某些操作前必须获得人工批准。可以将其视为数字助理的安全制动器。

Copilot Studio是微软用于构建和管理AI代理的平台，这些代理可以连接到各种业务工具，如电子邮件、服务工单系统和支付网关。虽然这些代理旨在简化工作流程，但它们有时可能过于自主，这对日常任务来说很好，但在敏感操作方面却存在风险。

为了解决这个问题，微软为开发者提供了为特定工具设置手动审批步骤的选项。借助这一新控制，任何需要人工签字的操作都将被暂停，并弹出审批请求。该请求将说明代理打算做什么，您可以选择批准、批准整个会话或直接拒绝。这就像有一个虚拟助理在采取行动前先询问——不再有令人惊讶的电子邮件或未经授权的付款。

微软强调了这种审批机制将特别有用的三个关键场景：发送电子邮件、关闭服务工单和处理付款。一旦这些操作配置了审批要求，AI代理将无法自行继续。这意味着您可以松一口气，因为您的AI不会意外地将那封令人尴尬的电子邮件发送给整个公司，或批准您未授权的退款。

此举正值人们对AI自主性及其潜在意外后果的担忧日益加剧之际。通过增加这种人在回路中的功能，微软承认，虽然AI可能非常有用，但它仍然需要监督——尤其是在涉及对现实世界产生影响的行为时。

对企业而言，此功能在自动化与控制之间取得了平衡。您可以让AI处理琐碎事务，但在关键决策时，您仍然掌握主动权。这是朝着更负责任地部署AI迈出的一步，并且可能会让您更有信心让数字代理承担更多任务。

因此，如果您正在使用Copilot Studio，请留意9月的这些更新。请记住，即使是最聪明的AI有时也需要人类说：“等等，让我想想。”