演示不等于产品
智能体演示大同小异：输入目标，系统生成计划，调用工具，然后完成一些有用的事情。这确实令人印象深刻，但几乎说明不了什么，因为你看到的是一次成功的运行。
决定你是否继续使用智能体的，是其他那些运行。比如，智能体误读退款政策，承诺了不该提供的退款；凌晨四点仍在不断重试已经出故障的操作；或者认为最合适的做法是给两千人群发邮件。
这些并不完全是模型故障；更好的模型会减少这类情况，但永远无法完全消除。真正的问题在于模型出错时，外围系统会做什么。这是你看到演示之前，供应商就已经作出的设计决定。
比模型更重要的四项机制
发送前会有任何拦截吗？关键不在于“有没有防护措施”——每个人都会说有——而在于外发消息是否会在送达某个人之前被暂存。在 ProxyAI 中，当智能体想发送消息或电子邮件，或拨打电话时，它会暂停并等待。你会收到一封邮件，任务会出现在“需要你处理”列表中，并能查看它准备发送的每条消息：收件人、主题和正文开头。批准后会发送所有消息；拒绝则会将它们全部丢弃。
这是有意设计得非常直接的机制。审批要么全部通过，要么全部不通过；五条消息中不能只批准三条。
支出上限是按每次运行设置，而不是按月设置吗？月度预算只会让你事后才看到账单。每次运行的上限则能在单次运行出错时及时终止它。ProxyAI 的默认上限是每次运行 $2.00，达到上限后运行就会停止。
余额耗尽时会发生什么？没人主动问这个问题，但所有人最终都会知道答案。诚实的处理方式应该是拒绝执行，而不是只完成一部分操作。无法创建新智能体，运行会以“额度不足”错误停止；顾客在聊天中提出任务时，系统会告知该服务当前不可用，而不是只完成部分任务。
待处理决定会阻止下一次运行吗？如果有三个审批还未查看，智能体却继续启动定时运行，它只是在制造你永远清不完的队列。暂存的运行会等待七天，然后过期；存在待处理决定时，智能体不会启动新的定时运行。这不够方便，但这是正确的取舍。
让它真正可用的例外情况
如果所有事情都必须停下来等待审批，就没人会启用这套系统。例外必须基于原则，而不是为了方便随意设置；这个原则就是目的地。
有两个目的地不会触发暂存：发送到你自己收件箱的报告，以及你亲自选定的电子表格。它们都不会触达客户，因此也不会让你难堪。正是这一项有限例外，让报告型智能体从第一天起就能无人值守运行，同时让面向客户的智能体继续受到监督，而不必设置一个会悄悄关闭所有监督的开关。
“人工把关”应该意味着什么
“人工把关”常被用得含糊不清：有时只表示系统附近有个人。准确地说，智能体提出的操作应先暂停，等你查看并批准后才会执行。
检验方法很简单：问问自己，现在要到哪里查看智能体提出但尚未执行的所有操作。如果你只能事后查看日志，那就没有真正的事前审批，只有事后留下的审计记录。
从平淡可靠的智能体开始
支持使用智能体的最有力理由，并不是让它尽可能自主，而是让它每天汇总商店发生的事情并发送到你的收件箱，成本仅为几分之一美分，而且不接触任何客户。这确实有用，也能让你先了解它擅长什么，再允许它与任何人交流。
然后再向前一步：让智能体起草回复并暂存等待审批。你先花一周时间阅读草稿。如果质量不错，就快速批准；如果不理想，你也没有任何损失。
最值得信任的供应商，是那些让你容易找到这条循序渐进路径的文档，包括明确说明智能体不能做什么的部分。只列能力、不说明限制的页面，只是一张销售宣传页。
常见问题
对于 AI 智能体，“人工把关”意味着什么？
准确地说，它意味着智能体提出的操作会停在你看得见的地方，在人作出决定之前尚未执行。宽泛地说，它只表示系统附近某处存在一个人。检验标准是：你现在能否查看智能体提出但尚未执行的所有操作。如果唯一记录是事后才阅读的日志，那是审计记录，不是事前审批环节。
AI 智能体可以未经审批就给客户发送电子邮件吗？
这完全取决于具体产品，因此值得直接询问。在 ProxyAI 中，凡是要向客户发送消息、电子邮件或拨打电话的运行，都会暂停并等待你批准。例外是那些不会让你难堪的目的地：发送到你自己收件箱的报告，以及你亲自选择的电子表格。因此，报告型智能体可以无人值守运行，而面向客户的智能体仍受监督。
什么机制能阻止 AI 智能体在单项任务上花费过多？
设置每次运行的支出上限，而不是只设月度预算。月度上限会让你事后才发现账单；每次运行的上限则会在单次运行出错时及时终止它。ProxyAI 的默认上限是每次运行 $2.00，达到上限后运行就会停止，而不会继续执行。
如果智能体一直等待审批却始终没有获批，会怎样？
暂存的运行会在七天后过期；存在待处理决定时，智能体不会开始新的定时运行。这样做确实不如放任它继续运行方便，但这是刻意的：如果审批一直无人查看，智能体仍不断将任务排队，最终只会积累成没人会清理的积压。
应该从哪种 AI 智能体开始？
从不接触客户的智能体开始：每天汇总商店发生的事情，并发送到你自己的收件箱。它确实有用，成本仅为几分之一美分，也能让你先了解智能体擅长什么，再允许它与任何人交流。
Agent Tasks 是 ProxyAI 的智能体附加功能。Agent Tasks 指南介绍审批、运行成本和使用限制；费率页面列出相关模型价格。