金融 Agent 的关键不是模型多聪明，而是审批边界在哪。四家机构在 AI Engineer New York 给出同一答案：自主权按动作授予，不按模型授予（来源）。

关键事实

项目 内容
回答的问题 金融 Agent 的阈值不在模型，在审批边界：OpenAI、Anthropic、Two Sigma 的同题答案
简答 AI Engineer New York 上，OpenAI 提出「有用性阈值」，Anthropic 给出身份、沙箱、审批三层信任框架，Two Sigma 警告审批疲劳，Bloomberg 主张把确定性控制放在模型之外。四家指向同一个结论：权限按动作授予，不按模型授予。
阅读时长 ~3 分钟
最后更新 2026-10-24

OpenAI：阈值是「省不省时间」

OpenAI 金融服务 ChatGPT 负责人 Joseph Kim 把采用问题归结为「有用性阈值」——模型变得足够可靠、能真正替你省时间的那一刻。他对 2027 年的预测是：金融业对 Excel 和 PowerPoint 的依赖下降，Agent 足以承担投资想法生成和交易。

比预测更值得看的是两个细节：

  • 可追溯性是产品的一部分，不是事后审计。Kim 说，金融场景里你必须能查到一个数字从哪来、上下文是什么。
  • 人在环内是产品设计问题。他提的问题是界面层面的：用户还要控制、复核、批准什么？当 Agent 从「执行」变成「提议」，界面怎么变？

这句话把工作从「选一个更安全的模型」挪到了「设计复核这一步」。很多 Windows 本地 Agent 恰恰卡在这里：审批弹窗有，但看不到数字的来源，也看不到要批准的那份 diff。

Two Sigma：真正的失效是审批疲劳

Two Sigma 架构高级副总裁 John Feminella 讲了他们落地的五项控制，用来在不限制模型能力的前提下管住 Agent。他最狠的一句是关于审批疲劳：什么都让人批，创新会被拖慢；更糟的是，人不可能对每个决定都保持注意力，风险反而上升。

他们的做法是一组可组合的控制，每项只干一件事。其中一项是自动模式分类器：例行调用由它决定，只把最可能产生影响的请求交给人。分类器处理模糊情况，确定性规则处理清晰情况——这个分工很重要，拿分类器去判一条明确的规则，只会平白增加波动。

对桌面 Agent 来说，可操作的版本是一样的：不要对每次读取都弹审批。只在写入、花钱、对外发送、以及改动工作区之外状态时弹。

Anthropic：身份、沙箱、审批

Anthropic 金融服务董事总经理 Belinda Neal 把这种现象叫阈值跨越：每隔一段时间，模型越过一条线，工作方式就跟着变一波。上个月他们发布了 Claude for Financial Advisors。

负责应用 AI 的 Keon Shahab 把信任层拆成三步：

  1. 身份与权限层，明确 Agent 代表谁行动。
  2. 沙箱加审批层，动作发生前有人签字。
  3. 变量随时间变化后，确认 Agent 仍然按预期工作。

例子是一个交易中断调查 Agent：它建议修改订单，但不执行修改。设计目标说得很直白——只提议，不动手。

Bloomberg：控制放在模型外面

Bloomberg CTO 办公室架构与新兴技术负责人 Andrey Rybka 讲了几起真实事故，其中一起是 Agent 把市场评论里嵌入的指令当成命令，去给某个商品备货。他建议的防线是输入校验、提示注入防御、来源追踪，以及高价值动作必须人工批准。

控制清单很具体：限定身份与凭证、约束工具调用、限制出网流量、保留审计轨迹、设预算、留 kill switch。总结那句值得记住：确定性控制放在模型外面，每次调用都检查、都记录、都留一个开关。

对 Windows 本地 Agent 的直接含义

四场演讲其实在描述同一套架构，而且都不依赖模型厂商：

  • 权限检查放在模型外面。提示词里写「删除前先问」不叫控制。
  • 凭证按任务限定，不按安装限定。一个能拿同一张令牌访问所有共享盘的 Agent，等于没有边界。
  • 审批框要带信息。命令、路径、diff 都给出来；没有上下文的弹窗只会把人训练成点「是」。
  • kill switch 不能依赖 Agent 配合。

如果你想要一个 Windows 桌面 Agent，按这个形状跑，当前版本在 agent.aimoogh.com/download。 内核级 Agent 权限、为什么 Agent 被当作内部威胁，以及 Windows 下载页。

常见问题

这套东西只适用于金融吗？ 不只。金融例子更严，是因为动作贵且受监管；但只要 Agent 会写文件、发消息、花钱，边界问题就是同一个。

是不是所有动作都该人工批？ 不是。Two Sigma 的观点恰恰是「全批」本身有风险：该批的是高影响动作，例行动作交给确定性规则。

相关阅读：