本周 AI Engineer New York 上最值得记的问题不是模型有多强，而是「人该插在哪一步」。Latent Space 对 2026 年 10 月 14 日几场分享的整理给出了两种答案：OpenAI 的 Joseph Kim 提出「可用性阈值」，Two Sigma 的 John Feminella 则指出真正限制自主性的是审批疲劳，而不是模型能力。

关键事实

项目 内容
回答的问题 「可用性阈值」与审批疲劳：OpenAI、Anthropic 怎么给金融智能体划自主权
简答 在 2026 年 10 月 14 日的 AI Engineer New York 上，OpenAI 金融服务 ChatGPT 负责人提出「可用性阈值」——模型变得足够可靠、能帮你省时间的那一刻；对冲基金 Two Sigma 的架构 SVP 则直接说，安全与创新并非对立，真正卡住自主性的是审批疲劳。这场分享的实用结论是：控制点应该放在「人类判断插在哪一步」，而不是「再加几条限制」。
阅读时长 ~2 分钟
最后更新 2026-10-15

OpenAI：先判断智能体什么时候开始回本

Kim 是 OpenAI 金融服务 ChatGPT 负责人，他把能力描述为一条要跨过去的线，而不是慢慢累积的量：低于阈值时，智能体消耗的注意力比省下的时间还多；跨过去之后，分析师才能真正把工作交出去。他预测 2027 年金融业对 Excel 和 PowerPoint 的依赖会下降，智能体会好到能做「投资想法生成与交易」。

他还把可追溯性当成产品功能而不是合规补丁：金融场景必须能查清一个数字从哪来、上下文是什么。他对「人在环上」的提法可以直接拿来当设计练习——界面要怎么改？用户还需要控制、复核或批准什么？

Two Sigma：可组合的控制，而不是更厚的墙

Two Sigma 架构 SVP Feminella 不认同「安全与创新在光谱两端」的说法。他真正反对的是审批疲劳：需要人批准的事太多，效率被拖慢，而注意力有限，风险反而上升。

他的做法是一组可组合的控制项——护栏与共享能力，每条只做一件事——其中包括 auto-mode 分类器：例行动作自动处理，只把最可能影响结果的请求交给人。他还划了一条界线：模糊场景用分类器，明确场景用确定性规则。

Anthropic：先给上下文，再划信任边界

Anthropic 的分享延续上个月发布的 Claude for Financial Advisors，谈的是把信任构建进金融智能体工作流：先让智能体拿到上下文，再明确它不必请示就能做什么。

在你自己机器上可以照做的四点

  • 写下你的智能体哪些事可以无人值守地做、哪些必须请示；大多数「安全」争论其实就是这张没写出来的清单。
  • 主动消灭审批疲劳：例行动作自动通过，确认框只留给不可逆操作。
  • 场景明确时用确定性规则，把判断留给模型去处理模糊情况。
  • 把可追溯性放在本地，随时能看出某个数字是哪一步产生的。

如果你想要一个跑在自己 Windows 上、审批边界看得懂的智能体，可以下载 MOOGH。

相关阅读：