这看似矛盾,但大型 AI 公司应对将 AI Agent 工具整合到金融服务等行业特定流程这一挑战的方案,不是更多的 AI,而是更多的人员,这凸显了企业在部署大型 AI 项目时对 IT 的一种新依赖。

Anthropic and Claude

当金融科技供应商 FIS 周二宣布其用于检测金融犯罪的新型 AI Agent 时,它着重强调了为此嵌入了一支来自 Anthropic 的前沿部署工程师(FDE)团队。FIS 只是当天与 Anthropic 合作、使用其新发布的连接器和所谓“开箱即用”模板开发金融服务 Agent 的十几家公司之一。

鉴于自身的数据质量问题以及使用 AI 模型的复杂性,企业 CIO 们越来越多地为 AI 供应商的 FDE 服务付费。

但这类团队以何种方式、出于何种原因被引入,可能决定企业是被帮助迈上 AI 的下一个台阶,还是沦为永无止境的咨询成本的人质。

FIS 列出蒙特利尔银行(BMO)和 Amalgamated Bank 作为首批部署其 Agent 的两家公司。FIS 表示,该 Agent 将把反洗钱调查从数小时压缩到数分钟,跨银行核心系统汇集证据,并筛选出风险最高的案件供审查,同时决策具备完整的可审计性和可追溯性。该公司表示:“Anthropic 的应用 AI 团队和前沿部署工程师(FDE)已嵌入 FIS,共同设计金融犯罪 AI Agent 并进行知识转移,使 FIS 能够随时间推移独立构建和扩展更多 Agent。”

总部位于纽约市的技术咨询公司 Tribeca Softtech 的首席战略官 Aman Mahapatra 建议,CIO 在评估与 AI 供应商的类似合作时应“跟着钱走”。

“FIS-Anthropic 模式在结构上有趣之处在于,究竟是谁在为 FDE 的成本买单。这是 CIO 应该问但大多没有问的问题。”Mahapatra 说。

根据 Gartner 高级总监分析师 Alex Coqueiro 最近的一份报告,FDE 的成本可能使一些 AI 项目陷入危险。他预测,到 2028 年,“70% 的企业将被迫放弃由 FDE 主导的合作项目中的 AI Agent 解决方案,原因是供应商成本高昂,且企业缺乏独立演进这些方案的内部技能。”

服务,而非软件

他认为,这个问题并不完全是 AI 供应商的错。许多 IT 运营部门没有做好必要的准备工作来清理数据,使其对 AI 友好。内部公司政治/人际关系是另一个关键因素。

“对 FDE 成功最关键的领域专家,恰恰最有动机去破坏它。如果专家认为 FDE 是在攫取他们的专业知识用于 Agent 化自动化,他们就会告诉你官方流程而非真实流程,而基于此构建的 AI Agent 恰恰会在他们刻意不提及的边缘案例上失败,”Coqueiro 在报告中表示。“在连续多次部署中 FDE 投入保持不变,这表明该合作产生的是依赖,而非能力。当用例日趋成熟而投入却不见减少时,该组织是在以咨询费率支付本应由自己掌控的运营成本。”

谈到 FIS 与 Anthropic 的合作,Mahapatra 表示:“BMO 和 Amalgamated 并不是按季度咨询费率直接向 Anthropic 支付前沿部署工程师的费用。FIS 承担了 FDE 合作的成本,并将其摊销到其银行客户群中。”

他说,这种做法“在经济性上明显优于各银行直接与 Anthropic 合作的模式——那种模式下,每家银行都要自费组建嵌入式工程团队,各自孤立地重新设计相同的上下文边界、影子自主控制以及越狱抵抗测试。”

Mahapatra 表示,这个问题很大程度上源于生成式 AI 和 Agent 化 AI 的营销方式。他说,最初的 ROI 论点是 AI 能让企业用更少的人做更多的事,但那“只是一个营销说辞,根本经不起受监管银行工作流的现实检验。”

Nik Kale 是安全 AI 联盟(CoSAI)成员兼 ACM AI 安全(AISec)项目委员会成员,他表示,他认为 FIS 对其与 Anthropic 合作的表述“等于承认前沿 AI 还不是一个产品。CIO 们以为自己在购买软件,实际上购买的是一项专业服务合作。这改变了每一次企业 AI 部署的成本模型、依赖模型和治理模型。”

Kale 表示,该声明的措辞透露了其 Agent 化策略的线索。

“FIS 的新闻稿说,每个 Agent 决策都可追溯、可审计。话是真的,但句子错了。更难的问题不是审计 Agent 做了什么决策,而是首先决定哪些决策该由 Agent 来做。银行拥有数十年的决策权框架,但这些框架无法顺畅地套用到由别人家的工程师构建的 Agent 框架上,”Kale 说。“CIO 的检验标准很简单:在前沿部署团队离开之后,你的组织还能否运营、监控、质疑并安全地修改这套 Agent 化工作流?如果答案是否定的,那它还不成熟。它可能是一个成功的实施项目,但还不是一项企业能力。”

Justin Greis 是咨询公司 Acceligence 的 CEO,曾任麦肯锡北美网络安全业务负责人,他同意 Kale 的观点。

伪装成流程的人类判断

“更大的风险不在于这些项目的成本,而在于它们可能造成的依赖。花几十万美元把东西部署上线并不是问题,”Greis 说。“问题在于最终得到一个只有供应商才能运营、扩展、甚至完全理解的系统,那时事情才开始走下坡路。”

这些咨询合作的问题不在于掩盖 IT 缺陷,而在于为 AI 走捷径提供了便利。

为 FDE 团队付费的企业“并不会削弱 Agentic AI 的 ROI 论据,削弱的是那种偷懒版本的 ROI 论据。这个区别很重要,”Greyhound Research 首席分析师 Sanchit Vir Gogia 说。“过去两年,太多企业 AI 叙事被包装成一个整洁的劳动力削减故事:买模型、自动化工作、裁减人员、获取节省。它很漂亮、对董事会友好,但极不完整。大型企业并不是一堆等待被自动化的干净任务,而是由各种例外情况、遗留系统、脆弱的集成、访问控制、无文档的变通方法、合规义务以及伪装成流程的人类判断拼凑而成。前沿部署工程师就是让 AI 变成现实的账单。这不是转型,而是换了一套更精美信笺纸的依赖关系。”

FDE 引发的另一个担忧是不可避免的利益冲突:被付费来解决复杂性的 AI 供应商,往往也正是其模型制造了大部分复杂性的那家供应商。

独立技术分析师 Carmi Levy 表示,这种商业逻辑可能会损害企业目标。“如果 AI Agent 本应在组织各个层级自主创建、部署和管理超强大的工作流,那么这种能力本身就威胁到那些长期在这些部署上捆绑高额支持合同并从中获利的供应商的未来生存。如果 FDE 要与客户并肩合作,让他们的 AI Agent 落地运行,那 AI 供应商还有什么动力去构建强大到不需要持续支持的 Agentic 系统?FDE 的商业模式会影响前期的模型设计,AI 平台完全有可能被刻意设计成需要持续的 FDE 支持。”