越来越多的企业开始依赖 AI 供应商的 FDE 团队,在现场协助实施。不过,这并非唯一的选择。

Gebrauchte Hardware im Rechenzentrum? Das sind die Vor- und Nachteile von "altem" Equipment im Data Center.

ESB Professional | shutterstock.com

在部署 AI 时,IT 高管常常陷入两难境地:他们需要将管理层相互矛盾的要求,与不断变化的 AI 模型、功能和成本、数据管理与安全要求,以及自己团队的能力边界相协调。Gartner 分析师 Nader Henein 认为这部分责任也在供应商身上:“仅仅购买一个 AI 产品并提供给员工,几乎无法带来任何真正的价值。然而在过去三年里,AI 供应商却过度宣传并助长了这一错误观念。”

这位分析师进一步指出,在现实中,较高的 AI 价值和持续的 ROI 几乎总是源于将 AI 能力深度且有针对性地集成到现有工作流程中。Henein 表示,这需要专业团队:“这些团队绝非便宜,企业会以多种方式来招募他们。”

这些支持 AI 实施的选择包括:

  • 传统 IT 咨询公司,
  • AI 专项咨询公司,
  • 独立承包商,
  • “收购式招聘”策略,或者
  • 开源解决方案。

但近来最受关注的选择,是使用前沿部署工程师(FDE)。这些来自 AI 供应商的专家团队会在现场帮助客户将该技术集成到他们的环境中。

在本文中,我们不仅与专家讨论了依赖 AI 供应商 FDE 团队的利弊,还探讨了各种替代方案的优缺点。您可以在本文末尾找到一张汇总表格,列出了所有方案及其优缺点。

AI FDE——利与弊

AI 供应商旗下的 FDE 团队拥有关键优势,例如:

  • 对底层模型有更深入的理解,
  • 拥有将这些模型集成到各类企业环境中的经验,以及
  • 在新功能正式发布之前就了解其规划情况。

不过,供应商锁定的明显弊端也不容忽视:即使未来的推广部署不在合同约定的服务范围内,AI 供应商的 FDE 团队也可能对客户未来的 AI 计划产生微妙的影响。正因如此,LexisNexis Risk Solutions 的 CISO Flavio Villanustre 提醒 IT 高管保持谨慎:“FDE——部分也由于其雇主的财务激励——的目标是提高客户对 AI 的使用量,并在服务方面制造‘粘性’。即使这些团队能带来切实的增值,也建议用户始终咨询无利益关联的独立专家,以便客观公正地评估各供应商的竞争性解决方案。”

Villanustre 认为,在投资者补贴的 AI token 商业模式开始显现首批裂痕的当下,这一点尤为重要:“鉴于当前极快的创新节奏,保持足够的灵活性以便更换供应商,可能会带来显著的竞争优势。”

Greyhound Research 首席分析师 Sanchit Vir Gogia 同样认为,使用 AI 供应商的 FDE 团队是把双刃剑:“FDE 虽然深度嵌入客户的环境中,但同时也代表着其雇主的商业利益。让 AI 供应商的专家对实施决策拥有过大的影响力,不仅可能导致更高的依赖性,还可能导致高昂的价格,届时客户可能难以有效抗衡。”

除了可能不断加剧的供应商锁定之外,IT 决策者在聘用 AI 供应商团队之前还应考虑其他因素。核心问题之一是究竟需要 FDE 团队多长时间。毕竟,单次实施远远不够。Solidroad 的 AI 工程师 John Sangyeob Kim 表示,由此产生的长期成本是企业经常忽视的一点:“部署本身可能只占总成本的 20%。其余 80% 则用于在模型升级后维持系统运行,以及处理往往要在生产环境运行数月后才会出现的数据迁移和边缘情况。”

此外还存在当 AI 供应商的 FDE 团队不再驻场时产生的风险。例如,IT 咨询公司 Acceligence 的 CEO Justin Greis 认为,人们往往严重低估了外部专家在 AI 实施过程中所获得的洞察的深度:“FDE 团队在实施过程中会获得大量运营细节方面的洞察。虽然所访问的数据受到保密协议(NDA)和保密条款的保护——但被查看的流程和工作流却往往处于保护范围之外。”

但据 Greis 称,这个问题并不仅限于 AI 供应商的 FDE 团队。这位管理者解释说,任何在 AI 引入过程中提供支持的人,所获得的洞察都会远超工作说明书(Statement of Work)中所记录的内容:“这包括实际的、具体的工作流程、未记录的例外情况、数据质量方面的缺口、审批瓶颈或安全方面的临时变通方案。这些知识既宝贵又敏感。”

据 Greis 称,还有一个很少被提出的关键问题:当 FDE 团队结束支持后,IT 将对项目保有多少有效的控制权?这位 CEO 断言:“风险并不在于寻求外部帮助——大多数企业都会需要这种帮助。真正关键的是,当外部帮助的使用方式导致企业在项目结束后能力下降、依赖性增强时。”

AI 专家 Kim 也认同这些担忧,并特别建议用户明确项目是建立在自己的可观测性技术栈还是供应商的技术栈之上:“如果实施合作伙伴使用的是自己的可观测性技术栈,在构建阶段没问题。但您需要一个计划,在供应商结束项目之前将其迁移到自己的解决方案上。否则,可见性将随之消失。”

据 Kim 称,如果既不使用自己的可观测性技术栈,也不使用供应商的技术栈,则会产生一个严重的问题:“这会导致一个完全没有可观测性层的系统——也就是没有任何洞察手段。当生产环境中出现故障时,您将无法判断这究竟是模型回归、数据问题还是代码错误。”

外部 AI 支持——替代方案

虽然 FDE 团队并非全新的方法,但此类工程师的数量有限。因此,并非每家企业都有机会使用供应商的专家团队。据 Gartner 分析师 Henein 称,FDE 的可用性问题在美国以外尤为突出。但这并不意味着必须放弃在 AI 实施 方面的外部支持。正如开头所述,用户还有一系列其他选择。然而,与 FDE 部署类似,这些选择不仅有其优势,也存在劣势。

传统 IT 咨询也是如此,正如开发工具供应商 Kodezi 的 CEO Ishraq Khan 所解释的:“传统咨询公司通常在治理、流程、合规和组织协调方面更为擅长。他们了解大型企业在政治和结构层面如何运作。缺点是,许多公司进展较慢,而且在前沿 AI 方面往往缺乏深入的专业化能力。”

相比之下,专业 AI 咨询公司则具备不同的优势,Khan 指出:“AI 原生顾问的行动速度明显更快,技术上也往往处于最前沿。但其中许多公司在运营上尚未成熟。这体现在例如 令人印象深刻的演示 上,而对长期可维护性、治理或生产环境可靠性的理解却不完整。”

Acceligence 的 CEO Greis 还将聘用独立承包商视为外部 AI 支持的一种可能选择:“这可能有助于评测设计、架构审查、红队测试、Agent 设计,或让陷入僵局的团队重新运转起来。但它也带来了对某位关键人物产生依赖的风险——而这个人可能恰恰是唯一真正理解该系统的人。”

对于大型企业来说,所谓的 “Acquihiring”(收购式招聘) 是另一种选择。即收购(AI)公司,并将其专业知识和员工 整合 到自己的组织中。Greis 认为,在特定条件下这可能是一笔划算的买卖:“前提是所引入的 AI 能力和专业知识对收购方确实具有战略重要性。然而,其中存在被收购团队被新母公司官僚体系扼杀的风险。这就好比买了一艘快艇,把它挂在一艘航空母舰上,然后惊讶地发现它再也跑不快了。”

此外,开源策略也能为企业在 AI 方面带来灵活性并减少依赖。但这并非没有更高的运维成本。这一成本同样经常被低估,正如 Khan 所阐述的:“开源只有在组织拥有内部人才和纪律来确保妥善维护时,才是一个真正的选择。”

AI 部署的外部支持——选项一览

Pro Kontra
AI 供应商的 FDE对核心 AI 模型拥有最专业的知识供应商锁定运营细节外泄
传统 IT 咨询在变革管理、遗留系统集成、推广、治理以及运营模式重塑方面拥有最专业的知识可能太慢、太贵或过于泛泛
AI 咨询公司在 AI 部署方面比传统顾问拥有更多实践经验,供应商锁定程度低于 FDE可能缺乏对企业需求的理解,例如在安全、身份、可审计性、事件响应、成本控制和长期可维护性等领域
独立服务商适用于评测设计、架构评审、红队测试或 Agent 设计等精准任务存在依赖特定关键人物的风险
“收购式招聘”当所收购的能力确实具有战略重要性时行之有效被收购的团队可能沦为现有官僚体制的牺牲品
开源解决方案减少对单一供应商的依赖,在数据主权、企业系统控制、成本效率和受监管环境方面颇具吸引力企业需对安全、补丁、评估、部署、监控和生命周期管理承担全部责任

(fm)

本文最初发表于我们的姊妹刊物 Computerworld.com。