IT 领导者越来越多地求助于 AI 厂商的前沿部署工程师来协助 AI 部署。在决定启用 FDE 之前,你需要了解以下内容。

Team, office and computer in night workshop for planning, strategy or goal for business in overtime. Collaboration, teamwork and meeting at desk for creative vision, innovation or idea late at work

在 AI 部署方面,IT 领导者常常处于尴尬的中间地带:既要调和来自高管层的相互矛盾的指令,又要应对不断变化的 AI 模型、能力和成本、数据治理与安全需求,以及自身团队的局限。

“仅仅购买一款 AI 产品并交给员工使用,几乎无法获得真正的收益。过去三年里,厂商一直在过度兜售这一谬论,”Gartner 副总裁分析师 Nader Henein 说。

“现实是,强大的 AI 价值和持续的 ROI 几乎总是源于将 AI 能力深度、有意识地集成到现有工作流程中。为此你需要专业团队,而这些团队并不便宜,各组织一直在以各种方式招募这样的团队,”Henein 说。

对于寻求 AI 部署帮助的 IT 领导者来说,可选方案包括传统 IT 咨询公司、专注 AI 的咨询公司以及独立承包商。资金雄厚的大型企业可以考虑收购一家 AI 公司,并将其技术和专家团队整合进来。使用开源以减少厂商锁定是一种可以叠加在其他方案之上的策略,Capital One 就采用过这种做法。

但近来最受关注的选项是引入前沿部署工程师(FDE),即来自 AI 厂商的专家团队,他们与客户的内部工程师协同工作,在企业环境中监督 AI 的落地。例如,OpenAI 和 Anthropic 最近都宣布了 FDE 服务,微软也正在与咨询巨头 EY 合作,推出一个面向 Agentic AI 部署的全新 FDE 项目。

AI 厂商的工程团队具有关键优势,比如比任何人都更了解自己的模型、拥有将这些模型集成到各类企业环境的经验,并且在模型新能力正式发布之前就已知晓。但它们也有一个明显的缺点:厂商锁定。即使未来的部署不在其合同交付范围内,这些厂商员工也可能潜移默化地影响客户未来的 AI 工作。

LexisNexis Risk Solutions 的 CISO Flavio Villanustre 提醒 IT 高管在进入 FDE 项目时要谨慎。

FDE“在经济上有动力去推动客户增加对厂商 AI 产品的使用,并让客户与其服务形成粘性,”他说。“虽然 FDE 可能是 AI 厂商提供的一项合理的增值服务,但客户始终应该寻求其他无利益关联的专家意见,以便对多家厂商的竞争性方案进行评估。”

Villanustre 表示,在“投资者补贴的 AI token 商业模式开始显现裂痕”的当下,这一点尤为重要。“此外,在当前该领域创新迅速、AI 供应商不断相互超越的形势下,保持从一个供应商切换到下一个供应商的敏捷性,可能会带来显著的竞争优势。”

就 FDE 话题接受 Computerworld 采访的分析师、顾问及其他行业专家,都呼应了 Villanustre 的谨慎态度,他们提出了对隐性成本、保密性、可观测性以及供应商锁定的担忧。

长期成本与供应商锁定

IT 高管需要考虑的一个关键问题是:FDE 团队需要存在多久。企业很可能需要一系列持续的 AI 部署,并与当前的 AI 模型保持同步。如果今天需要帮助,为什么明天就不需要了呢?

软件开发供应商 Solidroad 的 AI 工程师 John Sangyeob Kim 表示,企业往往会忽视这些长期成本。

“部署可能只占总成本的 20%。另外 80% 是让系统持续运行——包括模型升级、数据漂移,以及只有在生产环境运行数月后才会暴露的边缘案例,”Kim 说,“大多数合同只给第一部分定价,并默认其余部分不存在。部署已不再是企业 AI 的难点,接下来的十八个月才是。”

而且无论是否有意为之,FDE 都会天然偏向自家的产品组合——因为那是他们最熟悉的领域。

“来自模型实验室的 FDE 擅长让自家模型在你的环境中运行,但不太适合多模型系统,因为他们的激励就是把你留在他们的生态系统中,”Kim 说。

Greyhound Research 首席分析师 Sanchit Vir Gogia 表示,IT 领导者应将 FDE 模式视为一项涉及持续运营权力的战略。

“谁塑造了部署模式,谁就塑造了企业未来的肌肉记忆。谁拥有评测层,谁就拥有真相层。谁掌控了集成逻辑,谁就掌控了依赖关系图,”Gogia 说,“这正是 FDE 模式之所以重要的原因。它不只是又一种交付选项,而是前沿 AI 供应商在向客户的工作流程、运营模式和决策架构靠拢。”

Gogia 指出,这种贴近是双刃剑。“FDE 深深嵌入客户的[环境]之中,但他们同时也与供应商的商业重心相连。他们的本能会是围绕自己最熟悉的模型家族、工具假设、部署模式和产品路线图来构建。这完全自然,但也恰恰是 CIO 必须保持谨慎的原因,”他说。

让 AI 供应商的员工在企业部署决策中拥有过大的话语权,可能会锁定对模型供应商的依赖,进而推高难以有效抗衡的高昂价格。

“FDE 既能加速部署,也能同时加深依赖关系,”Gogia 说。“前沿 AI 厂商已不再满足于出售模型访问权。它们越来越希望塑造企业部署智能的方式。那才是更大的奖赏。”

FDE 团队离开后会发生什么?

咨询公司 Acceligence 的 CEO、曾任麦肯锡北美网络安全业务负责人的 Justin Greis 表示,FDE 离任后的风险非常严重,而且往往被低估。

首先,FDE 团队会从企业部署中学到大量运营细节。尽管保密协议(NDA)和保密合同能保护其访问的任何数据,但它们通常不会约束所观察到的流程和程序。

“这些经验绝对会被从一个客户带到另一个客户,”Greis 说。“帮助部署 AI 的人所学到的,远不止工作说明书里写的内容。他们会了解真实的工作流程、没有记录在案的例外情况、数据质量缺口、审批瓶颈、安全变通办法,以及业务依赖少数人知道流程出问题时该怎么办的那些环节。这些知识可能与数据本身一样敏感和珍贵。”

另一个关键但常被忽视的问题是:如果 FDE 团队离开,IT 部门对项目还能保留多少实质性控制权。

“危险不在于借助外部帮助。大多数公司都需要外部帮助,”Greis 说。“危险在于以一种让企业在合作结束后能力更弱、依赖更深的这种方式借助外部帮助。”

Solidroad 的 Kim 表示,恰恰是这些运营决策常常被 IT 部门忽视。

“成功的最佳预测指标不是厂商。而是在实施方离开之前,是否有一名内部工程师真正理解了这个系统。重要的是,演示结束后由谁负责评测闭环,”Kim 说。

“当模型版本变更时,我们的提示词、评分器和防护栏会怎样?如果我们明天暂停这个项目,究竟会有什么停止运作——是设计使然还是意外所致?”Kim 问道。“在合作结束后,你希望企业的 AI 学习、控制权和依赖关系留存在哪里?”

Kim 认为,可观测性——即理解和管理复杂企业环境中所有要素的能力——是一项关键职能,而 IT 部门对其关注往往不足。确定项目使用的是企业自己的可观测性技术栈还是厂商的可观测性技术栈至关重要。

“如果实施方使用的是他们自己的可观测性技术栈,在构建阶段没问题,但在他们离开之前,你需要一个将其迁移到你自有系统的计划;否则,可见性会随他们一起消失,”Kim 说。“如果他们用的是你的,那就是最好的情况。这意味着他们是在你的团队将长期运营的系统之内开展工作。”

当他们既不使用企业自身的可观测性技术栈,也不使用供应商的可观测性技术栈时,就会出现一个大问题。“两者都不用意味着他们在构建系统时完全没有生产环境的可观测性层,你接手的是一个你无法透视的系统。生产环境第一次出问题时,你没有追踪记录、没有故障历史,也无法判断问题是模型退化、数据问题还是代码缺陷,”Kim 说。

“如果在构建阶段可观测性就不是优先事项,那么评测和回归测试通常也不是,因此你接手的是一个既无法度量、也无法安全修改的系统。这是最糟糕的交接局面,”他说。

权衡其他选择

虽然 FDE 这种模式并不新鲜,但它直到现在才开始流行起来,而这类专家的数量有限。这意味着并非所有公司都有使用 FDE 的选项。

Gartner 的 Henein 表示,这种可用性脱节在美国以外的部署中尤为突出,因为驻场的 FDE 更为稀缺。“开发在哪里进行?该地区可能没有可用的 FDE,”他说。

企业还有很多其他途径可以获得 AI 方面的帮助。编程效率工具供应商 Kodezi 的 CEO Ishraq Khan 鼓励 IT 高管考虑广泛的选择,但他指出,所有方案都有重大缺陷。

“传统咨询公司通常在治理、流程、合规和组织协调方面更强。他们了解大型企业在政治和结构上的运作方式。缺点是许多公司行动较慢,而且往往缺乏深入的前沿 AI 专业化能力,”Khan 说。

Greyhound Research 的 Gogia 说得更为生动:传统 IT 咨询公司“知道如何让法务、风险、安全、财务、人力资源和业务部门坐到同一间屋子里,而不让任何人把地毯点着。对于受监管的企业来说,这一点很重要,”他说。

Khan 表示,专业 AI 咨询公司则有一套不同的优势。“AI 原生咨询公司行动快得多,技术上也往往更与时俱进,但许多公司在运营上仍不成熟。有些公司能做出令人印象深刻的演示,却并不完全理解长期可维护性、治理或生产环境的可靠性。”

Acceligence 的 Greis 对引入外部 AI 帮助的另外两种选择发表了看法。使用独立承包商“在评测设计、架构评审、红队测试、Agent 设计,或帮助陷入停滞的团队突破瓶颈方面可能非常有效,”他说,但这会增加“关键人员依赖”的风险,即只有一个外部人员了解整个系统。

至于收购 AI 公司并吸纳其员工(即所谓的“人才收购”),Greis 表示,当被引入的 AI 能力和专业知识对收购方企业真正具有战略意义时,这种做法可以行之有效。但存在一个风险:被收购的团队可能会被母公司的官僚体系所窒息。“你买下一艘快艇,把它铆接到一艘航空母舰上,然后纳闷它为什么不再动了,”他说。

最后,开源策略可以为企业带来灵活性并减少对供应商的依赖,但“许多公司低估了随之而来的运营负担,”Kodezi 的 Khan 说。“只有当组织拥有内部人才和纪律来妥善维护开源时,开源才有帮助。”

底线是:企业在决定采用哪种方式之前,需要明确自己的真正目标。Khan 为 CIO 提供了几个值得思考的关键问题:“实施之后,部署由谁负责?我们以后能否更换供应商而不必重建一切?如果供应商关系发生变化或消失,会发生什么?我们是在为短期部署速度优化,还是为长期运营韧性优化?”

在任何外部公司可以直接访问企业系统的场景中,IT 部门都必须全程参与。“最糟糕的结果是:企业成功部署了 AI,却不再完全理解自己的系统在底层是如何运作的,”Khan 说。

AI 部署的外部帮助:6 种选择

优点缺点
AI 供应商的前沿部署工程师+ 对所使用的主要模型拥有最专业的知识– 供应商锁定 – 运营细节泄露
传统 IT 咨询公司+ 对变革管理、遗留系统集成、全球推广、治理和运营模式重塑的理解最深入– 可能太慢、太贵或太泛泛
AI 咨询公司+ 比传统咨询顾问拥有更多实际的 AI 部署经验 + 比模型供应商的前沿部署工程师更少供应商锁定– 可能对企业级要求理解不足:安全、身份、可审计性、合规、事件响应、成本控制和长期可维护性
独立承包商+ 适用于精准任务:评测设计、架构评审、红队测试、Agent 设计,或帮助陷入停滞的团队突破瓶颈– 存在“关键人员依赖”风险
“人才收购”一家 AI 公司+ 当被收购的能力真正具有战略意义时行之有效– 被收购的团队可能在现有官僚体系中被窒息
部署开源产品+ 减少对单一模型供应商的依赖 + 对于数据主权、企业系统控制权、成本效益和受监管环境具有吸引力– 企业需承担安全、补丁、评测、部署、监控和生命周期管理的全部责任

Source: Acceligence

相关阅读: