OpenAI 的 FDE：将 AI 部署到生产环境，然后让自己变得多余
OpenAI 的前沿部署工程团队深入企业客户现场，弥合部署鸿沟，将 AI 演示转化为横跨农业、半导体和税务领域的生产系统，然后系统性地用可复用的 Skills 和评测替换定制代码，推动模型改进并降低未来的部署工作量。
OpenAI 的前沿部署工程（FDE）团队于 2025 年初在 Colin Jarvis 的领导下成立，其存在的目的是弥合“部署鸿沟”——即模型在演示中能做到的与它们在客户生产环境中可靠交付的之间的距离。FDE 工程师直接驻扎在客户公司内部，与领域专家并肩工作，推动 AI 从“能跑演示”走向“能在生产环境运行”。该团队的使命包含三种模式：当模型已经能够胜任工作时，让解决方案可复用；当模型表现不足时，定义差距并推动研究部门（Research）来弥补；在每次项目结束后，提高下一个客户的起点，最终使 FDE 在这类问题上不再被需要。
案例研究：John Deere——规模化个性化农艺服务
John Deere 是一家拥有 200 年历史的农业设备制造商，需要向农民规模化提供个性化建议。其 See & Spray 精准除草系统利用摄像头和机器学习，只对杂草喷洒除草剂，将化学品使用量减少多达 70%。然而，价值实现取决于农民正确配置设备、规划种植季并根据实际情况进行调整。在集成 OpenAI 的 API 之后，AI 助手用自然语言回答农民的问题，指导设备配置，检测未充分利用的设备，并帮助农民理解他们所获得的价值——贯穿整个客户旅程的持续过程。
原则：先交付成果，再规模化
Jarvis 为团队制定了一条指导原则：“先让它能用，再让它可扩展。”他用 Harrison 的航海天文钟来说明这一点：H1（1735 年）证明了这一概念可以存在；H4（1759 年）使其变得实用。2025 年年中，大约 15 名 FDE 与一家大型半导体制造商合作，围绕 10 多个用例，目标是让芯片验证实现 AI 原生化——涵盖定向测试生成、根因分析与调试，以及架构辅助。在该行业中，验证约占项目工作量的 70%。
几位 FDE 在几天前才加入 OpenAI，且没有半导体背景。他们驻扎在客户的验证团队中，利用业余时间自学芯片设计，并共同设计了评测（用于判断 AI 输出是否满足业务需求的评测套件）和 Harness（用于运行这些评测的框架），以衡量 AI 能否生成有用的测试并正确诊断芯片故障。
在最初的 3-6 个月内，多个场景进入了生产环境：
定向测试生成将时间缩短了约 48%。
内核优化带来了 22% 的中位数性能提升。
原本需要数周的调试周期被压缩到了数小时。
在复盘会上，客户的首席硬件官询问团队是否具备芯片设计经验。Jarvis 的回答是：FDE 不需要在第一天就懂这个领域，但学习它是他们的责任。随着编码速度的提升，理解客户的业务将成为差异化优势。同样的模式也适用于生命科学领域，具有科学背景的 FDE 能够在靶点验证、基因表达分析和化学合成路线重构等任务上，与临床前药物研发研究人员建立信任。
让成功可复制：删除 90% 的定制代码
交付上线只是第一步。Jarvis 将 FDE 的工作分为三个阶段：(1) 接手一个未解决的难题，构建从零到一的解决方案；(2) 当技术条件成熟时，将该方案转化为可复用的软件包；(3) 随着底层模型（Codex）的改进，将定制应用迁移到共享的 Harness 上，作为 Skills 和插件。Codex 本身成为交互界面，而针对各场景的终端 UI 和 CLI 工具则被淘汰。
在半导体项目中，大约 90% 的定制代码被删除了。这带来了三个结果：Codex 中的集中式改进能立即惠及所有用例；关键能力被打包为 Skills 和插件，由客户的 AI 卓越中心管理，便于跨团队共享；扩展到新团队只需更换连接器和 MCP 服务器，然后用一个 Skill 生成新的 Eval——首次部署花了两个月，第二个团队一天就上线了。
Jarvis 称之为“让自己变得多余”——为达到生产环境所做的努力定义了真正重要的东西；一旦基础产品足够强大，大部分定制实现都可以被替换，而价值得以保留。顺序很重要：LLM 让你能够快速构建，所以要快速交付价值，学习哪些东西能在与现实的碰撞中存活下来，然后再进行扩展。
能够删除 90% 的代码本身就是一个目标：持续降低他人对 FDE 的依赖。社区中的一种观察揭示了其中的机制：清晰界定边界的 Eval 让人有信心进行重构；在回归测试套件中加入负面用例能让删除变得更快。以前删除代码风险很大，因为回归测试套件只覆盖了正常路径。代码可以退役，但学到的教训（踩过的坑）绝不能被遗忘。
在企业级 Agent 项目中留存下来的，是 Eval、失败案例，以及提炼进 Skills 的业务知识。为弥补模型不足而编写的胶水代码，应该在每次模型升级时重新审视，并尽可能删除。如果每个新客户仍然需要从零开始编写一套全新的技术栈，那么这项工作还没有从定制应用毕业为可复用的能力。
填补能力缺口：以生产压力驱动模型改进
有时阻碍并非产品可以简化，而是模型根本还无法完成该任务。只有在当前模型失败的问题上不断推进，团队才能发现 Research 下一步需要攻克的方向。
一家已拥有文本客服平台的大型电信客户，目标是扩展到语音——语音承载了约 90% 的客服流量，成本更高，且面临口音、韵律、延迟和准确性方面的挑战。在关键基准上的初始评测得分约为 60%；函数调用和指令遵循能力不足。FDE 负责搭建平台并定义模型需求；Research 负责弥合能力差距；每个模型快照都会针对客户的真实需求进行测试。
六个月内，关键评测分数从约 60% 提升到 80%，再到 90% 以上。
该语音模型现在支撑着电信部署、其他定制客服部署，以及 Presence 的托管部署。一个客户的生产压力带来了惠及众多客户的改进。Jarvis 将此视为另一种形式的“让自己变得多余”：把今天模型无法解决的问题，转化为明天模型能够交付的能力——其回报远超在任何单一客户身上投入的时间。
OpenAI Presence 与 Tax AI：来自真实部署的可复用模式
OpenAI Presence——企业级语音与聊天 Agent 产品——正是从真实客户部署中直接孕育而来。从 Swarm 起步，经由 Agents API 不断演进，如今它已为部分客户处理超过 50% 的呼入电话。每一次生产部署都会揭示哪些问题真正需要定制方案，哪些构建模块可以复用。这些模块被整合进 Presence，让开发者无需重建基础设施即可自动化受监管的工作流。每一次部署都在塑造产品，为下一个客户提供更好的起点。
Tax AI 由 Thrive Holdings 为 Crete 会计师事务所打造，在试点期间处理了 7,000 份纳税申报表，吞吐量提升约 50%。最艰难的挑战是自动化出租物业纳税申报——经过六周的工程开发加上从业者审核，才达到 90% 的精确率和召回率。留下的可复用模式如今正加速向其他复杂税表的扩展，同样的方法也被应用于记账、审计和 IT 支持，系统通过从业者反馈和真实使用持续改进。
去寻找更难的问题
Jarvis 反复告诉团队，在 LLM 开发中通常适用奥卡姆剃刀原理——最简单的方案就是最好的方案。尽管公司拥有前沿研究的声誉，行业中也充斥着炒作，但目标始终是能在人类手中可靠运行的系统。每一次客户合作都必须达成以下之一：让产品更易部署、让模型胜任更难的任务，或减少下一个客户必须编写的定制代码。
文章最后用一个答案回应了开头的焦虑：去找更难的问题。FDE 本质上是人工脚手架——在 AI 还不够强大时的临时辅助。正如一位评论者所说，能够删掉代码，才证明架构真正稳固了。另一位则问，如果 90% 的代码都会被删除，团队花几个月写的到底是什么；答案是：他们写下的是对业务边界的理解，这些最终沉淀为评测（Evals）和 Skills。
对于正在推进企业 AI 落地的人来说，这篇文章是一份关于 FDE 中哪些是持久的、哪些是临时的参考。只有划清这个边界，积累才可能发生。如果你还在为每个新客户从零写一套全新的技术栈，那说明你还停留在定制应用层，尚未提炼出可复用的资产。
原文：https://openai.com/index/forward-deployed-engineering-means
已登录的读者可以通过 BestHub 的受保护跳转链接打开原文来源。
本文由源材料提炼、总结后转载，仅供学习与参考。如您认为本文侵犯了您的权益，请联系我们，我们将及时处理。
AI 工程
专注于 AI 领域（大模型、MLOps/LLMOps、AI 应用开发、AI 基础设施）的前沿产品与技术资讯及实践经验分享。
这篇文章在社区中的反响
这篇文章值得你花时间吗？
0 条评论
有深度的读者会在这里留下实地笔记、不同意见和来之不易的实操细节。