这是转型系列的第三个目标岗位,与 ML 工程师(更贴近模型和数据)和 AI 基础设施(更贴近 GPU 和服务部署)并列。这个岗位更贴近客户和应用:你是在模型之上构建可运行的系统,而不是训练模型或部署服务它们。在这三者中,它与有产品思维的后端工程师已有的工作重叠最大——也是职位名称最混乱的一个。
一个岗位,四个名称
目前公司至少用四种方式命名这个岗位,而且这些名称并不能清晰地对应工作内容的差异:
| 名称 | 常见场景 | 来源 |
|---|---|---|
| 前沿部署工程师(FDE) | Palantir、OpenAI、Anthropic、面向企业销售的 AI 创业公司 | Palantir 的造词——工程师被“向前部署”到客户现场 |
| AI 工程师 | 创业公司、产品公司 | 由 swyx 的《Rise of the AI Engineer》(2023)推广开来——为什么放这个链接:正是这篇文章命名了这个学科,而不是对它的评论 |
| 应用 AI 工程师 | 模型实验室、AI 优先的产品团队 | “应用”用于与研究岗位区分 |
| 解决方案工程师 / 解决方案架构师,AI | 云厂商、企业级 AI 公司 | 源自售前,但越来越多地参与实际构建 |
无论叫什么名称,共同的核心是:一名工程师,接过别人训练好的基础模型,把它变成一个能用的系统——RAG 流水线、AI Agent、评测、与真实环境的集成——而且往往离客户或产品足够近,能亲眼看到系统出问题。重心在部署边缘,而不是训练过程。
由这种命名混乱引出的两个提醒:
- 搜索所有名称。 如果你只搜“AI 工程师”,会漏掉一半的 FDE 招聘信息,反之亦然。公司经常误用这些标签(截至 2026 年 8 月,一些“AI 工程师”职位其实是训练模型的 ML 工程师岗位,而一些“解决方案工程师”职位则是完全不写代码的纯售前)。
- 根据 JD 正文而非职位名称来判断。 可靠的信号:
| JD 中的信号 | 岗位实际是什么 |
|---|---|
| “与客户深度协作”、“需求模糊”、“从原型到生产”、RAG/AI Agent/评测、出差 | FDE / AI 工程师——即本计划 |
| 训练流水线、PyTorch、实验、数据集、标注、“提升模型质量” | ML 工程师——见那个计划 |
| GPU 利用率、推理优化、Kubernetes、模型服务的吞吐量/延迟 SLO | AI 基础设施——见那个计划 |
| 配额、销售意义上的 pipeline、“技术布道者”、只做演示但对上线系统没有所有权 | 售前 SE——不同的工作,不同的计划 |
适合谁
一名拥有 3 年以上生产经验的后端或全栈工程师,能够设计并独立负责服务、无需指导即可集成第三方 API、沟通清晰——但对 LLM 只有浅层接触经验(用过 API,可能做过玩具项目)。你想在 3–6 个月内进入模型实验室、AI 创业公司或企业 AI 公司,担任 FDE 或 AI 工程师。这是三种转型中最快的一种,因为所需的模型侧深度最浅。
本计划的前提假设
- 基础。 你能交付生产代码,至少熟练掌握 Python/TypeScript 中的一种,并且无需翻译就能与非工程师沟通。这个岗位面向客户的一半是硬性要求,而非加分项——如果你想完全零客户接触,请选择另外两种转型之一。
- 时间投入。 3–6 个月内约 120 小时,每周约 6–8 小时。可伸缩:每周 20 小时、持续 6 周是同一个计划,只是压缩了。
- 目标。 这是一个帮你获得基于模型进行构建的工作的计划,而不是让你成为机器学习工程师。在本计划中你不会训练模型。把两者混为一谈,正是后端工程师在梯度下降上花六个月、而目标岗位根本用不到它的原因。
- 范围。 四个方面:应用层 LLM 技术栈、一个已部署的项目、面向客户的技能,以及面试流程。
- 不在范围内。 超出概念理解层面的模型训练与微调、GPU 推理服务内部机制,以及传统机器学习(特征工程、表格模型)。
有一个假设值得点明:这个岗位大约 60% 是产品工程,25% 是应用模型的判断力(模型能做什么、不能做什么,如何评估它),15% 是咨询技能。你的后端经验几乎完全覆盖那 60%。本计划把时间花在另外的 40% 上。
四个方面
| 方面 | 考察什么 | 你的后端优势 |
|---|---|---|
| 应用层 LLM 技术栈 | 你能否构建经得起真实输入考验的 RAG、AI Agent 和评测? | 中等——API 和流水线经验可迁移;模型判断力是新的 |
| 已部署的项目 | 你是否在模型上交付过不是演示的东西? | 强——生产直觉是差异化优势 |
| 面向客户的技能 | 你能否与非工程师一起界定模糊需求,并进行有说服力的演示? | 因人而异——对 FDE 岗位尤其关键 |
| 面试流程 | 实战构建环节、系统设计、行为面试 | 中等——编码可迁移;现场构建环节是新的 |
计划
阶段 0:解读市场并选定你的方向(约 1 周,约 6 小时)
- 收集 5 份真实职位描述(JD),涵盖全部四种头衔,来自你真正愿意加入的公司。用上面的信号表对每份进行分类;剔除标注错误的。剩下的就是你的目标集合。
- 选定你的方向。 这个角色有两个极端:产品侧 AI 工程师(一个产品、深度负责、较少出差)和现场侧 FDE(多个客户、高度模糊性、经常驻场)。技能相同,每周的日常却不同。想清楚你要以哪种身份推销自己。
- 差距清单。 列出目标岗位集中你目前无法证明的每一项要求。典型清单:超出教程水平的 RAG、评测、Agent 工具使用、面向客户的经历。
里程碑: 一组目标真实 JD、完成正确分类、附有书面差距清单——并且你能说出自己在追求哪种方向以及为什么。
阶段 1:应用型 LLM 技术栈(约 4–5 周,每周约 7 小时)
对话能力加可运行的代码,按以下顺序:
- 正确掌握模型 API。 结构化输出、工具/函数调用、流式传输、上下文窗口预算、提示词缓存、批量与实时定价对比。把 Anthropic 或 OpenAI 文档从头到尾读一遍——为什么选这些:一手资料;大多数第三方 LLM 教程落后 API 数月,教的还是已被淘汰的模式。
- 超越教程的 RAG。 分块策略、嵌入模型选择、混合检索、重排序,以及为什么朴素 RAG 会失败(瓶颈通常在检索质量,而非生成)。RAG 实战讲解 涵盖完整架构。
- 评测——真正的差异化因素。 黄金数据集、LLM-as-judge 及其失效模式、CI 中的回归评测。大多数候选人会跳过这部分;这是你能发出的最强的“确实上过线”的信号。如果只深入学一件事,就学这个。
- Agent 与工具使用。 什么时候该用 Agent 循环而不是流水线、工具设计、护栏、成本/延迟预算。Agent 编排实战讲解 提供系统视角。
- 微调,只需概念层面。 知道它何时优于提示词 + 检索(对这个岗位来说很少见)以及成本是多少,这样你才能在读了新闻标题的客户面前有理有据地反对它。
可以跳过的内容: 从零训练、RLHF 细节、GPU 推理服务、LangChain 式框架深度钻研(框架更迭太快;截至 2026 年 8 月,持久的层是模型 API 和设计模式,参见 What’s Durable vs What’s Hype)。
里程碑: 你能用 30 秒的回答解释:为什么一个 RAG 系统检索到的都是垃圾、在没有标注数据的情况下如何评测一个摘要器、以及什么时候你会拒绝构建 Agent。
阶段 2:已部署的项目(约 4–6 周,每周约 8 小时)
简历上的一行。与真实 LLM 项目指南相同的硬性要求——真实数据、一个服务组件、一套评测方法、已部署且可访问——外加一条针对 FDE 的特殊要求:为不是你自己的用户构建它。 可以是给朋友生意的工具、给公司某个团队的工具、给开放社区的工具——因为这个岗位的核心技能是把别人的模糊需求转化为可运行的系统,而面试恰恰会考察这种转化能力。
最适合这个岗位的项目形态:基于混乱真实语料库的 RAG 系统并附书面评测报告;一个自动化真实多步骤工作流、带护栏和成本预算的 Agent;或者你当前工作中的内部 AI 工具并附采用数据。在这个面试环节,采用数据比架构图更有说服力。
里程碑: 部署的项目 + 一份涵盖用户问题、系统、评测结果以及下一步计划的书面总结——在充满挑战的追问下能够讨论 15 分钟。
阶段 3:面向客户的技能(约 2–3 周,每周约 5 小时,与阶段 2 重叠)
这是后端工程师最常无法证明的表面能力。你需要三种可展示的行为,而不是性格改造:
- 需求挖掘。 练习在 30 分钟的对话中,把模糊的需求(“我们想为客服工单引入 AI”)转化为有明确范围的需求。要真实地做:向两位同事或小企业主朋友各提供一次免费咨询。写下你界定的需求范围。
- 演示。 为非技术观众排练一次 10 分钟的阶段 2 项目演示:问题、现场演示流程、它做不到什么。在 AI 演示中,说明它做不到什么才是建立可信度的关键动作。
- 实战故事。 准备两个你应对模糊性或棘手利益相关者的故事。FDE 行为面试轮对这些的重视程度与技术轮相当。
里程碑: 一段你会展示给招聘经理的录制演示排练,以及两份需求挖掘记录。
阶段 4:面试流程(约 2–3 周,每周约 8 小时)
截至 2026 年 8 月,典型的面试流程:
| 轮次 | 考察内容 | 准备 |
|---|---|---|
| 编程 | 标准题目,通常比 SWE 流程更轻 | 轻度复习 |
| 实战构建 / 带回家作业 | 在数小时内构建一个可运行的 LLM 功能 | 阶段 1 + 2 —— 这一轮是门槛 |
| 系统设计 | 设计一个 AI 产品系统(RAG、Agent、评测循环) | AI/ML 系统设计的差异 —— 应用型变体 |
| 客户场景(FDE) | 角色扮演需求挖掘或一次故障部署 | 阶段 3 |
| 行为面试 | 模糊性、责任心、沟通 | 阶段 3 实战故事 |
实战构建轮是 SWE 面试中没有对应环节的一轮:你会被要求现场或以带回家作业的形式交付一个小而可运行的东西,并按判断力来评判——你是否做了评测、是否处理了失败场景、是否把时间预算花在了最重要的事情上。
里程碑: 一次限时模拟构建(3 小时,带最小评测的可运行功能)和一轮模拟系统设计。
各阶段里程碑
| 阶段 | LLM 技术栈 | 项目 | 客户技能 | 面试 |
|---|---|---|---|---|
| 0 | 差距清单 | — | 方向已选定 | 目标 JD |
| 1 | 对话式理解 + 可运行代码 | — | — | — |
| 2 | 应用于项目 | 已部署 + 书面总结 | 为真实用户构建 | — |
| 3 | — | 可演示 | 演示 + 需求挖掘证据 | 故事就绪 |
| 4 | 深度记忆 | 经得起 15 分钟追问 | 场景就绪 | 模拟通过 |
按能力维度划分的资源
应用型 LLM 技术栈
- ai-engineer-notebooks —— 为什么选它:阶段 1 的可运行配套材料——Colab 笔记本按本计划的顺序覆盖模型 API、RAG、评测和 Agent,不依赖任何框架。
- Anthropic 文档 / OpenAI 文档 —— 为什么选它们:一手资料;其中的模式页面(工具使用、Agent、评测)是目前针对这一角色最好的免费课程。
- AI Engineering — Chip Huyen。推荐理由:这是唯一一本聚焦于在基础模型之上构建而非训练基础模型的书;仅评测章节就物有所值。
- 跳过: 特定框架的课程(LangChain、LlamaIndex)——学习模式,而不是封装器;以及任何教你先做微调的内容。
项目与作品集
- Building a Real LLM Project for Your Resume — 关于要求门槛和反模式(API 封装演示)的内容。
- RAG 实战演练 和 Agent 编排实战演练 — 你的项目最可能采用的两种系统形态。
面向客户的技艺
- The Trusted Advisor — Maister。推荐理由:咨询技艺的经典之作;阅读时关注可信度/可靠性/亲密度框架,跳过销售章节。
- Palantir 的 FDE 职位描述 — 推荐理由:这一角色的起源,直接来自源头;阅读一份在招的 FDE 职位,校准“前沿部署”的具体含义。
面试流程
- The AI/ML System Design Interview — What’s Different — 设计轮的框架;对于这一角色,应更侧重应用层部分而非训练流水线部分。
- 跳过: ML 广度题库(偏差-方差、提升方法)——那是 MLE 面试流程,不是这个。如果面试流程考了这些,请重新核对 JD;你可能面的是一个被错误标注的 MLE 岗位。
时间紧张时砍掉什么
如果你有 6 周: Phase 0 用两个晚上完成。Phase 1 压缩为只看 API 文档 + RAG + 评测——除非目标 JD 明确要求,否则跳过 Agent。Phase 2 变成一个小项目:对真实语料库做 RAG 并附上评测报告,然后部署。Phase 3 并入一次演示排练。Phase 4 是一周的模拟面试。
绝不砍掉:
- 评测方法论。“我做了一个 RAG 应用”只是入场券;“这是告诉我检索是瓶颈的评测”才是录用理由。
- 项目必须有真实用户这一约束。为自己做的工具无法证明该角色的核心技能。
- 演示排练,对于偏 FDE 的角色。面试流程会考这个。
可以放心砍掉:
- Agent,如果你的目标 JD 没有提到它们。
- 微调,除了一下午的阅读之外。
- 第二个项目。一个有用户采用的项目胜过两个没有的。
常见失败模式
误按 MLE 面试流程准备。 命名混乱也会吞噬你的准备时间:你苦练梯度提升和偏差-方差,而面试流程却要求你在三小时内构建一个可用的 RAG 功能。先对 JD 分类(§ 一个角色,四个头衔),然后针对该 JD 实际采用的面试流程来准备。
交付一个 API 封装演示。 一个基于模型 API 的聊天界面,没有评测、没有错误处理、没有真实用户,在筛选生产级判断力的面试流程中只会传递出“周末黑客”的信号。门槛是一个能经受恶意输入考验的系统加一份书面评测——参见项目指南。
隐藏后端经验。转型者往往低估了自己真正的差异化优势。市场上充斥着只会写提示词、无法交付可靠系统的构建者;而后端工程师同时又具备模型判断能力的人才是更稀缺的画像。要把生产环境经验放在最前面,把 LLM 技能定位为叠加在上面的新一层。
忽视客户侧的一半。工程师们把探索/演示环节当作可有可无的软性环节,毫无准备。对于 FDE 岗位,这些环节是硬性评分项,而“我从未与非工程师一起界定过工作范围”就是一票否决。两份探索记录加一次排练过的演示,是成本很低的保险。
在简历上堆砌框架。列出六个 LLM 框架传递的信号是“只会跟着教程走”,而不是判断力。一个已部署、带评测的系统,加上对原始模型 API 的熟练掌握,才显得资深。反正到你入职时,这些框架早就换过几轮了。
认为“不过是写提示词”而不屑一顾。这是相反的失败模式:后端工程师从未培养出真正的模型判断力——模型稳定做不到什么、结构化输出在哪里会出问题、为什么评测结果与演示不一致。模型判断这 25% 的部分虽然占比小,却是面试中考察最深入的部分。
拿到 offer 之后
最初的 90 天,关键是交付一个客户或产品团队真正采用的东西——这个岗位对已部署成果的考核比大多数岗位更快。你的后端习惯(可观测性、回滚方案、坦诚的进度汇报)会显得格外成熟。成长路径会分岔:产品侧的 AI 工程师向资深产品工程方向发展;现场侧的 FDE 则向解决方案架构或创始团队方向发展。入职后请重新阅读晋升模型——在面向客户的工程岗位中,职责范围和曝光度积累得异常快。