这是转型系列的第三个目标岗位,与 ML 工程师(更贴近模型和数据)和 AI 基础设施(更贴近 GPU 和服务部署)并列。这个岗位更贴近客户和应用:你是在模型之上构建可运行的系统,而不是训练模型或部署服务它们。在这三者中,它与有产品思维的后端工程师已有的工作重叠最大——也是职位名称最混乱的一个。

一个岗位,四个名称

目前公司至少用四种方式命名这个岗位,而且这些名称并不能清晰地对应工作内容的差异:

名称常见场景来源
前沿部署工程师(FDE)Palantir、OpenAI、Anthropic、面向企业销售的 AI 创业公司Palantir 的造词——工程师被“向前部署”到客户现场
AI 工程师创业公司、产品公司由 swyx 的《Rise of the AI Engineer》(2023)推广开来——为什么放这个链接:正是这篇文章命名了这个学科,而不是对它的评论
应用 AI 工程师模型实验室、AI 优先的产品团队“应用”用于与研究岗位区分
解决方案工程师 / 解决方案架构师,AI云厂商、企业级 AI 公司源自售前,但越来越多地参与实际构建

无论叫什么名称,共同的核心是:一名工程师,接过别人训练好的基础模型,把它变成一个能用的系统——RAG 流水线、AI Agent、评测、与真实环境的集成——而且往往离客户或产品足够近,能亲眼看到系统出问题。重心在部署边缘,而不是训练过程。

由这种命名混乱引出的两个提醒:

  • 搜索所有名称。 如果你只搜“AI 工程师”,会漏掉一半的 FDE 招聘信息,反之亦然。公司经常误用这些标签(截至 2026 年 8 月,一些“AI 工程师”职位其实是训练模型的 ML 工程师岗位,而一些“解决方案工程师”职位则是完全不写代码的纯售前)。
  • 根据 JD 正文而非职位名称来判断。 可靠的信号:
JD 中的信号岗位实际是什么
“与客户深度协作”、“需求模糊”、“从原型到生产”、RAG/AI Agent/评测、出差FDE / AI 工程师——即本计划
训练流水线、PyTorch、实验、数据集、标注、“提升模型质量”ML 工程师——见那个计划
GPU 利用率、推理优化、Kubernetes、模型服务的吞吐量/延迟 SLOAI 基础设施——见那个计划
配额、销售意义上的 pipeline、“技术布道者”、只做演示但对上线系统没有所有权售前 SE——不同的工作,不同的计划

适合谁

一名拥有 3 年以上生产经验的后端或全栈工程师,能够设计并独立负责服务、无需指导即可集成第三方 API、沟通清晰——但对 LLM 只有浅层接触经验(用过 API,可能做过玩具项目)。你想在 3–6 个月内进入模型实验室、AI 创业公司或企业 AI 公司,担任 FDE 或 AI 工程师。这是三种转型中最快的一种,因为所需的模型侧深度最浅。

本计划的前提假设

  • 基础。 你能交付生产代码,至少熟练掌握 Python/TypeScript 中的一种,并且无需翻译就能与非工程师沟通。这个岗位面向客户的一半是硬性要求,而非加分项——如果你想完全零客户接触,请选择另外两种转型之一。
  • 时间投入。 3–6 个月内约 120 小时,每周约 6–8 小时。可伸缩:每周 20 小时、持续 6 周是同一个计划,只是压缩了。
  • 目标。 这是一个帮你获得基于模型进行构建的工作的计划,而不是让你成为机器学习工程师。在本计划中你不会训练模型。把两者混为一谈,正是后端工程师在梯度下降上花六个月、而目标岗位根本用不到它的原因。
  • 范围。 四个方面:应用层 LLM 技术栈、一个已部署的项目、面向客户的技能,以及面试流程。
  • 不在范围内。 超出概念理解层面的模型训练与微调、GPU 推理服务内部机制,以及传统机器学习(特征工程、表格模型)。

有一个假设值得点明:这个岗位大约 60% 是产品工程,25% 是应用模型的判断力(模型能做什么、不能做什么,如何评估它),15% 是咨询技能。你的后端经验几乎完全覆盖那 60%。本计划把时间花在另外的 40% 上。

四个方面

方面考察什么你的后端优势
应用层 LLM 技术栈你能否构建经得起真实输入考验的 RAG、AI Agent 和评测?中等——API 和流水线经验可迁移;模型判断力是新的
已部署的项目你是否在模型上交付过不是演示的东西?强——生产直觉是差异化优势
面向客户的技能你能否与非工程师一起界定模糊需求,并进行有说服力的演示?因人而异——对 FDE 岗位尤其关键
面试流程实战构建环节、系统设计、行为面试中等——编码可迁移;现场构建环节是新的

计划

阶段 0:解读市场并选定你的方向(约 1 周,约 6 小时)

  • 收集 5 份真实职位描述(JD),涵盖全部四种头衔,来自你真正愿意加入的公司。用上面的信号表对每份进行分类;剔除标注错误的。剩下的就是你的目标集合。
  • 选定你的方向。 这个角色有两个极端:产品侧 AI 工程师(一个产品、深度负责、较少出差)和现场侧 FDE(多个客户、高度模糊性、经常驻场)。技能相同,每周的日常却不同。想清楚你要以哪种身份推销自己。
  • 差距清单。 列出目标岗位集中你目前无法证明的每一项要求。典型清单:超出教程水平的 RAG、评测、Agent 工具使用、面向客户的经历。

里程碑: 一组目标真实 JD、完成正确分类、附有书面差距清单——并且你能说出自己在追求哪种方向以及为什么。

阶段 1:应用型 LLM 技术栈(约 4–5 周,每周约 7 小时)

对话能力加可运行的代码,按以下顺序:

  • 正确掌握模型 API。 结构化输出、工具/函数调用、流式传输、上下文窗口预算、提示词缓存、批量与实时定价对比。把 Anthropic 或 OpenAI 文档从头到尾读一遍——为什么选这些:一手资料;大多数第三方 LLM 教程落后 API 数月,教的还是已被淘汰的模式。
  • 超越教程的 RAG。 分块策略、嵌入模型选择、混合检索、重排序,以及为什么朴素 RAG 会失败(瓶颈通常在检索质量,而非生成)。RAG 实战讲解 涵盖完整架构。
  • 评测——真正的差异化因素。 黄金数据集、LLM-as-judge 及其失效模式、CI 中的回归评测。大多数候选人会跳过这部分;这是你能发出的最强的“确实上过线”的信号。如果只深入学一件事,就学这个。
  • Agent 与工具使用。 什么时候该用 Agent 循环而不是流水线、工具设计、护栏、成本/延迟预算。Agent 编排实战讲解 提供系统视角。
  • 微调,只需概念层面。 知道它何时优于提示词 + 检索(对这个岗位来说很少见)以及成本是多少,这样你才能在读了新闻标题的客户面前有理有据地反对它。

可以跳过的内容: 从零训练、RLHF 细节、GPU 推理服务、LangChain 式框架深度钻研(框架更迭太快;截至 2026 年 8 月,持久的层是模型 API 和设计模式,参见 What’s Durable vs What’s Hype)。

里程碑: 你能用 30 秒的回答解释:为什么一个 RAG 系统检索到的都是垃圾、在没有标注数据的情况下如何评测一个摘要器、以及什么时候你会拒绝构建 Agent。

阶段 2:已部署的项目(约 4–6 周,每周约 8 小时)

简历上的一行。与真实 LLM 项目指南相同的硬性要求——真实数据、一个服务组件、一套评测方法、已部署且可访问——外加一条针对 FDE 的特殊要求:为不是你自己的用户构建它。 可以是给朋友生意的工具、给公司某个团队的工具、给开放社区的工具——因为这个岗位的核心技能是把别人的模糊需求转化为可运行的系统,而面试恰恰会考察这种转化能力。

最适合这个岗位的项目形态:基于混乱真实语料库的 RAG 系统并附书面评测报告;一个自动化真实多步骤工作流、带护栏和成本预算的 Agent;或者你当前工作中的内部 AI 工具并附采用数据。在这个面试环节,采用数据比架构图更有说服力。

里程碑: 部署的项目 + 一份涵盖用户问题、系统、评测结果以及下一步计划的书面总结——在充满挑战的追问下能够讨论 15 分钟。

阶段 3:面向客户的技能(约 2–3 周,每周约 5 小时,与阶段 2 重叠)

这是后端工程师最常无法证明的表面能力。你需要三种可展示的行为,而不是性格改造:

  • 需求挖掘。 练习在 30 分钟的对话中,把模糊的需求(“我们想为客服工单引入 AI”)转化为有明确范围的需求。要真实地做:向两位同事或小企业主朋友各提供一次免费咨询。写下你界定的需求范围。
  • 演示。 为非技术观众排练一次 10 分钟的阶段 2 项目演示:问题、现场演示流程、它做不到什么。在 AI 演示中,说明它做不到什么才是建立可信度的关键动作。
  • 实战故事。 准备两个你应对模糊性或棘手利益相关者的故事。FDE 行为面试轮对这些的重视程度与技术轮相当。

里程碑: 一段你会展示给招聘经理的录制演示排练,以及两份需求挖掘记录。

阶段 4:面试流程(约 2–3 周,每周约 8 小时)

截至 2026 年 8 月,典型的面试流程:

轮次考察内容准备
编程标准题目,通常比 SWE 流程更轻轻度复习
实战构建 / 带回家作业在数小时内构建一个可运行的 LLM 功能阶段 1 + 2 —— 这一轮是门槛
系统设计设计一个 AI 产品系统(RAG、Agent、评测循环)AI/ML 系统设计的差异 —— 应用型变体
客户场景(FDE)角色扮演需求挖掘或一次故障部署阶段 3
行为面试模糊性、责任心、沟通阶段 3 实战故事

实战构建轮是 SWE 面试中没有对应环节的一轮:你会被要求现场或以带回家作业的形式交付一个小而可运行的东西,并按判断力来评判——你是否做了评测、是否处理了失败场景、是否把时间预算花在了最重要的事情上。

里程碑: 一次限时模拟构建(3 小时,带最小评测的可运行功能)和一轮模拟系统设计。

各阶段里程碑

阶段LLM 技术栈项目客户技能面试
0差距清单—方向已选定目标 JD
1对话式理解 + 可运行代码———
2应用于项目已部署 + 书面总结为真实用户构建—
3—可演示演示 + 需求挖掘证据故事就绪
4深度记忆经得起 15 分钟追问场景就绪模拟通过

按能力维度划分的资源

应用型 LLM 技术栈

  • ai-engineer-notebooks —— 为什么选它:阶段 1 的可运行配套材料——Colab 笔记本按本计划的顺序覆盖模型 API、RAG、评测和 Agent,不依赖任何框架。
  • Anthropic 文档 / OpenAI 文档 —— 为什么选它们:一手资料;其中的模式页面(工具使用、Agent、评测)是目前针对这一角色最好的免费课程。
  • AI Engineering — Chip Huyen。推荐理由:这是唯一一本聚焦于在基础模型之上构建而非训练基础模型的书;仅评测章节就物有所值。
  • 跳过: 特定框架的课程(LangChain、LlamaIndex)——学习模式,而不是封装器;以及任何教你先做微调的内容。

项目与作品集

面向客户的技艺

  • The Trusted Advisor — Maister。推荐理由:咨询技艺的经典之作;阅读时关注可信度/可靠性/亲密度框架,跳过销售章节。
  • Palantir 的 FDE 职位描述 — 推荐理由:这一角色的起源,直接来自源头;阅读一份在招的 FDE 职位,校准“前沿部署”的具体含义。

面试流程

  • The AI/ML System Design Interview — What’s Different — 设计轮的框架;对于这一角色,应更侧重应用层部分而非训练流水线部分。
  • 跳过: ML 广度题库(偏差-方差、提升方法)——那是 MLE 面试流程,不是这个。如果面试流程考了这些,请重新核对 JD;你可能面的是一个被错误标注的 MLE 岗位。

时间紧张时砍掉什么

如果你有 6 周: Phase 0 用两个晚上完成。Phase 1 压缩为只看 API 文档 + RAG + 评测——除非目标 JD 明确要求,否则跳过 Agent。Phase 2 变成一个小项目:对真实语料库做 RAG 并附上评测报告,然后部署。Phase 3 并入一次演示排练。Phase 4 是一周的模拟面试。

绝不砍掉:

  • 评测方法论。“我做了一个 RAG 应用”只是入场券;“这是告诉我检索是瓶颈的评测”才是录用理由。
  • 项目必须有真实用户这一约束。为自己做的工具无法证明该角色的核心技能。
  • 演示排练,对于偏 FDE 的角色。面试流程会考这个。

可以放心砍掉:

  • Agent,如果你的目标 JD 没有提到它们。
  • 微调,除了一下午的阅读之外。
  • 第二个项目。一个有用户采用的项目胜过两个没有的。

常见失败模式

误按 MLE 面试流程准备。 命名混乱也会吞噬你的准备时间:你苦练梯度提升和偏差-方差,而面试流程却要求你在三小时内构建一个可用的 RAG 功能。先对 JD 分类(§ 一个角色,四个头衔),然后针对该 JD 实际采用的面试流程来准备。

交付一个 API 封装演示。 一个基于模型 API 的聊天界面,没有评测、没有错误处理、没有真实用户,在筛选生产级判断力的面试流程中只会传递出“周末黑客”的信号。门槛是一个能经受恶意输入考验的系统加一份书面评测——参见项目指南。

隐藏后端经验。转型者往往低估了自己真正的差异化优势。市场上充斥着只会写提示词、无法交付可靠系统的构建者;而后端工程师同时又具备模型判断能力的人才是更稀缺的画像。要把生产环境经验放在最前面,把 LLM 技能定位为叠加在上面的新一层。

忽视客户侧的一半。工程师们把探索/演示环节当作可有可无的软性环节,毫无准备。对于 FDE 岗位,这些环节是硬性评分项,而“我从未与非工程师一起界定过工作范围”就是一票否决。两份探索记录加一次排练过的演示,是成本很低的保险。

在简历上堆砌框架。列出六个 LLM 框架传递的信号是“只会跟着教程走”,而不是判断力。一个已部署、带评测的系统,加上对原始模型 API 的熟练掌握,才显得资深。反正到你入职时,这些框架早就换过几轮了。

认为“不过是写提示词”而不屑一顾。这是相反的失败模式:后端工程师从未培养出真正的模型判断力——模型稳定做不到什么、结构化输出在哪里会出问题、为什么评测结果与演示不一致。模型判断这 25% 的部分虽然占比小,却是面试中考察最深入的部分。

拿到 offer 之后

最初的 90 天,关键是交付一个客户或产品团队真正采用的东西——这个岗位对已部署成果的考核比大多数岗位更快。你的后端习惯(可观测性、回滚方案、坦诚的进度汇报)会显得格外成熟。成长路径会分岔:产品侧的 AI 工程师向资深产品工程方向发展;现场侧的 FDE 则向解决方案架构或创始团队方向发展。入职后请重新阅读晋升模型——在面向客户的工程岗位中,职责范围和曝光度积累得异常快。