构建 FDE 候选人所需的生产级 AI 词汇,从提示工程与检索,到 Agent、评测、护栏、可观测性与部署。
由 The Forward Deployed 编辑团队撰写,已审阅
使用本节内容,构建前沿部署工程师面试所期望的技术词汇和生产判断力。
本路径有意分为两部分:
- 基础:LLM 应用是如何组装起来的。
- 生产:它们如何在真实用户、真实数据、延迟、成本、安全与上线压力下存活。
课程页面的运作方式
每节课都使用相同的设置。继续阅读前的提示要求你先给出答案——在继续阅读之前先尝试作答,因为错误的猜测会让讲解更深刻。差 / 好 / 优秀示例会对真实回答进行评分,而关键在于说明为什么“优秀”胜过“好”。
Core
框存放需要记住的那一件事;
Deeper
注释存放初次阅读可以跳过、之后可以回看的细节。
推荐顺序
- LLM 应用构建模块 - AI 应用的基本组成部分。
- 提示工程与结构化输出 - 如何让模型行为清晰且有用。
- 检索(RAG)与向量搜索 - 系统如何将回答建立在外部知识之上。
- 工具使用与函数调用 - 模型如何执行操作。
- Agent 与编排 - 工作流何时变成多步骤。
- 模型上下文协议(MCP) - 工具和上下文如何连接到模型。
- 评测 - 你如何知道系统有效。
- 护栏与安全 - 你如何限制故障。
- 可观测性与调试 - 你如何发现并解释故障。
- 成本与延迟 - 你如何让系统可行。
- 安全、合规与数据 - 你如何让部署值得信赖。
- 部署与 MLOps - 你如何发布和运维它。
最佳下一步
如果你是 AI 系统的新手,请从 LLM 应用构建模块开始。
如果你已经掌握基础,并想学习最具杠杆作用的生产主题,请直接跳到评测。
下一步: LLM 应用构建模块 — 从第一个模块开始。
生产级 AI 如何契合 FDE 工作
公司很少聘请前沿部署工程师去发明基础模型。这份工作是把一种通用能力,在单个客户的数据、权限、工作流、延迟预算、安全规则和成功定义之内,变成一个可靠的系统。这使得课程之间的衔接内容比任何单一框架都更重要。
学习顺序与部署流程一致:收集上下文和工具,判断是否值得使用编排,在上线前定义评测,用防护栏限制故障,对系统进行观测,控制成本和延迟,满足安全与合规要求,并通过客户的运营流程交付。在面试中,说出这些环节之间的关联比背诵定义更有说服力。
达到面试水平的理解是什么样的
- 你能勾画出最简单且可用的架构,并解释为什么还不足以采用更自主的设计。
- 你用有代表性的评测集来定义质量,而不是说模型看起来挺准确。
- 在选择组件之前,你先识别客户最主要的约束——隐私、延迟、成本、采用率或风险。
- 你能描述系统上线后如何被观测、回滚、交接和改进。