构建 FDE 候选人所需的生产级 AI 词汇,从提示工程与检索,到 Agent、评测、护栏、可观测性与部署。

由 The Forward Deployed 编辑团队撰写,已审阅

使用本节内容,构建前沿部署工程师面试所期望的技术词汇和生产判断力。

本路径有意分为两部分:

  • 基础:LLM 应用是如何组装起来的。
  • 生产:它们如何在真实用户、真实数据、延迟、成本、安全与上线压力下存活。

课程页面的运作方式

每节课都使用相同的设置。继续阅读前的提示要求你先给出答案——在继续阅读之前先尝试作答,因为错误的猜测会让讲解更深刻。差 / 好 / 优秀示例会对真实回答进行评分,而关键在于说明为什么“优秀”胜过“好”。

Core

框存放需要记住的那一件事;

Deeper

注释存放初次阅读可以跳过、之后可以回看的细节。

推荐顺序

最佳下一步

如果你是 AI 系统的新手,请从 LLM 应用构建模块开始。

如果你已经掌握基础,并想学习最具杠杆作用的生产主题,请直接跳到评测。

下一步: LLM 应用构建模块 — 从第一个模块开始。

生产级 AI 如何契合 FDE 工作

公司很少聘请前沿部署工程师去发明基础模型。这份工作是把一种通用能力,在单个客户的数据、权限、工作流、延迟预算、安全规则和成功定义之内,变成一个可靠的系统。这使得课程之间的衔接内容比任何单一框架都更重要。

学习顺序与部署流程一致:收集上下文和工具,判断是否值得使用编排,在上线前定义评测,用防护栏限制故障,对系统进行观测,控制成本和延迟,满足安全与合规要求,并通过客户的运营流程交付。在面试中,说出这些环节之间的关联比背诵定义更有说服力。

达到面试水平的理解是什么样的

  • 你能勾画出最简单且可用的架构,并解释为什么还不足以采用更自主的设计。
  • 你用有代表性的评测集来定义质量,而不是说模型看起来挺准确。
  • 在选择组件之前,你先识别客户最主要的约束——隐私、延迟、成本、采用率或风险。
  • 你能描述系统上线后如何被观测、回滚、交接和改进。

NextLLM 应用构建模块