在刷题之前先理解概念

一条结构化的路径，带你掌握前沿部署与应用 AI 面试环节真正考察的核心思想。每个概念都提供直觉理解、完整示例，以及面试官会追问的权衡取舍，并直接链接到该概念出现的真实面试题。你可以把它当作课程大纲来读，也可以直接跳到自己最薄弱的部分。

10 个方向共 182 个概念 · 基础概念免费 · 以地图形式查看

🧠 LLM 与生成式 AI 基础

语言模型的真实工作原理：token、注意力、上下文、采样，以及每个面试环节开场都会问到的 prompting、RAG 与微调之间的抉择。

从这里开始01Tokenization 与 Token免费语言模型读取的不是字符或单词，而是 token：由分词器切分出的子词片段，每个片段被映射为一个整数并嵌入到模型中。Token 是上下文窗口和计费的计量单位，而文本如何被切分成 token 也解释了大量看似奇怪的模型行为，这就是为什么几乎每个面试环节都从这里开始。视频 · 3:24

02上下文窗口免费上下文窗口是语言模型一次能够关注的固定 token 数量，输入和输出共享同一预算。理解它，是能够合理规划 prompt 大小、控制成本与延迟、并判断何时该使用 RAG 的工程师，与那些把所有内容一股脑粘贴进去然后祈祷的工程师之间的分水岭。视频 · 3:05

03Embedding 与向量表示免费Embedding 将一段文本转换为一组数字，并使其在空间中的位置反映语义的相似程度，从而让你可以按含义而非关键词进行搜索。Embedding 是 RAG、语义搜索、聚类和去重背后的引擎，因此 FDE 面试环节会要求你解释余弦相似度，以及那些会悄悄破坏向量索引的陷阱。视频 · 3:21

04直观理解 Transformer免费Transformer 是所有现代大语言模型背后的架构，其核心是自注意力机制，让每个 token 可以并行地关注其他所有 token。FDE 面试环节并不要求数学推导，而是希望你用高管或同事都能听懂的通俗语言，解释注意力为何胜过 RNN、decoder-only 意味着什么，以及为什么长上下文的成本很高。视频 · 3:16

05注意力与自注意力核心注意力计算的是 value 向量的加权和，权重来自每个 token 的 query 与其他所有 token 的 key 的匹配程度。自注意力在单个序列内应用这一机制，使每个 token 都能从其他所有 token 中获取信息，而这种全对全的比较正是成本随序列长度平方增长的原因。FDE 面试环节会考察它，因为它用一个思维模型同时解释了上下文限制、延迟和 KV 缓存。

06RoPE 与位置编码核心自注意力机制本身没有词序概念，因此 Transformer 会将位置信息注入到词元向量中。旋转位置编码（RoPE）通过一个与位置相关的角度旋转查询向量和键向量，使相对位置信息自然体现在点积中，这就是为什么 RoPE 支撑着几乎所有长上下文模型，也是为什么扩展上下文窗口意味着要重新缩放 RoPE。

07Temperature、Top-p 与采样免费在每一步，模型都会为每个可能的下一个词元输出一个概率分布，而 temperature、top-p 和 top-k 等采样设置决定了如何将这个分布转化为实际的选择。FDE 循环会考察这一点，因为它控制着确定性与创造性之间的旋钮：知道什么时候该调低用于信息抽取，什么时候该调高用于头脑风暴，以及为什么同一个提示词给出不同答案是预期行为而非 bug。视频 · 3:20

08受约束解码核心受约束解码通过在每一步对 logits 进行掩码，强制模型的输出符合某个 schema 或语法，使模型只能采样语法仍然允许的词元。它以很小的延迟代价保证输出在结构上有效（JSON、SQL、固定的枚举值），这就是为什么一旦流水线依赖于可解析的模型输出，FDE 循环就会立即使用它。

09提示工程免费提示工程是指在进行检索或微调之前，通过你给出的指令、示例和格式约束来塑造模型行为的实践。FDE 循环会考察它，因为它是你手中最便宜、最快的杠杆，而一个能用结构良好的提示词让模型变得可靠的候选人，已经为项目省去了数周不必要的基础设施工作。视频 · 3:24

10思维链提示核心思维链提示让模型在给出最终答案之前写出中间推理步骤，通过为每个问题投入更多计算来提高多步数学、逻辑和规划任务的准确性。FDE 循环会考察它，因为知道它什么时候有帮助、什么时候只是在浪费 token，以及为什么模型陈述的推理并不总是答案的真正原因，这些能把真正交付过项目的人与只读过博客文章的人区分开来。

11为什么 LLM 会产生幻觉免费LLM 会根据其训练生成最合理的下一个词元，没有内置的真假概念，也没有可供核对的来源，这就是为什么它可能生成自信、流畅却完全捏造的答案。FDE 循环会考察这一点，因为每个企业买家都会问“我们能信任它吗”，而你需要用高管能接受的方式解释原因和缓解措施（接地、拒答、引用、评测）。视频 · 3:19

12微调 vs RAG vs 提示词工程免费提示词工程、RAG 和微调是让模型适配你的问题的三种方式，而在它们之间做选择是 FDE 面试官最爱考察的决策。框架是：先提示词，当模型缺乏所需事实或必须引用来源时加入 RAG，微调则用于改变行为或格式而非知识。三者可以组合使用，并非互相竞争。视频 · 3:23

13RLHF（对齐）核心RLHF 分三个阶段将模型对齐到人类偏好：先基于示范数据进行监督微调，再从人类对输出的两两比较中训练奖励模型，最后用强化学习针对该奖励优化策略，同时用 KL 惩罚将模型锚定在基础模型上。它塑造的是行为和语气而非事实，FDE 面试循环会考察它，因为奖励劫持和 KL 锚定正是部署中真正出问题的地方。

14奖励模型核心奖励模型通过“人类会有多偏好这个输出”来为候选输出打分，它从两两比较而非绝对评分中学习。它是驱动 RLHF 的信号，用于对 best-of-N 采样进行排序，并指导测试时搜索，这就是为什么 FDE 面试循环会考察它如何训练、在哪里泄露，以及结果与过程的区别。

15宪法 AI 与 RLAIF核心宪法 AI 依据一套成文原则对齐模型，使用 AI 生成的反馈而非主要依赖人工标注：模型依据这些原则对自身输出进行批评和修订，然后从 AI 裁判那里学习——由 AI 裁判判断哪个回复更符合原则。RLAIF 在人工标注停滞不前的地方实现规模化，这就是为什么 FDE 面试循环会考察宪法实际编码了什么，以及 AI 裁判继承了谁的偏见。

16KV 缓存核心在自回归解码过程中，模型本需在每一步对之前所有 token 重新计算注意力；KV 缓存存储每个 token 的键和值向量，使每个新 token 只需做注意力计算而无需重算，从而大幅降低逐 token 生成的成本。缓存大小随序列长度乘以批大小增长，成为推理服务中的内存瓶颈，这正是 PagedAttention 的动机所在。FDE 面试循环会考察它，因为它解释了为什么长上下文的推理服务成本高昂，以及为什么瓶颈往往在于吞吐量而非模型本身。

17LoRA 与参数高效微调高级全量微调会更新模型中的每一个权重，训练成本高昂，且每个任务都会产生一个全尺寸的检查点。LoRA 冻结基础模型，转而训练小型低秩适配矩阵，从而得到可交换的微型检查点；QLoRA 进一步加入量化的冻结基础模型，使整个流程能在单张 GPU 上运行。FDE 面试循环会考察它，因为这是在客户数据上适配模型而不耗尽其预算或硬件资源的方法。

18直接偏好优化（DPO）PremiumDPO 直接从偏好对（被选中 vs 被拒绝）对模型进行对齐，无需训练单独的奖励模型或运行 RL 循环。它推导出 RLHF 所优化的同一 KL 约束目标的闭式解，将对齐转化为对策略与冻结参考模型之间对数比率的简单分类式损失。FDE 循环会考察它，因为它是偏好调优的实用默认方法，而它与基于 PPO 的 RLHF 之间的权衡正是判断力的体现。

19策略优化：PPO 与 GRPOCorePPO 和 GRPO 是在 RLHF 和推理训练中将奖励信号转化为模型权重更新的强化学习优化器。PPO 使用裁剪目标和 KL 锚点来保持更新稳定并接近参考模型；GRPO 则去掉了学习到的价值网络，改为在一组采样答案之间对奖励进行归一化。FDE 循环会考察这些，因为 KL 锚点、奖励破解以及 GRPO 的成本节省正是推理管线成败的关键所在。

20混合专家模型（MoE）PremiumMoE 用多个并行的专家块加上一个小型路由器取代了 Transformer 的稠密前馈块，路由器只为每个 token 激活少数几个专家。这将总参数量与每 token 计算量解耦：模型可以拥有数千亿参数，同时在处理任意给定 token 时只做相当于小得多的模型的工作。FDE 循环会考察它，因为“巨大但便宜”的卖点掩盖了残酷的服务成本——每个专家都必须驻留在内存中，尽管大多数时候处于闲置状态。

21缩放定律Core缩放定律指出，模型的损失随其参数量、训练数据和计算量呈平滑的幂律下降，因此你可以在进行更大规模的训练之前预测其收益。Chinchilla 的结果表明，在固定计算预算下，应当同时增长数据和参数（大约每个参数对应 20 个 token），这揭示了许多早期巨型模型严重训练不足。FDE 循环会测试这一点，因为它决定了每一个模型规模和 token 预算的决策。

22推理时计算Premium推理时计算用回答时（而非训练时）的额外计算换取更高的准确率：采样多个解并挑选最佳者，或在奖励模型的引导下对推理步骤进行搜索。它重塑了服务经济学，因为成本现在随查询难度而变化，这正是 FDE 循环考察每 token 准确率权衡以及如何设定 token 预算上限的原因。

23多模态模型与视觉语言模型核心视觉语言模型让大语言模型能够“看见”：它将图像通过视觉编码器和一个投影层处理，把图像转换成语言模型可与文本一起读取的 token。CLIP 风格的对比训练将图像和文本对齐到同一个嵌入空间，支撑图像搜索和零样本分类。FDE 循环会考察这一主题，因为文档、图表和截图理解是常见的部署场景，而其失败模式（计数、细节识别、视觉事实幻觉）非常具体。

24扩散模型核心扩散模型通过学习逆转一个逐步加噪的过程来生成图像、音频和视频：它们从纯噪声出发，在文本提示通过交叉注意力的引导下，一步步去噪生成样本。潜在扩散在压缩空间中运行以提升速度，而无分类器引导则以牺牲多样性换取对提示的遵循度。FDE 循环会考察扩散模型，因为“步数—质量—延迟”之间的权衡，以及它与自回归生成的差异，是任何媒体生成部署中都会遇到的问题。

25语音与语音 AI 核心一个语音 Agent 将自动语音识别（ASR）用于转录音频、大语言模型用于决定回复内容、文本转语音（TTS）用于朗读回复串联起来，并由语音活动检测和插话处理来管理对话轮次。要达到亚秒级的体验，需要每个环节都采用流式处理，并在大语言模型完成之前就开始说话。FDE 循环会考察这一主题，因为跨环节的延迟预算，以及何时放弃级联方案改用端到端语音到语音，正是语音部署成败的关键。

26自回归解码免费大语言模型一次生成一个 token：每一步都要把整个序列重新输入以预测下一个 token，这就是为什么生成是顺序进行的，无法像对已知提示做前向传播那样并行化。这将推理分为并行的预填充阶段和顺序的、受内存带宽限制的解码阶段，这也是 KV 缓存存在的原因，以及长输出成本高昂的原因。视频 · 3:22

27模型路由与级联高级模型路由将每个请求发送到能够处理它的最便宜模型，仅在必要时才升级。大多数生产流量都很简单，因此为每个请求都支付前沿模型的价格，通常是 AI 账单中最大的一笔可避免开支。工程难点在于如何低成本地做出判断，以及在路由器判断错误时知道该怎么做。

28提示缓存与语义缓存高级两种不同的缓存解决两种不同的账单。提示缓存复用模型在稳定前缀上的内部计算，从而降低每次共享该前缀的调用的成本和首 token 时间。语义缓存则在近似的重复问题已被回答过时完全跳过模型，而它也是可能自信地返回错误答案的那种缓存。

29企业部署的模型选择Premium在客户环境中选择模型很少是跑分问题。部署位置、数据处理条款、采购状态和版本稳定性通常在质量进入讨论之前就淘汰了大部分候选，最终胜出的模型是约束条件下最好的那个，而不是可用的最好的那个。

30结构化输出与模式校验Premium当模型的输出要喂给另一个系统时，散文式文本就是负担，而模式（schema）才是契约。受限解码使格式错误的 JSON 不可能出现；用 Pydantic 之类的工具进行校验则能捕获那些仍是合法 JSON 的错误，而恰恰是这些错误会进入生产环境。

31系统一决策模型（Jev）Premium像 TypeSafe 的 Jev 这样的系统一模型返回带校准概率的类型化决策，而不是生成的文本：一个是/否概率、从封闭集合中的选择，或按评分标准层级的分数。它决定了企业流水线中每个 LLM 分类器之后都会遇到的架构问题：什么属于模型，什么留在代码里，置信度阈值放在哪里。

32脏循环模型：循环推理与思维链可监控性Free“脏循环”是 2026 年 10 月在 X 上流传的俚语，指被怀疑将各层循环起来从而能在单次前向传播中完成推理、而不是在监控者可读的思维链中推理的模型。这很重要，因为读取模型推理过程的监督方式能看到的东西变少了：Google 自己的 Gemini 4 Argon 报告就指出 Argon 比早期的 Gemini 模型更难监控，主要原因是它可以在没有思维链的情况下完成更多工作。

33Agent 训练损失掩码PremiumAgent 训练损失掩码决定哪些 token 教会模型采取行动。将工具观察结果保留在上下文中，同时将其排除在助手预测目标之外，并在模板化、截断和批处理之后验证掩码。

34同策略 Agent 蒸馏Premium同策略 Agent 蒸馏利用教师对学生所生成历史记录的反馈来训练学生模型。它解决了干净示范与已部署 Agent 实际访问的状态之间的不匹配，同时仍保留必要的结局验证和行动控制。

🤖 检索与 Agent

检索增强生成端到端、向量搜索、重排序，以及使用工具的 Agent：典型的 FDE 设计轮次。

01检索增强生成（RAG）FreeRAG 通过在查询时检索相关段落并将其放入提示词中，使语言模型基于你自己的数据作答，从而让模型依据真实来源而非记忆来回答。它是几乎所有企业 FDE 部署的默认模式，这也是为什么几乎每一轮都会测试它。视频 · 3:21

02向量数据库免费向量数据库将嵌入向量与元数据一起存储，并使用近似索引快速回答最近邻查询。真正的面试问题不是它们如何工作，而是你什么时候真正需要一个向量数据库，而不是一个库或带 pgvector 的普通 Postgres。视频 · 3:19

03混合搜索（词法 + 向量）核心混合搜索并行运行关键词检索器（BM25）和稠密向量检索器，然后合并它们的结果列表，因为每一个都会漏掉另一个能捕捉的情况。向量会丢失精确代码和生僻术语，BM25 会丢失同义改写，而用倒数排名融合（Reciprocal Rank Fusion）将两者结合通常优于单独使用任何一种。

04分块策略核心分块是指你如何把文档切分成用于嵌入和检索单元，它悄悄决定了整个 RAG 系统的召回上限。如果大小、边界和元数据搞错了，任何重排序器或提示词都无法找回从未被检索到的答案。

05重排序与两阶段检索核心两阶段检索将一个廉价、侧重召回的第一阶段（拉取数十个候选）与一个精确的重排序器（针对查询对每个候选重新打分）配对。当向量搜索返回的结果“大致相关”但正确的那个不在前几名时，这是标准的解决方案，它用一点延迟换取大量精度。

06近似最近邻（ANN）核心暴力向量搜索每次查询的复杂度是 O(N*d)，在数百万向量规模下会崩溃，因此 ANN 用一点点召回损失换取数量级的速度提升。两大主流方法是 IVF（先聚类再探测邻近单元）和 HNSW（在可导航图上行走），并配合乘积量化来压缩内存。不可妥协的习惯是用暴力搜索作为基线来测量 recall@k。

07AI Agent 与工具使用免费Agent 是一个被循环包裹的语言模型，这个循环让它可以选择工具、执行操作、观察结果，并决定下一步做什么。面试官考察的技能是判断力：知道这个循环何时值得它的不可预测性，何时固定流水线更便宜、更快、更安全。视频 · 3:18

08工具 / 函数调用核心工具调用是语言模型向外延伸的方式：它发出一个结构化请求（工具名加 JSON 参数），由你的应用执行并把结果反馈回去。模型的能力取决于你给它的工具，可靠性取决于你的校验，因为它生成的参数是模型输出，绝不能盲目信任。

09多 Agent 编排核心多 Agent 编排协调多个专门的 Agent（规划者、执行者、批评者，或调研者和写作者）朝一个目标努力，决定它们如何通信、流程如何组织、何时停止。困难的判断在于拆分何时有帮助， versus 何时一个精心编写提示词的单个 Agent 更简单、可靠得多。

10护栏核心护栏是围绕非确定性模型包裹的多层确定性检查：输入验证、输出过滤、模式强制、带拒绝机制的置信度阈值，以及针对高风险操作的人工审批。其原则是：将你完全可以信任的控制措施包裹在无法完全信任的核心周围，这样即使模型行为异常，系统也能保持安全。

11Agent 记忆高级Agent 记忆是指 Agent 跨轮次和会话携带状态的方式。短期记忆是存在于上下文窗口中的对话和草稿区，有边界且成本高昂。长期记忆是 Agent 按需写入和读取的外部存储，通常通过 RAG 实现，因此它可以回忆起上周的事实，而无需将它们保留在提示词中。FDE 循环会探测这一点，因为最困难的部分——摘要、持久化什么内容、以及过时或矛盾的记忆——正是 Agent 悄然失效的地方。

12TF-IDF 与 BM25免费BM25 是一种词汇评分函数，开箱即用仍然胜过许多更花哨的方案。它根据查询词在文档中出现的频率（词频）进行评分，并根据这些词在整个语料库中的常见程度进行折减（逆文档频率），还有两项改进：频率饱和，即一个词重复出现 50 次并不会得到 50 倍的分数；以及长度归一化，即长文档不会仅凭篇幅取胜。它是混合搜索中词汇检索部分的支柱。视频 · 3:09

13面向 FDE Agent 的上下文窗口管理免费管理上下文窗口是一门决策学科：在客户私有数据和 token 账单的约束下，决定 Agent 在每一步看到什么。前沿部署工程师将上下文窗口视为需要分配的预算，采用四种操作：写入、选择、压缩和隔离，因为忽视这一点的部署要么运行成本过高，要么可靠性不足以令人信任。视频 · 3:54

14MCP（模型上下文协议）高级MCP 是一个开放标准，用于通过统一接口将 Agent 连接到外部工具和数据，因此一个工具只需编写一次，即可与任何兼容的客户端配合使用。它将 N 乘 M 的集成问题转化为 N 加 M，到 2026 年，交付一个 MCP 服务器已成为前沿部署工作中的常规环节，而不再是新鲜事物。

15Agent vs 工作流 vs 单次调用高级在“Agent”一词之下存在三种架构，它们的区别在于由谁决定接下来发生什么。工作流的步骤是预先写好的；而 Agent 则根据刚刚观察到的结果选择下一步行动。选错架构是 AI 部署中最昂贵的早期决策，而选择更简单的那种通常是正确的。

16ReAct 循环（推理、行动、观察）高级ReAct 是默认的 Agent 模式：模型对要做什么进行推理，执行一个动作，观察结果，然后重复这一过程直到完成。几乎所有的 Agent 框架都是这一循环的实现，因此了解它在哪里失效比了解这个缩写更重要。

17Agentic 评测：评估轨迹，而非答案Premium对 Agent 的最终输出进行评估会漏掉大部分可能出错的地方，因为一个 Agent 可能通过一条花费二十美元、调用了破坏性工具、或纯属侥幸的路径得出一个看似合理的答案。轨迹评估考察的是路径：调用了哪些工具、以什么顺序、用什么参数、以及花费了多少成本。

18权限感知 RAGPremium企业级 RAG 通常先在权限上失败，然后才在相关性上失败。如果索引不知道每个数据块谁可以查看，系统最终会把一份文档引用给从未被授权打开它的人，而这就不是糟糕的回答，而是数据泄露。

19上下文失效模式Premium长上下文不是因溢出而失败，而是因退化而失败，并且以四种从外部看起来一模一样的方式退化：污染、过载、简短偏差和崩溃。指出你遇到的是哪一种，才能把“模型变差了”这种模糊的抱怨变成一个可修复的问题。

20有界自主与人机协同Premium自主性不是一个开关，而是一个按操作设置的旋钮。设计问题在于哪些操作 Agent 可以单独执行、哪些需要审批、哪些绝对不能执行，而答案取决于可逆性和成本，而不是模型看起来有多自信。

21GraphRAG 与上下文检索Premium标准 RAG 独立检索数据块，这无法应对答案分散在多个文档中、或依赖于某个没人写在一处的关系的问题。GraphRAG 构建实体图以便检索可以遍历；上下文检索解决的是一个更廉价的问题：脱离文档的数据块会丢失它所需要的含义。

22查询重写、扩展与 HyDEPremium用户写出的查询往往不像能回答它们的文档。查询重写在检索运行之前弥合这一差距：从对话中解析代词、扩展术语、拆分复合问题，或生成一个假设性答案来代替问题进行搜索。

23Agent 框架与 Agent 的失败方式PremiumLangGraph、CrewAI 和 AutoGen 等框架为你提供状态、检查点和追踪，这涵盖了生产级 Agent 所需的大部分内容，却不含任何让它真正运转起来的东西。它们无法修复的失效模式恰恰是终结试点的那些：永不终止的循环、爆掉的预算，以及悄然累积的工具选择错误。

24嵌入版本与漂移Premium一个嵌入模型的两个版本会产生互不相关的坐标系，因此一份文档的新旧向量之间的相似度并不比与随机文档的相似度更高。把它们混在同一个索引中不会报错，这就是为什么半途而废的迁移会以全速返回自信的胡言乱语。

25索引新鲜度与陈旧性窗口高级陈旧性是一个查询份额数字，而不是语料库份额数字，两者相差一个数量级甚至更多，因为在重建期间发生变化的文档正是人们正在查询的文档。Delta 索引将最坏情况限制在其刷新间隔内，而不管重建需要多长时间。

26Agent 间互操作性（A2A）高级MCP 标准化了 Agent 向下触及的东西，即它的工具。A2A 标准化了它横向触及的东西，即它既不拥有也无法检查的对等 Agent。第二个问题更难，因为对等方在设计上就是不透明的，而且这也是 FDE 最先遇到的问题：客户已经有自己的 Agent，而你无权重新部署他们的。

27后期交互检索（ColBERT）高级双编码器将文档压缩成一个向量，丢失了哪些词承载了语义。交叉编码器保留一切但无法预计算，因此只能用于重排序。后期交互为每个 token 保留一个向量并在查询时进行比较，以大约相当于前者的扫描成本获得接近后者的准确率，代价是存储开销。

28AG-UI：Agent-用户交互协议高级Agent 的工作是长时间运行且部分完成的，因此请求/响应式 API 无法表达它：界面需要展示思考过程、正在执行的工具调用、写到一半的答案，以及底层发生的状态变化。AG-UI 将其标准化为一种带类型的事件流，这正是让你能把 Agent 交付到客户自己的前端、而不是每次部署都重建一个 UI 的关键。

29AP2：Agent 支付协议高级当 Agent 购买某物时，卡组织看到的是一笔没有人在场的交易，而事后所有人关心的唯一问题是谁授权了它。AP2 用三份签名授权书来回答这个问题：一份针对用户要求的内容，一份针对 Agent 选择的内容，一份针对实际收取的金额，这样争议就能依据证据而非聊天记录来解决。

30Text-to-SQL高级Text-to-SQL 将业务问题转化为针对客户数据仓库的查询，其典型失败是查询能够运行并返回一个看似合理却错误的数字。决定它是否可用的不是模型：而是模型被允许看到什么 schema、指标是否以执行结果而非 SQL 文本匹配来衡量，以及产品是否展示其假设并在没有依据时拒绝回答。

31文档解析与提取Premium 从 PDF、扫描件和表单中提取结构化字段，是大多数企业级 AI 流水线的第一阶段，也是大多数试点从未测试过的环节。提取是一个阶梯（文本层、OCR、版面模型、视觉模型），需按页选择；其输出是一个模式（schema），每个字段都带有置信度和位置；而且误差会累积：如果字段错误相互独立，单字段 96% 的准确率意味着十二字段文档完全正确的概率只有 61%。关键决策在于每一页用哪一级阶梯，以及哪些字段仍需人工检查。

32Agent 网关（AI、LLM 和 MCP 网关）Premium Agent 网关是每一次模型调用、MCP 工具调用和 Agent 间请求都要经过的唯一网络跳点，因此身份认证、按工具授权、速率限制、成本计量和审计都在这一处完成，而不是分散在每个 Agent 内部。它决定了客户的安全团队是否能够批准 Agent 的部署，而把它当作反向代理来构建则很容易出错。

33Agent 注册表：发现、清单与终止开关Premium Agent 注册表是关于 Agent 及其所用工具的记录系统：每个 Agent 由谁负责、可以做什么、哪个版本在线上运行，以及如何将其关闭。有两个不同的东西共用这个名字：一个是类似 MCP Registry 的发现目录，另一个是网关强制执行的企业清单；混淆二者正是导致一家公司最终拥有数百个无人能列出的 Agent 的原因。

34Agent 可观测性与遥测（OpenTelemetry GenAI）Premium 一次 Agent 运行是一棵由模型调用、工具调用、检索和内存读取组成的树，对它进行观测意味着追踪这棵树，在调用、运行和集群层面进行度量，并关联最终结果。OpenTelemetry 的 GenAI 规范现在已为 span 和指标命名（invoke_agent、execute_tool、每次运行的工具调用次数），这使得追踪数据可以在不同厂商之间移植，但这些规范仍标记为开发阶段，且内容捕获采用选择性加入——这是有充分理由的。

35Agent 训练场：环境、验证与训练Premium Agent 训练场是一个可重置的环境，用于通过动作及其后果来测试或训练 Agent。了解它的契约、独立验证、隔离性、留出任务，以及“先评测后训练”的决策。

📊 评测与机器学习基础

这些指标和方法能告诉你一个系统是否有效：精确率/召回率、评测集、LLM-as-judge，以及仍在被考察的经典机器学习。

01面向机器学习的信息论：熵、交叉熵、KL 散度与困惑度Core 信息论中的四个量在机器学习中反复出现：熵度量一个分布的平均意外程度，交叉熵是训练分类器和语言模型的损失函数，KL 散度度量一个分布与另一个分布的距离，而困惑度则是从分支因子角度直观理解语言模型损失的方式。知道每个量出现在哪里，能区分出真正调过损失函数的人与只会导入现成损失函数的人。

02精确率、召回率与 F1免费精确率问的是你的正类预测中有多少是对的；召回率问的是真实的正类中你捕捉到了多少。二者相互权衡，F1 是它们的调和平均数，而一旦类别不平衡，准确率就会骗你。视频 · 3:32

03梯度下降与学习率免费梯度下降几乎是所有模型的学习方式：计算损失相对于权重的斜率，然后让权重朝下坡方向迈出一小步。学习率决定步长，它是影响最大的单一参数。太小则训练缓慢爬行；太大则会越过最优点并发散。视频 · 2:34

04偏差-方差权衡免费偏差是模型过于简单、无法捕捉规律所产生的误差；方差是模型过于灵活、记住了噪声所产生的误差。总泛化误差大致是二者之和，而模型拟合的全部技巧在于同时把两者都压低，而不是用一方换取另一方。视频 · 3:30

05过拟合与正则化免费过拟合是指模型学到的是训练数据中的噪声而非信号，因此在见过的数据上表现出色，在没见过的数据上一塌糊涂。你可以通过训练误差与验证误差之间的差距发现它，并用更多数据、正则化、早停、dropout 以及诚实的交叉验证来对抗它。视频 · 3:16

06黄金数据集与评测集免费黄金数据集是从真实使用中抽取的、有代表性的、带标注的样本集合，与所有调优过程隔离，用作判断某项改动变好还是变坏的固定标尺。在传统机器学习中它被称为测试集；在 LLM 系统中它就是评测集。无论叫什么，它都是你构建的最有价值的资产，因为没有它，你就只能凭感觉上线。视频 · 3:36

07校准与不确定性核心当模型的置信度与其准确率相匹配时，模型就是校准良好的：在它判定为 80% 可能的预测中，大约应有 80% 是正确的。现代神经网络和 LLM 通常过度自信，因此原始概率或自称“我有 95% 的把握”本身并不可信。你可以用温度缩放或等渗回归来修复它，用共形预测获得无需分布假设的覆盖率，然后利用校准后的置信度来弃权、路由或升级给人工处理。

08LLM 作为评判者核心LLM 作为评判者（LLM-as-a-judge）使用一个强大的模型根据明确的评分标准对输出进行打分，从而使评测规模超越人工只能阅读几百个样本的限制。只有当你用 50-100 条人工标注对评判模型进行了校准并报告其一致性程度之后，它才算得上真正的评测，因为未经校准的评判者只是一个自信的 opinion。

09评估 RAG 系统核心 RAG 评估的核心原则是将检索和生成分开打分，因为它们失败的原因不同，而无法隔离的问题就无法修复。检索用召回率@k、精确率@k、MRR 和 NDCG 对照黄金集进行评分；生成则评估忠实度和答案相关性，通常使用 LLM 评审。召回率@k 是下游一切指标的上限。

10A/B、金丝雀与影子测试核心离线评测只能告诉你一个改动“可能”更好；在线测试才能告诉你它“确实”更好。A/B 测试将用户随机分配到不同版本之间，以统计显著性衡量真实影响。金丝雀发布将一小部分线上流量路由到新版本以限制影响范围，影子测试则在不影响用户的情况下镜像真实流量到新版本，让你可以在任何用户接触到它之前安全地进行验证。

11多臂老虎机核心老虎机算法是不确定性下的在线决策：你有多个选项（臂），每个选项的收益未知，而每一次选择既获得奖励，也让你学到东西。核心矛盾在于探索与利用：是尝试不确定的臂以学习，还是拉动当前最优的臂以获胜。Epsilon-greedy、UCB 和 Thompson 采样平衡这一权衡；上下文老虎机则根据特征为每个请求做出选择。与固定的 A/B 测试不同，老虎机会随着学习将流量逐渐转向赢家，从而降低运行输家的成本。

12离线与在线评估高级离线评估将改动对照固定的黄金集打分：快速、廉价、可重复，并可在任何东西上线前在 CI 中运行。在线评估则在真实流量和真实用户上衡量改动，通常通过 A/B 测试，是衡量影响的唯一真实读数。两者不可互换：由于分布偏移和指标博弈，离线收益经常无法在线上保持。FDE 循环测试的准则是：用离线做门禁，用在线做确认。

13合成数据生成核心合成数据是在人工标注稀缺或昂贵时，用一个强大的模型来制造训练或评估样本：指令/响应对、困难的边界案例、蒸馏目标。只有在附加了真正的质量控制（去重、过滤、多样性、验证）时它才有效，跳过这些则会悄无声息地失败，因为你可能污染自己的训练集并污染自己的基准。

14基准测试及其局限核心 MMLU、HumanEval 和 HELM 等公开基准给出一个可比较的单一数字，这正是它们充斥排行榜的原因。但它们对于模型能否胜任你客户的任务只是一个很弱的代理指标，原因包括训练-测试污染、对基准的过拟合、狭窄的构念效度，以及通用测试与具体工作之间的差距。可信的做法是构建针对具体任务的评测集，而不是引用排行榜。

15灾难性遗忘核心当你在新数据上微调模型时，梯度更新会覆盖编码旧技能的权重，因此模型在狭窄的新任务上变得更好，却在它原本擅长的事情上悄悄变差。在实践中，当为客户任务微调的模型失去通用指令遵循能力时，这个问题就会显现。解决方法包括重放数据、LoRA 等参数高效方法、更低的学习率、向基座模型正则化，以及始终在微调前后于留出的通用数据集上进行评估。

16损失函数免费损失函数是你实际优化的目标，选错了会悄悄破坏下游的一切。MSE 对离群值惩罚重，MAE 随误差线性增长，Huber 折中两者，交叉熵是分类的默认选择，对比损失则用于塑造嵌入。规则是：损失必须与你被评判的指标相匹配。视频 · 3:31

17激活函数免费没有非线性激活，堆叠层就毫无意义：整个网络会坍缩成一个线性映射。Sigmoid 和 tanh 会饱和并在深层网络中杀死梯度，ReLU 解决了这个问题却引入了死神经元，而 LeakyReLU、GELU 和 SiLU 修补了死神经元问题。Softmax 用于归一化类别得分和注意力权重。视频 · 3:11

18归一化：Batch vs Layer核心对激活值进行归一化能让它们在流经深层网络时保持尺度稳定，从而加速训练并允许使用更高的学习率。Batch norm 跨批次归一化，存在恼人的训练/评估差异和小批量陷阱；layer norm 对每个样本跨特征归一化，这正是 transformer 使用它的原因。RMSNorm 则进一步做了简化。

19处理不平衡数据核心在 99 比 1 的类别划分中，一个总是预测多数类的模型能达到 99% 的准确率却什么也抓不到，这就是为什么在不平衡数据上准确率会撒谎。解决方法包括重采样（SMOTE、欠采样）、类别权重和阈值调整，并以 PR-AUC 和特定精度下的召回率来评判，而不是准确率。最大的陷阱是在划分数据之前就进行重采样。

20神经网络基础：从感知机到 MLP免费感知机是带阈值的单个线性单元：它只能分离一条直线能切分的数据，这就是它 famously 无法学习 XOR 的原因。堆叠带非线性激活的隐藏层，你就得到了多层感知机——一个能学习自身特征的通用逼近器。前向传播产生预测；反向传播只是通过链式法则进行的梯度下降。视频 · 3:06

21半监督学习与自训练核心半监督学习使用少量带标签数据加上大量无标签数据池。自训练用模型自身的高置信度预测为无标签数据打标并重新训练；一致性正则化强制模型对输入的扰动副本给出相同答案。当标签稀缺但无标签数据充足且聚类假设成立时，它很有帮助；而当模型错误却很自信时，它会因确认偏误而产生反效果。

22凸优化与非凸优化核心凸损失函数只有一个全局最小值，因此从任意起点进行梯度下降都能达到最优解：这就是逻辑回归、线性回归和线性 SVM 训练可靠的原因。深度神经网络是非凸的，有许多局部最小值和更多的鞍点，但 SGD 仍能找到好的解。理解其中的原因会改变你设置初始化、学习率和重启策略的方式。

23计算机视觉：分类、检测、分割核心视觉任务构成一个空间精度递增的阶梯：分类为整张图像打标签，检测围绕物体绘制边界框，语义分割按类别为每个像素打标签，实例分割则逐像素区分单个物体。每种任务都有自己的输出格式和指标（top-1 准确率、不同 IoU 阈值下的 mAP），而 CNN 与视觉 Transformer 在这些任务上的权衡方式各不相同。

⚙️ AI 生产环境系统设计

把 notebook 演示变成客户信赖的部署：幂等性、重试、可观测性、延迟和私有部署。

01从概念验证到生产免费在演示中正确回答了一个问题的 notebook 并不是交付物。生产环境是那些不起眼的工作，它把一次性的成功变成客户无需你在场就能运行、信赖和运维的系统。弥合这一差距是 FDE 工作的大部分内容。视频 · 2:48

02AI 成本与单位经济效益核心单位经济效益是决定 AI 部署能否上线的粗略估算：由输入和输出 token 驱动的单次请求成本，乘以数量，再与其所替代的人工或手动流程基线进行比较。它还决定了 API 与自托管的盈亏平衡点——只有当真实利用率超过某个阈值时，天平才会转向你自己的 GPU。

03重试、指数退避与抖动免费当调用因瞬时错误失败时，立即重试是最糟糕的做法：它会给本已不堪重负的服务叠加负载，并让所有客户端同步形成踩踏。指数退避可以拉开重试的间隔，而抖动则让客户端去同步，避免它们齐刷刷地同时到达。视频 · 2:33

04幂等性核心幂等操作无论应用一次还是五次，产生的最终状态都相同，这正是在重试和至少一次投递意味着每个请求可能到达两次的世界里你所需要的。没有它，一次丢失的响应会把一笔扣款变成两笔；有了它，重复请求就是一次空操作。

05限流核心限流限制客户端或整个集群访问资源的速度，防止流量突发或某个失控的调用方压垮脆弱的下游服务，或耗尽你的第三方 API 配额。有趣的部分在于如何在多台机器上无竞态地实施限流，以及在达到上限时决定是拒绝还是排队。

06AI 系统的可观测性核心你无法运维你看不见的东西，而 AI 系统有着普通服务所没有的故障模式：提示词、检索到的上下文、模型输出，以及质量随时间的缓慢漂移。AI 的可观测性意味着用共享的请求 ID 对链路的每个阶段进行日志记录和追踪，这样当答案出错时，你可以精确还原原因。

07延迟优化核心在动手之前先测量 p50、p95 和 p99，然后找出时间究竟花在哪里：分词、检索、推理还是后处理。一个耗时 1.5 秒的朴素 RAG 流水线，通常可以通过缓存、并行化检索、选择更小的模型以及流式输出首个 token，达到低于 100 毫秒的感知延迟，按此收益顺序实施。

08VPC 与物理隔离部署高级大型企业不会让数据离开其安全边界，因此你要把软件部署在客户的私有 VPC 内，通过 PrivateLink 而非公共互联网访问其数据，通过其 SSO 进行身份验证，并对静态和传输中的所有数据进行加密。对于物理隔离环境，你还需要交付自托管模型。这是前沿部署工程师的核心工作。

09熔断器与背压高级熔断器会停止调用已经出现故障的依赖，避免一个病态的服务拖垮所有依赖它的东西。背压是同一场战斗的上游半场：当下游无法跟上时，你应让调用方放慢速度或丢弃负载，而不是把工作堆积进无界队列。

10本体（语义层）Premium本体是以对象、链接和动作对企业建立的共享模型：即公司争论的那些“名词”、它们之间的关系，以及可以对它们做什么。Palantir 在 Foundry 中将这一理念产品化，此后整个行业纷纷效仿，因为将 AI 系统建立在客户自己的词汇体系上，正是使其可用且可审计的关键。

11行走骨架（先做薄切片）Premium行走骨架是贯穿系统、真正能跑起来的最薄端到端路径：每个组件都在，每条边界都跨过，但几乎没有什么是做精了的。这是企业部署中正确的第一步，因为风险存在于集成之中而非逻辑之中，而只有一条能跑通的路径才能证明集成确实存在。

12面向集成的 REST API 设计Premium你交付给客户的 API，是部署完成后他们的工程师要长期与之打交道的部分，因此评判标准是它给对方带来的意外有多少。资源和动词是容易的一半；版本控制、分页、错误结构和幂等性才决定了他们的集成下个季度是否还能继续正常工作。

13面向客户部署的容器与 KubernetesPremium容器让你的软件在客户的基础设施上以与在你这里相同的方式运行，这已经占了大部分价值。Kubernetes 增加了调度、自愈和滚动更新，也增加了一种运维负担，只有在许多部署从未达到的规模下才值得付出。

14一致性、CAP 与你的工作流真正需要什么PremiumCAP 定理指出，当网络分区时必须在可用性与一致性之间做出取舍，而它被引用的次数远多于被实际应用的次数。对部署而言更有用的版本更窄：针对每个操作决定一次读取可以容忍多旧的数据，因为大多数工作流能容忍几秒的滞后，而少数则完全不能容忍。

15消息队列与发布/订阅Premium队列将快速的生产者与缓慢的消费者解耦，并吸收那些否则会拖垮下游系统的突发流量。真正重要的设计决策是投递语义、顺序范围，以及永远无法成功的消息该如何处理，因为最后这一项会悄悄累积，直到有人去查看。

16降级方案与供应商故障切换Premium你承担着可用性承诺，而你的模型供应商并不受你控制。故障切换意味着提前决定一个降级后的答案是什么样子，因为另一种结果是上游的故障变成客户工作流中的故障，而签合同的是你。

17Palantir 的平台：Foundry、AIP、Gotham 和 ApolloPremiumPalantir 发明了前沿部署模式，其产品术语在 FDSE 面试中被视为必备知识。Foundry 是围绕本体构建的数据到决策平台，AIP 将模型嵌入这一受治理的层中，Gotham 服务于国防和情报领域，而 Apollo 则是将这一切交付到无人能 SSH 进入的环境中的方式。

18部署模式：SaaS、BYOC、本地部署和物理隔离Premium软件运行在哪里既是技术决策，也是商业决策。BYOC 将数据平面放在客户自己的云账户中，同时由你继续运营，这既满足了大多数企业数据要求，也把整个行业最棘手的运维难题交给了你：在一个你无法窥视的环境中运行软件。

19企业 AI 参考架构Premium大多数企业 AI 部署都有相同的七个层次，而设计轮面试很大程度上是在考察你能否说出这些层次以及每一层会出什么问题。把这套参考架构记在脑中，就能把一个模糊的题目变成一份可以逐项核对的清单，这也是优秀的候选人在系统设计面试中从不显得迷茫的原因。

20SLO、SLI 和错误预算PremiumSLI 是度量指标，SLO 是你为自己设定的目标，SLA 是你签署的合同。错误预算是 SLO 留下的余量，把它当作可以花掉的额度而不是必须死守的底线，正是能持续交付的团队与停滞不前的团队之间的区别。

🔁 MLOps 与生命周期

安全地交付和运营模型：漂移、模型注册表、CI/CD、监控和特征存储。

01数据漂移与概念漂移Core模型会以两种方式失去准确性：它看到的输入开始变得不同（数据漂移），或者从输入到输出的真实映射在其底层发生了变化（概念漂移）。两者的解决方法不同，因此 FDE 的技能在于在伸手重新训练之前，先诊断出你遇到的是哪一种。

02模型注册表与晋升Core模型注册表是每个模型版本的事实来源，记录了产生它的数据和代码，以及它在评测套件上的得分。晋升是从已注册候选模型到线上服务的受控路径：通过各道关卡，在影子或金丝雀环境中浸泡，然后切换别名，使流量原子性地迁移，回滚只需一步。

03模型的 CI/CDCore模型的 CI/CD 看起来像代码的 CI/CD，但它同时交付数据、权重和提示词，其合并关卡是针对黄金数据集的评测套件，而不是通过的单元测试。流水线进行训练、评估、注册，在影子或金丝雀环境中浸泡，然后晋升，每个输入都有版本控制，因此任何一次发布都是可复现的。

04模型监控核心模型监控就是像监控服务一样监控已部署模型的健康状况：预测分布、输入漂移、延迟、错误率和弃答率，以及模型本应推动的业务指标。面试官考察的技能是问题分诊：区分模型问题与数据或管道问题，并知道哪个信号最先触发。

05特征库高级特征库是一个中央场所，将特征计算一次，然后从同一份定义同时提供给训练（离线、批量）和推理服务（在线、低延迟），这消除了 ML 中最常见的生产环境 bug：训练/服务偏差。它还处理时间点正确性，确保回填不会泄露未来数据。坦率地说，大多数早期团队并不需要它。

06模型版本控制与迁移高级你应用底层的模型会发生变化，无论你是否主动要求。提供商发布新快照、弃用旧快照并给你一个过渡窗口，因此什么都没固定的部署会面临质量在暗中漂移，而什么都固定的部署最终会在别人安排的时间表上被迫切换。

07评测回归套件与 CI 门禁高级只在上线前运行一次的评测只是一份报告。在每次提示词、工具和模型变更时都运行、并且能够阻止部署的评测才是测试套件，它是唯一能阻止 AI 系统在数月间因无人认为有风险的小改动而悄然变差的机制。

🖥️ ML 基础设施与服务

GPU 所在之处：内存、量化、高吞吐服务，以及让推理又便宜又快的技巧。

01GPU 内存与 VRAM核心VRAM 是决定你实际能运行哪些模型的预算。它花在三件事上：模型权重、KV 缓存和激活值。掌握粗略估算的算术（fp16 下的 7B 模型权重大约 14GB）是区分真正部署过 LLM 的候选人与只读过相关资料的候选人的关键。

02量化核心量化用更少的比特存储模型权重（有时还包括激活值），从 fp16 降到 int8 或 4-bit，从而减少内存占用并加快推理。int8 下的质量损失通常很小，4-bit 下则更大。了解训练后量化与量化感知训练的区别，以及各自何时可以接受，是 FDE 面试的标准考点。

03知识蒸馏核心蒸馏训练一个小型学生模型来模仿大型教师模型，从教师的完整输出分布中学习，而不仅仅是硬标签。软目标携带了关于教师如何“思考”的额外信号，因此学生能以极小的规模和延迟保留大部分质量。当你有延迟或成本预算要达成时，知道蒸馏何时优于量化或剪枝，是 FDE 的标准考点。

04推理服务（vLLM、TGI）核心在延迟 SLO 约束下以高吞吐量服务 LLM 本身就是一个工程问题。连续批处理让 GPU 在处理不同长度的请求时保持忙碌，而 PagedAttention 避免 KV 缓存浪费内存。朴素的逐个请求服务会让昂贵的 GPU 大部分时间处于空闲状态，这正是 vLLM 和 TGI 这类专用运行时存在的原因。

05连续批处理进阶静态批处理将一组固定请求一起运行到完成，因此当一个批次中同时包含一条短回复和一条长回复时，GPU 会在等待最长回复期间空闲。连续批处理在每个解码步骤中向运行中的批次添加和移除序列，使 GPU 保持饱和并成倍提升吞吐量。它是 vLLM 以及所有现代 LLM 服务栈核心的调度技巧。

06PagedAttention进阶将每个序列的 KV 缓存分配为一个连续块，迫使你为最大可能长度预留空间，这会碎片化 GPU 内存并浪费其中大部分。PagedAttention 借鉴了操作系统式的分页机制：它将 KV 缓存存储在固定大小的非连续块中，并通过每个序列的块表进行跟踪，从而实现内存紧凑、按需增长，并可在序列之间共享。这是让 vLLM 能在同一显存中容纳远更多并发序列的核心内存技巧。

07投机解码进阶解码之所以慢，是因为每个 token 都需要对一个受内存带宽限制的巨大模型进行一次完整前向传播。投机解码让一个小而快的草稿模型一次提出多个 token，然后大型目标模型在单次前向传播中验证它们，并保留最长的正确前缀。精心设计的接受规则使输出可证明地与从目标模型采样完全一致，因此你免费获得更低延迟，而不是近似结果。

08分布式训练（FSDP、并行）进阶当模型或其训练状态无法装进单个 GPU 时，你需要将工作拆分到多个 GPU 上。数据并行复制模型并拆分批次；张量并行将单层的计算拆分到多个 GPU；流水线并行将层堆栈拆分为多个阶段；而 FSDP/ZeRO 则对参数、梯度和优化器状态本身进行分片。每一种方法都是用网络带宽换取内存，因此真正的技巧在于组合它们以装下模型，同时让 GPU 保持忙碌。

09GPU 架构与执行核心GPU 不是一台快速的 CPU。它在 SIMT 模型下，跨多个流式多处理器以称为 warp 的锁步线程组运行数千个线程，其真正的约束在于数据在内存层次结构中的移动——从快速的片上寄存器和共享内存到慢速的片外 HBM。理解占用率、合并内存访问和 warp 分歧，正是区分一个达到峰值吞吐量的 kernel 与一个让芯片 90% 时间空闲的 kernel 的关键。

10嘈杂邻居与 KV 公平份额Premium在共享模型服务器上，被争用的资源是 KV 缓存，其消耗与上下文长度成正比。因此，按请求数计数的限流器衡量的是错误的东西：一个十万 token 的请求占用的缓存相当于五十个短请求，所以相同的请求数会让一个租户占据机器的大部分。

🗄️ 数据与 SQL 工程

每一次 AI 部署背后的数据管道：窗口函数、幂等管道、数据质量和变更捕获。

01SQL 窗口函数Free窗口函数在与当前行相关的一组行上计算数值，同时不会把这些行折叠起来，因此你可以在保留每一行的同时进行排名、与相邻行比较或计算累计总和。这是分析师在纯 SQL 中回答“与什么相比？”这类问题的方式，而大多数面试官用它们来区分懂 SQL 的人和只懂 GROUP BY 的人。Video · 2:58

02幂等数据管道Core管道会重试、被重新运行、被回填，而每一次重新运行都必须产生与只运行一次相同的结果。幂等性正是实现这一点的性质：按键通过 upsert 或分区覆盖来写入，绝不盲目追加，这样重试就不会重复计数。这是让管道可以安全运维的唯一关键性质，否则结果就是凌晨两点被告警叫醒，却无法判断再次运行作业是否安全。

03数据质量与校验Core一次部署的成败取决于客户的数据，而这些数据比他们的样本所显示的更糟。工作内容是在边界处构建自动化的质量门（模式、空值、范围、唯一性、新鲜度），隔离坏记录而不是让整批失败，并对坏记录的比率进行告警，以便在仪表盘出错之前发现那种“周二式”的数据退化。这就是会大声失败的管道与悄悄撒谎的管道之间的区别。

04去重与 LS HCore完全重复的记录可以通过对规范化内容做哈希找出来，但近似重复（同一条记录里有个错别字、地址顺序被打乱、跨文档重复出现的模板文字）需要的是相似性而非相等性。MinHash 能以低成本估算 Jaccard 相似度，而局部敏感哈希（LSH）会把相似的签名放入同一个桶，这样你只需比较可能的配对，而不是全部 O(n^2) 的组合。在合并混乱的企业数据和整理训练语料时，这是一种条件反射般的常用手段。

05间隙与孤岛Premium间隙与孤岛是一种 SQL 模式，用于把一串行折叠成连续的区段（孤岛）以及它们之间的中断（间隙）。其技巧是两个行号之差在同一区段内保持不变，从而给同一孤岛内的每一行一个相同的分组键，之后就可以按该键聚合。它支撑着会话化、连续登录天数和连续日期范围查询等场景，面试官也很喜欢它，因为朴素的自我连接答案既慢，在并列情况下还是错的。

06变更数据捕获（CDC）Premium变更数据捕获将源数据库中的行级插入、更新和删除以流的形式输出，使下游系统保持近实时同步，而无需全量重载。其强形式是读取数据库事务日志而非轮询表，这样可以捕获删除操作、保留提交顺序，并且几乎不给源库增加负载。难点在于排序、删除操作的墓碑记录，以及以幂等方式应用流，确保重放不会损坏目标系统。

07ETL 与 ELTPremiumETL 在数据落地之前进行转换；ELT 先以原始形式加载，再在仓库内部转换。廉价的弹性计算使 ELT 成为默认选择，但当数据绝不能以原始形式落地时，ETL 仍然是正确的做法——而这正是 FDE 所部署的大多数受监管客户环境中的情况。

08查询优化与执行计划Premium当客户说某个查询很慢时，答案在执行计划里，而不是凭直觉。读懂执行计划能告诉你引擎是在本应精确查找时进行了全表扫描、在连接中使行数爆炸，还是在跨网络进行数据洗牌——这三种原因除了症状相同之外毫无共同之处。

09Lakehouse、Delta 与奖牌架构PremiumLakehouse 在廉价对象存储之上叠加事务性表格式，使数据湖获得 ACID 写入、模式强制和时间旅行能力，而无需变成数据仓库。其上的奖牌分层（bronze、silver、gold）重点不在于比喻，而在于为每一层指定负责人和契约。

10Spark 内部机制与性能调优PremiumSpark 在没有 shuffle 之前很快，而几乎每一个 Spark 性能问题都是穿着伪装的 shuffle 问题。了解哪些转换会迫使数据跨网络传输，以及如何在 stage 视图中发现数据倾斜，是一个作业四分钟跑完与同一个作业跑一小时的区别。

11维度建模与缓慢变化维度Premium星型模式将数据拆分为事实表（事件，每个度量一行）和维度表（描述性上下文）。难点不在于形状，而在于粒度：在编写任何内容之前先明确一行事实代表什么，因为搞错这一点会让下游的每一个数字都悄悄地出错。

12编排：DAG、重试与回填Premium编排器按依赖顺序运行任务，重试失败的任务，并让你在不破坏历史的情况下重新运行历史任务。调度是容易的那一半。决定一次部署能否存活的那一半，是任务是否幂等，因为编排器的全部价值就在于它会把任务运行不止一次。

13批处理 vs 流处理高级版流处理的构建成本更高、运行成本更高，调试成本更是高得多，所以问题从来不是哪种更现代，而是实际的决策延迟是多少。大多数要求实时的客户其实只需要“足够新鲜”，而有效的做法是把模糊的时效性需求转化为一个具体数字，并与某人实际做出的决策挂钩。

14SQL vs NoSQL: Choosing a Data StorePremiumThe choice is not relational versus modern. It is whether your access patterns are known and your data relational, in which case a relational database is almost always right, or whether one specific property (scale-out writes, a flexible document shape, traversal) dominates enough to give up joins and transactions for it.

🛡️ AI Security, Privacy & Governance

Keeping enterprise deployments safe and compliant: prompt injection, PII, tenant isolation, audit trails, and governance regimes.

01Prompt Injection and DefenseCorePrompt injection is the attack where untrusted text smuggles instructions into a model's context and overrides the system's intent. It comes in two flavors: direct, where the user types the attack, and indirect, where a poisoned document or tool output the model later reads carries it. You cannot fully prevent it, so a competent FDE designs the system so that a successful injection cannot reach anything that matters.

02PII Handling and RedactionCorePersonal data leaks into AI systems through three doors: the prompt you send a model API, the logs you keep for debugging, and the traces you store for evaluation. Handling it means detecting and redacting personal data before it crosses any of those boundaries, then minimizing, encrypting, access-controlling, and expiring whatever you must keep. In regulated industries, logging a raw prompt is the single most common compliance failure.

03Differential PrivacyCoreDifferential privacy is a mathematical guarantee that the output of a computation barely changes whether or not any single person's record was included, so an attacker studying the output cannot confidently tell who was in the data. You buy this guarantee by adding calibrated random noise, and you pay for it in accuracy. The privacy budget epsilon sets the exchange rate; smaller epsilon means more noise and more privacy, and a value like epsilon = 8 is moderate, not strong.

04Audit Trails and TraceabilityCoreAn audit trail is an immutable, queryable record that lets you reconstruct, months later, exactly who triggered a given AI output, with which model and prompt version, over which data. It is evidence for a regulator or a customer's security team, not a debugging log, and the difference is design: correlation IDs threaded end to end, tamper-evidence, and a retention policy. Regulated buyers will not sign without it.

05Federated LearningCoreFederated learning trains one shared model across many devices or organizations without moving their raw data to a central server. Each participant trains locally on its own data and sends back only model updates, which a server averages into a new global model. It is the pattern an FDE reaches for when data legally or physically cannot leave its owner: hospitals, banks, and phone keyboards. The catch is that raw updates can still leak information, so real deployments layer on differential privacy or secure aggregation.

06Multi-Tenancy and Data IsolationPremiumMulti-tenancy is serving many customers from shared infrastructure while guaranteeing no tenant can ever see another's data. The isolation strategies run a spectrum from row-level filtering to fully separate databases, trading cost against blast radius. The non-negotiable rule for AI systems: tenant scope is enforced below the model, in code that filters queries and scopes credentials, never by instructing the model in a prompt. A single prompt-injected document is enough to break prompt-level isolation.

07Mechanistic InterpretabilityPremiumMechanistic interpretability tries to reverse-engineer the actual computations inside a model rather than treating it as a black box: finding the features it represents and the circuits that combine them. The current toolkit centers on sparse autoencoders that decompose dense activations into interpretable features, causal tests like activation patching that prove a feature matters, and steering that turns a behavior up or down at inference. Be honest in interviews: nobody can fully explain a frontier model, you cannot prove a behavior is absent, and feature labels are human guesses.

08AI Governance (SOC2, EU AI Act)PremiumThese are the regimes an enterprise FDE actually meets in the field: SOC 2 for security controls with documented evidence, plus whichever other criteria the report puts in scope, the EU AI Act for risk-tiered obligations on high-risk AI, and data-protection law like GDPR and India's DPDP. In practice they all demand the same primitives: documented controls, human oversight of consequential decisions, audit trails, and disciplined data handling. The FDE move is to design for them from the first deployment, because retrofitting governance into a shipped system is far more expensive than building it in.

09Enterprise SSO: SAML and OIDCPremiumEvery enterprise deployment authenticates through the customer's identity provider, not through your login form. SAML and OIDC are the two protocols that do it, and knowing which one a customer runs, what a token actually asserts, and how group claims map to your permissions is the difference between shipping in week two and waiting on their IT team for a month.

10RBAC, ABAC and Identity at Runtime for AgentsPremiumRBAC grants by role, ABAC grants by evaluating attributes of the user, the resource and the context. Both predate AI, and both break in a new way when an agent acts on someone's behalf: if the agent runs as a service account, every user inherits everything that account can reach. The 2026 answer is that the end user's own identity flows through to every tool call.

11OAuth 2.0, JWTs and Service CredentialsPremiumOAuth 2.0 is delegated authorization: an app acts on a user's behalf without ever holding their password. Knowing which grant fits which caller, what a JWT does and does not prove, and how to act on behalf of a user from a backend is the difference between an integration that passes a security review and one that gets sent back.

12Data Residency and SovereigntyPremiumResidency is where data physically sits; sovereignty is whose law reaches it. They are different constraints and a deployment can satisfy one while failing the other. For an AI system the binding question is usually not where the database lives but where the inference call goes, because a prompt containing customer data is a cross-border transfer.

13IAM and Least PrivilegePremiumLeast privilege means a component can do exactly what it needs and nothing more, and it is enforced by cloud IAM rather than by intention. The reason it dominates enterprise reviews is that an over-permissioned role is the difference between a contained incident and a full-account one, and AI agents made the blast radius larger by giving a compromised role something that acts on its own.

14Secrets ManagementPremiumA secret is anything that grants access: API keys, database passwords, client secrets, model provider tokens. Managing them means they are never in code or images, are fetched at runtime with a short lifetime, and can be rotated without a deploy. In a multi-customer deployment they must also be isolated per tenant, because one leaked key should not reach a second customer.

15Agent Sandboxing and Execution IsolationPremiumThe moment an agent runs code or drives a browser, you are executing untrusted instructions on your infrastructure, because the instructions came from a model that read content you do not control. Sandboxing is the containment layer, and it is where a large share of agent pilots stall on the way to production.

16AI Incident ResponsePremiumAn AI incident is not a normal outage: the system is usually up, and the failure is that it produced something harmful, leaked something, or acted when it should not have. That changes the first move, because you cannot roll back an answer someone already read or an action already taken in the customer's system.

💻 Coding & Engineering Craft

The practical engineering FDE screens reward: parsing messy data, testable design, streaming, and the Big-O that genuinely matters.

01Parsing Messy, Real-World DataFreeCustomer files are dirty: inconsistent quoting, missing headers, junk rows, encodings that lie. The job is to parse defensively, skip and log bad rows instead of aborting the whole batch, and keep parsing pure and separate from business logic so it stays testable and deterministic. This is most of what early FDE data-ingestion work actually is.Video · 3:39

02Big-O That Actually MattersFreeOn a deployment, Big-O is not a whiteboard puzzle; it is the one calculation that tells you whether the customer's data fits in the approach you picked. The skill is spotting the term that dominates at their scale, knowing when brute force dies and you need an index or ANN, and recognizing when constant factors and memory decide the outcome instead of the exponent.Video · 3:22

03Testability and Dependency InjectionCoreCode that reaches out to the clock, the network, the filesystem, or a random generator cannot be tested deterministically, because its output depends on the world. The fix is to separate pure logic from side effects and inject the things that touch the world (the clock, I/O, randomness) so a test can pass fakes. When you inherit untestable code, pin its current behavior with a characterization test first, then refactor under that net.

04Streaming and BackpressureCoreStreaming processes data one chunk at a time so memory stays flat no matter how big the input is. The moment a producer outruns its consumer, you need backpressure: a bounded buffer that makes the producer wait instead of piling unbounded work into memory. In Python this is generators and chunked reads for the streaming half, and a bounded queue (or a blocking put) for the backpressure half. Get it wrong and a 50 GB file or a fast upstream OOMs the box.

05Sliding Window and Two PointersFreeA huge fraction of array and string screens are really one of two patterns. Two pointers walk a sorted structure from both ends or at two speeds; the sliding window keeps a running answer over a contiguous range and slides instead of recomputing. Both turn an obvious O(n^2) double loop into a single O(n) pass, and recognizing which one applies is most of the battle in a 25-minute screen.Video · 3:16

06Heaps and Top-KFreeWhen a problem says top-K, K-th largest, or merge K sorted streams, the answer is almost always a heap. A binary heap gives you the smallest (or largest) element in O(1) and insert/pop in O(log n), which turns a full O(n log n) sort into an O(n log k) scan when you only need the K best. The recurring trick, counterintuitive at first, is to keep a min-heap of size K to find the K largest.Video · 2:50

07Graph Traversal and Topological SortCoreGrids, dependency chains, task schedulers, and path problems are all graphs in disguise. BFS finds shortest paths in unweighted graphs and explores level by level; DFS goes deep and is the backbone of cycle detection. Topological sort orders a DAG so every dependency comes before what needs it, and the same machinery tells you whether a dependency graph has an impossible cycle.

08Caching and EvictionCoreA cache is bounded memory in front of expensive work, so the real design question is what to throw away when it fills. LRU evicts the least recently used entry and is the default; it is built from a hash map plus a doubly linked list to get O(1) get and put. TTL adds time-based expiry. Picking and implementing the right eviction policy is one of the most common practical FDE coding screens.

09Concurrency and the GILCoreConcurrency screens punish people who reach for threads without knowing what Python's GIL does. The GIL means threads do not run Python bytecode in parallel, so threads help I/O-bound work and do nothing for CPU-bound work, which needs processes. The other half is correctness: shared mutable state needs a lock, and a bounded queue is the clean way to hand work between producers and consumers without races.

10Numerical StabilityCoreWhen you implement softmax, cross-entropy, or a running average by hand, the naive formula overflows or loses precision on real inputs. The fixes are a small, reusable toolkit: subtract the max before exponentiating, work in log space with log-sum-exp, and accumulate carefully. ML-adjacent coding screens lean on this, because the candidate who writes exp of a large logit and gets inf has shipped a silent bug.

🤝 The Customer-Facing Craft

The half of the job most engineers under-train: discovery, scoping ambiguity, translating trade-offs, and handling the room.

01Requirements DiscoveryFreeRequirements discovery is the work of finding the real problem hiding behind the customer's stated ask. The request they hand you ("build us a chatbot") is almost never the need; the FDE who surfaces who uses it, what success looks like, what data actually exists, and why the deadline is the deadline is the one who ships something people use.Video · 3:09

02Scoping Ambiguous ProblemsFreeScoping an open-ended prompt ("a city wants to reduce 911 response times") is a structured move, not a flash of inspiration: clarify inputs and constraints, state your assumptions out loud, carve out the smallest useful MVP, name the accuracy/cost/latency trade-offs you are choosing, and plan for what happens when it fails. Diving straight into a model or an architecture is the most common reason candidates get cut in the simulation round.Video · 3:15

03Explaining Trade-offs to Non-EngineersFreeAn exec does not care whether you chose RAG or fine-tuning; they care what it costs, when it ships, and what it might get wrong. Translating a technical trade-off means converting accuracy, cost, and latency into the decision the business is actually making, framing each option as a choice with a consequence in their terms, and answering the question they will all eventually ask: why does the AI give a different answer every time, and why is that not a bug.Video · 3:29

04Stakeholder ManagementCoreA deployment spans the analyst who will use the tool daily and the CTO who signed the check, and those people want different things. Stakeholder management is figuring out who actually decides, building enough trust to be believed when you deliver bad news, and managing expectations so reality never arrives as a surprise. The job is not shipping the system; it is getting people to adopt it, which is a different and harder thing.

05Recovering a Failing Live DemoCoreMid-demo the system throws a stack trace on the projector in front of the customer's executive team. The recovery is not technical heroics; it is composure plus parallelism: keep talking and orienting the room while a teammate triages off-screen, fall back to a prepared path before the silence spikes anxiety, and never blame the data, a teammate, or the room. A clean recovery routinely builds more trust than a flawless demo, because executives are watching how you behave when the thing breaks.

06Pilot Acceptance CriteriaPremiumPilot acceptance criteria connect a test result to a bounded deployment decision. Define eligible work, failure limits, missing evidence and the people who can approve the next step.

07Deployment Decision RightsPremiumDecision rights specify who may approve scope, data use, release and emergency changes. Learn how an FDE can recommend a path without making commitments outside their authority.

08AI Benefits RealizationPremiumBenefits realization connects an AI workflow to observed business improvement. Account for eligibility, actual use, review and rework before turning time saved into a financial claim.

09FDE Practice CharterPremiumAn FDE practice charter defines which work the team accepts, who funds it and who can change commitments. Use admission gates before comparing attractive projects.

10Structured FDE AssessmentPremiumA structured FDE assessment connects job responsibilities to observable evidence and anchored scoring. Separate missing evidence, coached performance and critical failures before making a hiring decision.

11FDE Capacity PlanningPremiumFDE capacity planning reconciles delivery, support, learning and shared work against qualified people and calendar windows. Find the skill bottleneck hidden by a healthy utilization average.

12FDE Practice EconomicsPremiumPractice economics separates service income, attributed product value and fully loaded delivery cost. Test funding decisions without counting influenced pipeline or recovered staff time as cash.

FDE 课程：FDE 面试核心概念（2026）

摘要

要点

全文