LLM 与 GenAI 基础是 Anthropic 前沿部署工程师面试流程的核心部分。Token、上下文窗口、提示词 vs RAG vs 微调、幻觉、评测、成本与延迟：这是每个 AI 原生 FDE 面试流程首先考察的概念核心。以下是需要准备的 LLM 与 GenAI 基础问题，先是标注为 Anthropic 的题目，然后是我们 LLM 与 GenAI 基础赛道 中信号值最高的问题，每个答案都按资深工程师的标准撰写。

标注为 Anthropic 的 LLM 与 GenAI 基础问题

更多针对 Anthropic 面试流程的 LLM 与 GenAI 基础问题

候选人认为最有用、信号值最高的 LLM 与 GenAI 基础问题，参照 Anthropic 前沿部署工程师面试流程的考察内容设计。

Anthropic LLM 与 GenAI 基础轮次背后的概念

这些问题所假设的词汇和思维模型。基础部分免费开始；更深入、决定面试成败的理念属于付费内容。

基础Token化与 Token语言模型不读取字符或单词。它读取的是 token：由分词器产生的子词片段，每个片段被映射为模型嵌入的一个整数。Token 是上下文窗口和计费的单位，文本如何切分成 token 解释了大量看似奇怪的模型行为，这也是为什么几乎每个面试流程都从这里开始。

基础上下文窗口上下文窗口是语言模型一次能够关注的固定 token 数量，输入和输出共享同一预算。理解它，正是能够合理设计提示词大小、控制成本与延迟、并判断何时该使用 RAG 的工程师，与那些只是把所有内容粘贴进去然后祈祷的工程师之间的区别。

基础嵌入与向量表示嵌入将一段文本转换为一组数字，其位置使得含义相近的内容在空间中彼此靠近，从而让你可以按含义而非关键词进行搜索。嵌入是 RAG、语义搜索、聚类和去重背后的引擎，因此 FDE 面试流程期望你能解释余弦相似度，以及那些会悄悄破坏向量索引的陷阱。

基础Transformer 的直观理解Transformer 是所有现代大语言模型背后的架构，建立在自注意力机制之上，使每个 token 能够并行地关注其他所有 token。FDE 面试流程不要求数学推导；他们希望你用高管或同事都能听懂的通俗语言，解释为什么注意力机制胜过 RNN、decoder-only 意味着什么，以及为什么长上下文的成本很高。

核心登录注意力与自注意力注意力机制计算价值向量的加权和，权重取决于每个 token 的 query 与其他所有 token 的 key 的匹配程度。自注意力在单个序列内应用这一机制，使每个 token 都能从其他所有 token 中获取信息，而这种全对全的比较正是计算成本随序列长度平方增长的原因。FDE 面试循环会考察它，因为它用一个思维模型同时解释了上下文限制、延迟和 KV 缓存。

核心登录RoPE 与位置编码自注意力本身没有词序概念，因此 transformer 会将位置信息注入 token 向量。旋转位置编码（RoPE）通过随位置变化的角度旋转 query 和 key 向量，使相对位置自然体现在点积中，这就是 RoPE 支撑几乎所有长上下文模型、而扩展上下文窗口意味着重新缩放 RoPE 的原因。

基础Temperature、Top-p 与采样在每一步，模型都会为每个可能的下一个 token 输出一个概率分布，而 temperature、top-p 和 top-k 等采样设置决定了如何将这个分布转化为实际的选择。FDE 面试循环会测试这一点，因为它控制着确定性与创造性之间的旋钮：知道何时为信息抽取设置低值、为头脑风暴设置高值，以及为什么同一个 prompt 给出不同答案是预期行为而非 bug。

高级🔒 高级内容LoRA 与参数高效微调全量微调会更新模型中的每一个权重，训练成本高昂，且每个任务都会产生一个完整大小的 checkpoint。LoRA 冻结基础模型，转而训练小型低秩适配矩阵，从而得到可交换的微型 checkpoint；QLoRA 进一步加入量化的冻结基础模型，使整个流程可以在单张 GPU 上运行。FDE 面试循环会考察它，因为这是在客户数据上适配模型而不耗尽其预算或硬件的方法。

Anthropic 的前沿部署工程师面试循环会提出 llm & genai 基础问题，例如“请逐步讲解 LLM 生成响应时实际发生了什么。”、“请端到端讲解 transformer 架构，不用深入复杂数学。”、“什么是 token，为什么 FDE 要关心分词？”。Token、上下文窗口、prompting 与 RAG 与微调的对比、幻觉、评测、成本与延迟：这是每个 AI 原生 FDE 面试循环首先考察的概念核心。完整题集按由易到难排序并附专家答案，如下所示。

请按顺序练习本页的 llm & genai 基础问题，学习下方链接的底层概念，然后查阅 Anthropic 的完整面试流程，了解这一轮在面试循环中的位置。

是的，而且就是用这个确切的头衔。截至 2026 年 9 月，招聘页面将前沿部署工程师与应用 AI 工程师和应用 AI 架构师并列为独立职位，因此“Anthropic 的 FDE 职能只是‘被称为应用 AI 工程师’”这一旧说法已经过时。所有这些角色都会嵌入客户团队，设计提示词和评测，并将基于 Claude 的 AI Agent 投入生产；区别大致在于该职位所承担的实现、架构与客户负责的比重。

从招聘启事上的头衔出发，而不是职位族名称。前沿部署工程师和应用 AI 工程师偏重动手实现、评测和生产可靠性。应用 AI 架构师偏重设计部署方案，并在客户面前承担技术可信度，而且通常按行业细分。请向招聘人员询问面试轮次清单和形式，因为这些是不同的招聘启事，这是一个合理的问题，也有明确的答案。

Anthropic 的其他面试轮次

Anthropic 前沿部署工程师面试流程所考察的其他方向。

备考 Anthropic 前沿部署工程师完整面试流程

LLM 与 GenAI 基础只是其中一个轮次。使用 Premium 解锁 Anthropic 完整面试流程中的所有答案。每个方向都有免费问题，让你先体验深度。

所有答案、概念与课程，所有论文解析，所有已发布的视频课程，动手实践的 FDE Lab 任务，Premium PDF 指南及配套文件，完整的模拟测试题库以及工作样本下载。Referral Premium 不包含指南 PDF 及其配套文件。

6 个月 · 一次付款 · 不自动续费

配合免费视频课程一起学习。

独立运营，与 Anthropic 无关联。所有商标归其所有者所有。