LLM 与 GenAI 基础是 Glean 前沿部署工程师面试流程的核心部分。Token、上下文窗口、提示工程 vs RAG vs 微调、幻觉、评测、成本与延迟:这是每个 AI 原生 FDE 面试流程首先考察的概念核心。以下是需要准备的 LLM 与 GenAI 基础问题,先是标注为 Glean 的问题,然后是来自我们的 LLM 与 GenAI 基础赛道 中信号最强的问题,每个答案都按资深工程师的标准撰写。

GLEAN 在这里看重什么 · 高性能企业搜索与知识索引。查看完整的 Glean 面试流程 →

标注为 Glean 的 LLM 与 GenAI 基础问题

更多针对 Glean 面试流程的 LLM 与 GenAI 基础问题

候选人认为最有用、信号最强的 LLM 与 GenAI 基础问题,参照 Glean 前沿部署工程师面试流程的考察方式设计。

Glean LLM 与 GenAI 基础轮次背后的概念

这些问题所假设的术语和思维模型。基础部分免费开放;更深入、决定面试成败的概念属于付费内容。

基础分词与 Token语言模型并不读取字符或单词,而是读取 token:由分词器产生的子词片段,每个片段映射为一个模型嵌入的整数。Token 是上下文窗口和计费的单位,文本如何切分成 token 解释了大量模型怪癖,这也是几乎每个面试流程都从这里开始的原因。

基础上下文窗口上下文窗口是语言模型一次能够关注的固定 token 数量,输入和输出共享同一预算。理解它,正是能够合理设计提示词、控制成本与延迟、并决定何时使用 RAG 的工程师,与那些只是把所有内容粘贴进去然后祈祷的工程师之间的分水岭。

基础嵌入与向量表示嵌入将一段文本转换为一组数字,其位置使得含义相近的文本在空间中彼此靠近,从而让你可以按语义而非关键词进行搜索。嵌入是 RAG、语义搜索、聚类和去重背后的引擎,因此 FDE 面试流程期望你能解释余弦相似度,以及那些会悄悄破坏向量索引的陷阱。

基础Transformer 的直观理解Transformer 是所有现代大语言模型背后的架构,建立在自注意力机制之上,使每个 token 能够并行地关注其他所有 token。FDE 面试流程不要求数学推导;他们希望你用高管或同事都能听懂的通俗语言,解释注意力机制为何胜过 RNN、decoder-only 意味着什么,以及为什么长上下文的成本高昂。

核心登录注意力与自注意力注意力机制计算价值向量的加权和,权重取决于每个 token 的 query 与其他所有 token 的 key 的匹配程度。自注意力在单个序列内应用这一机制,使每个 token 都能从其他所有 token 中提取信息,而这种全对全的比较正是计算成本随序列长度平方增长的原因。FDE 环节会考察它,因为它用一个思维模型解释了上下文限制、延迟和 KV 缓存。

核心登录RoPE 与位置编码自注意力本身没有内置的词序概念,因此 transformer 会将位置信息注入 token 向量。旋转位置编码(RoPE)通过随位置变化的角度旋转 query 和 key 向量,使相对位置自然体现在点积中,这就是 RoPE 几乎支撑所有长上下文模型的原因,也是扩展上下文窗口意味着要重新缩放 RoPE 的原因。

基础Temperature、Top-p 与采样在每一步,模型都会为每个可能的下一个 token 输出一个概率分布,而 temperature、top-p 和 top-k 等采样设置决定了如何将这个分布转化为实际的选择。FDE 环节会测试这一点,因为它控制着确定性与创造性之间的旋钮:知道何时为信息抽取设低值、为头脑风暴设高值,以及为什么同一个提示给出不同答案是预期行为而非 bug。

高级🔒 高级内容LoRA 与参数高效微调全量微调会更新模型中的每一个权重,训练成本高昂,且每个任务都会产生一个完整大小的 checkpoint。LoRA 冻结基础模型,转而训练小型低秩适配矩阵,从而得到可交换的微型 checkpoint;QLoRA 则在此基础上加入量化的冻结基础模型,使整个流程可以在单张 GPU 上运行。FDE 环节会考察它,因为这是在不耗尽客户预算或硬件资源的情况下,用客户数据适配模型的方法。

Glean 的前沿部署工程师环节会提出 llm 与 genai 基础问题,例如“什么是 embeddings,它们如何让语义搜索生效?"、“为什么点积是注意力和 embeddings 中的相似度分数,什么时候应该归一化为余弦值?"、“你的提示加上检索到的文档超出了上下文窗口。你有哪些选择和权衡?"。Token、上下文窗口、提示工程 vs RAG vs 微调、幻觉、评测、成本与延迟:这是每个 AI 原生 FDE 环节首先考察的概念核心。完整题集按由易到难排序并附专家答案,见下文。

按顺序完成本页的 llm 与 genai 基础问题,学习下方链接的底层概念,然后查看 Glean 的完整面试流程,了解这一轮在整个环节中的位置。对于 Glean 而言,面试官的考察重点是:高性能企业搜索与知识索引。

是的。Glean 招聘前沿部署工程师,包括创始团队成员,他们以小组形式与前沿部署 PM 协作,直接服务于大型企业客户的 C 级高管。

预期会有一个简短的以 AI 为重点的练习或讨论,考察你如何设计和使用 AI 来创造影响力,并评估你对 LLM、检索系统和评测框架的熟悉程度。有企业级落地经验会加分。

Glean 的其他面试环节

Glean 前沿部署工程师面试流程所测试的其他方向。

备战 Glean 前沿部署工程师完整面试流程

LLM 与 GenAI 基础只是其中一个环节。使用 Premium 解锁 Glean 完整面试流程的所有答案。每个方向都有免费题目,让你先体验内容深度。

所有答案、概念与课程、所有论文解析、全部已发布视频课程、动手实践的 FDE Lab 任务、Premium PDF 指南及配套文件、完整的模拟测试题库以及工作样例下载。Referral Premium 不包含指南 PDF 及其配套文件。

6 个月 · 一次付费 · 不自动续订

配合免费视频课程一起学习。

本站独立运营,与 Glean 无关联。所有商标归其所有者所有。