Sierra’s Natalie Meurer at the AI Engineer World’s Fair today.

Natalie Meurer 是 Sierra 的 Agent 工程负责人,领导一个由 120 多名工程师组成的全球团队,为企业客户服务构建对话式 AI Agent。在加入 Sierra 之前,她从事过技术政策工作,自学编程,并在 Palantir 工作了五年。

前沿部署工程(FDE)是今天 AI Engineer World's Fair 的一个专题方向。正如 Meurer 在演讲前接受 Latent Space 采访时所解释的,FDE 最初是一种将高技术水平的员工派驻到客户身边的模式。但如今这一头衔涵盖了 AI 行业中广泛多样的角色——包括 Sierra 所称的 agent 工程师:一种将系统集成与 Agent 开发相结合,并理解客户运营、产品和终端用户体验的工程师。

在这篇问答中,Meurer 认为 FDE 的定义更多取决于对客户的责任,而非特定的技能组合,并补充说产品工程和面向客户的工程可能正在走向融合。

定义前沿部署工程

Latent Space:你对前沿部署工程师的定义是什么?

Natalie Meurer:这正是我这场演讲的核心:这个角色缺乏一致的定义。

如果纵观它从历史到现在的演变轨迹,它的定义更多取决于对客户的责任,而不是角色的形态或你所做的工作本身。

拥有这种责任感是有力量的。但与之相关的技能组合范围已经变得如此宽泛,以至于几乎变得没有意义了。

Latent Space:你是如何进入这类角色的?

Meurer:我最初从事技术政策工作。我是一个政策迷,业余自学编程,这让我在 Palantir 的隐私团队获得了一个工程师职位。

我在那里工作了大约五年,涉及执法、国防和基础设施工程等领域。之后我去读了商学院,因为我想把商业维度融入进来。随后我加入了 Sierra,并创立了 agent 工程职能。

为什么 Sierra 称他们为 agent 工程师

Latent Space:Palantir 的前沿部署工程模式是否影响了 Sierra 的这个角色?

Meurer:有一定影响,不过我们有意将这个角色称为 agent 工程师,而不是前沿部署工程师。

前沿部署工程的含义太宽泛了。我们认为这个头衔应该体现技术工作的形态,而不仅仅是贴近客户这一要素。这就是我们选择 agent 工程师这一称谓的原因。

我认为 agent 工程要么是前沿部署工程的一个子集,要么与之相邻。它描述的是一种更具体的面向客户的工程形式,专注于开发 Agent。

Agent 工程师做什么

Latent Space:你的团队在与客户合作时做些什么?

Meurer:Sierra 为呼入和呼出客户服务构建对话式 AI Agent。我们的工作包括将客户系统与低延迟的语音和聊天 Agent 集成,以及通过电子邮件运作的 Agent。

这个角色需要数据集成等技术能力,但它也需要品味。在设计语音 Agent 时,你需要理解什么听起来好听、什么会让人感觉有人情味。这一要素是 Agent 工程所特有的。

Latent Space:一次合作是从已确定的用例开始,还是你们会帮助客户决定要构建什么?

Meurer:我们会与客户一起进行需求探索。我们试图找到真正困难的问题——因为我们擅长解决困难问题——与能产生重大业务影响的问题之间的交集。

例如在金融服务领域,这可能从争议处理开始。它很复杂,必须正确完成,但它同时也是一种需要高情商的互动。如果有人在信用卡账单上看到一笔欺诈性扣款,他们可能会感到恐慌,Agent 需要安抚他们的情绪。

几乎每一个 Sierra 客户都在朝着将 Agent 用作其前台交互式语音应答系统的方向前进——也就是客户来电时第一个应答的实体。

艰难的工作往往在模型层之上

Latent Space:有多少工作涉及底层 AI 模型?

Meurer:我们把我们的 Agent 视为一个经过编排的模型星座。在内部,我们不断评估最适合特定任务的模型,并把这项工作中最好的成果带给客户。

在实践中,大多数针对客户的工作发生在编排层,而不是模型本身。我们有时会与客户自己的模型集成,我们也会帮助客户使用平台并自行构建 Agent。

很多工作在于帮助他们应用自己的内部知识和上下文。

定制部署与可复用模式

Latent Space:有多少工作是针对特定客户的,有多少可以复用?

Meurer:两者兼有。

每个客户构建的 Agent 都是刻意针对其组织定制的。它应该代表与该特定品牌之间尽可能好的互动。

其他能力则更具可复现性。例如,从知识库中回答问题就是一个相当普遍的问题。我们还拥有横跨金融服务、医疗健康、旅游与酒店业以及零售业的行业专家,他们带来领域知识和最佳实践。

但我们所销售的东西的根本吸引力在于定制化。我们看到各行各业的大型组织最快在 40 到 60 天内就达到了生产环境。

每个 Agent 仍然围绕客户的 API、系统、标准操作流程、品牌和语气进行定制。

Agent 作为企业系统

Latent Space:Agent 开发是否正在变成一个主要是编排层面的问题?

Meurer:多 Agent 架构有很多不同的形态。“Agent”这个词可以指接听电话的那个实体,但也可以指一个子 Agent,甚至可以指一个配备了工具的单一提示词。

我们合作的每一家企业都想知道,如何维护其 AI Agent 生态系统的全部能力。它需要管理所有的集成,以及所有为 Agent 做出贡献的团队。

这在一定程度上是一个变更管理问题。

在 Sierra,我们倾向于把单个 Agent 视为对整个客户交互的管理,而不涉及具体的子任务。我们把这些子任务称为 journeys。

尽管如此,企业仍需要一种方式,让成百上千的人能够为这些系统做出贡献、了解发生了什么变化,并遵循明确的发布流程。

产品工程与 FDE 正在融合

Latent Space:随着企业积累更多内部专业知识,FDE 这一角色将如何演变?

Meurer:我认为它仍将面向客户。但当编写代码变得廉价时,把客户洞察直接转化为产品也变得更容易了。

因此,产品工程和前沿部署工程在某些方面正在融合——至少在这两个角色中最优秀的人身上是如此。

如果你是产品工程师,你就应该去和客户交流。如果你是前沿部署工程师,你就应该去构建产品。我认为这是新变化。

面向客户仍将非常重要。即使你拥有一个类似 AGI 的推理模型,每次都能自行推演出如何执行某个流程,你仍然需要恰当地对该流程进行编码。

你不希望系统在一周内第 10 万次独立摸索如何处理订单退货。你希望它遵循一个一致的流程。

这使得客户服务不同于其他一些 AI Agent 用例。编程 Agent 往往是在第一次尝试解决一个新问题。而在客户服务中,你解决的本质上是同一个问题,只是表述略有不同,一周可能要处理 10 万次。

这对平台以及帮助客户编码其规则的合作伙伴都提出了不同的要求。构建 Agent 会变得越来越容易,但能够与客户合作、并将所学转化为产品的人,永远都会有一席之地。

为什么通才可能变得更有价值

Latent Space:开发者是否会越来越需要产品技能和面向客户的技能?

Meurer:我是这么认为的。我认为最优秀的开发者会培养这些技能。

很多人都在问,一两年后工程角色会是什么样子。一种观点认为,专家会变得更加重要,因为他们拥有 Agent 不易获取的知识。

另一种观点——也是我更倾向的——认为通才会变得更有价值。

前沿部署工程历来就是典型的通才角色,因为它将工程能力与面向客户的工作性质结合在一起。

因此,前沿部署工程师——或者说 Agent 工程师——身处 AI 和工程领域最具前瞻性的方向之一。

Latent Space:“Agent 工程师”最终会成为默认的说法吗?

Meurer:我不确定。我预计工程学整体会朝着更全面的定义发展,这个定义可能会纳入更多我们现在所称的前沿部署工程的内容。

目前市场上有市场推广工程师、前沿部署工程师、Agent 工程师和 AI 工程师。

我认为这些角色都将成为工程这门手艺的不同组成部分。我们还会发现工程师可以做的全新工作。