研究一个生产级计算机视觉部署案例,其中延迟、田间条件、硬件、安全、测量与采用共同面对物理世界。

作者:The Forward Deployed 编辑团队审阅

真实且有据可查,先说明两点坦诚之处。 第一,这不是 OpenAI 的项目,也不是前沿部署供应商的项目。See & Spray 是约翰迪尔自己的技术,由约翰迪尔于 2017 年收购的 Blue River Technology 打造。第二,这不是 FDE 的人员配置模式;把它放在这里,是因为它是这一角色工作所要求的最难之事最清晰的公开范例:生产级 AI 在实时、混乱数据、错误答案即真实事件的场景下面对物理世界。在公开资料不足之处,本页保持高层概述。

客户背景

大面积喷洒为了消灭田地局部的杂草而喷洒整块田地,因此大部分除草剂落在裸露的土壤或作物上。See & Spray 在喷杆上安装摄像头和车载处理器;计算机视觉实时区分作物与杂草,并只对杂草触发单个喷嘴。2025 年,约翰迪尔报告该系统已在超过五百万英亩土地上运行,非残留除草剂用量平均减少近 50%,节省了近 3100 万加仑除草剂混合液。阿肯色大学的独立田间试验将这一降幅置于与大面积喷洒相当的范围。

独特的张力

每个案例都取决于一件事。这里的关键是在边缘设备上、面对实验室从未见过的数据时的实时正确性。

模型没有云端,没有第二次机会,只有几毫秒的时间做决定。机器以最高 15 英里/小时的速度移动,每秒扫描超过 2500 平方英尺,对每一株植物进行分类,并在经过之前触发喷嘴。在办公室里对干净图像有效的演示毫无价值;系统必须在特定杂草上、在高速行进中、在尘土、眩光和雨水中、在从未见过的田地里做到正确。约翰迪尔将 2025 年描述为一个"杂草压力大、降雨频繁"的季节,但系统仍清除了约 50%。

在继续阅读之前: 你有一个在标注测试集上得分很高的杂草与作物分类器。说出它在客户田地里可能仍然失败的原因。这不是模型架构的问题。

原因是分布偏移:你的测试集是来自少数几个农场的干净白天图像,而田地里是不同的光照、一种你从未标注过的杂草、镜头上的泥污、一个你没有采样过的作物生长阶段。模型的好坏取决于你的评测数据与它实际运行时面对的混乱现实的匹配程度。

与 FDE 相关工作的对应关系

公开资料描述了成果与约束条件,Blue River 自己的工程师也公开了视觉技术栈的核心内容,尽管完整的生产流水线仍属机密。这项工作的形态正是本站所传授的整体形态。

  • 数据问题就是产品本身。 一个分类器很容易做;但一个能在不同地区、杂草、作物、光照和天气条件下都保持稳定的分类器,才是需要多年积累的工作。这就是工业规模的评测纪律。演示与田间之间的差距,靠的是不断扩展你的衡量标准来弥合。
  • 约束条件决定了架构。 实时性和无云端的要求迫使推理在边缘设备上运行,这个成本与延迟约束严苛到决定了整个设计。你不可能往返服务器;模型必须运行在喷嘴所在的地方。
  • 出错是真实发生的事件。 喷错了作物就会造成损害;漏喷了杂草田地就会遭殃。这里不存在“自信地输出错误文本”的情况。失败是物理性的,这提高了标准——你必须持续不断地确认系统仍然有效。

技术栈,有据可查

对于如此专有的系统,其视觉技术栈却有异常多的公开信息,因为 Blue River 的计算机视觉与机器学习总监 Chris Padwick 本人在 2020 年做过详细记录。该分类器是一个用 PyTorch 训练的卷积神经网络(CNN),对每一帧摄像头画面逐像素进行分割,标注作物与杂草,而不是对整帧画面做判断,正是这张逐像素的地图让喷杆能够将一个喷嘴对准一株植物。模型在机器上运行,部署在喷药机内置的 NVIDIA Jetson AGX Xavier 上;NVIDIA 自己的介绍描述了这些车载模块如何实时对喷药机摄像头传来的画面做出杂草或作物的判断,因为移动中的喷药机没有服务器可调用,只有几毫秒的时间做决策。这份资料写于 2020 年,所以现役设备很可能已换用更新的芯片和更新的模型;但不变的是其架构形态——一个在边缘实时对每个像素进行分类的 CNN。

差 / 好 / 卓越 —— “你的分类器在测试中有效;你怎么知道它在田间也能有效?”

差 —— “它在我们的测试集上得分很高,所以可以上线了。” 一个与田间实际分布毫无关系的基准数字。这是从未见过模型直面现实的人才会给出的答案。测试集是干净的,而田间不是。

好 —— “我们会在上线前用几个真实农场的数据进行测试。” 这是迈向田间验证的实质性一步,采样了真实条件。不足之处:这只是一次性检查,对于你没有采样到的条件和杂草,以及系统大规模运行后如何发现失效,它都没有给出答案。

很好——“现场环境与任何测试集都是不同的分布,所以这项工作就是不断扩大我的评测范围——新的地区、杂草、作物、光照、天气——并在糟糕的案例而非干净的案例上进行衡量。我会在机器上加入监测手段,暴露它不确定或出错的地方,让这些案例反馈到训练中,并把对杂乱真实输入的鲁棒性作为首要指标,置于基准准确率之上。” 你把问题定位在数据分布上,并把评测变成一项持续的、不断扩展的工作,这正是这项工作需要多年努力的原因。

可迁移的模式

当 AI 实时接触物理世界时,要达成的目标是对杂乱真实输入的鲁棒性,而不是在干净基准上的准确率。实现方法是让评测成为针对糟糕案例的、持续扩展的过程。 模型是容易的部分;演示与现场之间的差距要靠数据和评测纪律来弥合。把这一点带入任何涉及真实世界感知的系统设计轮:先讲你打算如何在真实面对的分布上衡量正确性,以及如何捕捉你没有预料到的案例。

资料来源与延伸阅读

下一篇: Airbus × Palantir。这个项目中,产品本身就是可信的集成。

NextAirbus × Palantir