这份 MLOps 学习路线图将带你从机器学习基础一路进阶到在生产环境中运行模型,全程 8–12 个月,分为 7 个阶段。它面向正在转型进入 AI 领域的 DevOps 工程师、数据科学家和后端工程师,因此默认你已了解什么是模型,重点放在模型的交付与运行上。请先浏览下方的“路线图总览”,然后跳转到“从哪里开始”,看看根据你的背景可以跳过哪些阶段。
MLOps 路线图总览(2026)
MLOps 学习路径共有 7 个阶段。每个阶段都以一个里程碑项目收尾,因此学完之后你拥有的不只是一堆收藏夹链接,而是一个作品集。DevOps 工程师可以跳过第 3 阶段的大部分内容,数据科学家可以跳过第 2 阶段的大部分内容。
[IMAGE: 横向 7 阶段路线图信息图。P1 基础(Python、Linux、Git、SQL)→ P2 机器学习基础(scikit-learn)→ P3 Docker、K8s、CI/CD → P4 MLflow、DVC、Registry → P5 Airflow/Kubeflow + BentoML/KServe → P6 Evidently、Prometheus/Grafana → P7 LLMOps(vLLM、LangSmith、RAGAS)。每个阶段下方标注月份。替代文本:MLOps 2026 路线图,展示从基础到 LLMOps 的 7 个阶段。文件:mlops-roadmap-2026-7-phases.webp]
| 阶段 | 时长 | 学习内容 | 关键工具 | 里程碑项目 |
| 1:基础 | 第 1 个月 | Python、Bash、Git、SQL、Linux 基础 | Python、Git、Linux、SQLite | 使用 Git 进行版本管理的数据处理脚本 |
| 2:机器学习基础 | 第 2 个月 | 机器学习范式、模型训练、评估、特征工程 | scikit-learn、NumPy、Pandas、PyTorch/TensorFlow | 通过交叉验证完成训练与评估的机器学习模型 |
| 3:DevOps 核心 | 第 3–4 个月 | Docker、Kubernetes 基础、CI/CD、云基础(AWS/GCP/Azure)、Linux 管理 | Docker、GitHub Actions、AWS/GCP/Azure | 带自动化 CI/CD 流水线的容器化应用 |
| 4:MLOps 核心 | 第 4–5 个月 | 实验跟踪、数据/模型版本管理、机器学习流水线、模型注册表 | MLflow、DVC、Kedro | 带版本化模型注册表的实验跟踪 |
| 5:编排与服务 | 第 6–7 个月 | Kubernetes、工作流编排、模型服务(实时 + 批处理) | Kubeflow、Apache Airflow、BentoML、KServe | 在 K8s 上编排并支持实时模型服务的机器学习流水线 |
| 6:监控与生产 | 第 8–9 个月 | 漂移检测、可观测性、自动重训练、A/B 测试 | Prometheus、Grafana、Evidently、Argo Workflows | 带自动重训练触发机制的漂移监控流水线 |
| 7:LLMOps(2026) | 第 10–12 个月 | LLM 服务、RAG 流水线、提示词管理、LLM 评估、防护机制 | LangChain/LangGraph、LangSmith、vLLM、Pinecone/Chroma/Weaviate | 带监控与评估的生产级 RAG 应用 |
| 总计 | 8–12 个月 | 每周 10–15 小时 | 每个类别掌握一款核心工具 | 5–6 个作品集项目 |
转变你的职业生涯
选择我们为职业成功而设计的行业领先课程
现代软件与 AI 工程课程
掌握融合 AI 的全栈开发

另有 1000 多个
AI 前沿部署工程师,专攻 AI 应用
构建并部署 AI 解决方案,应对真实业务问题

另有 1000 多个
现代数据科学与机器学习,专攻 AI
高级数据科学技术与 AI 专业方向

另有 1000 多个
高级 AIML,专攻 Agentic AI
深入学习 AIML,聚焦 Agentic 系统

另有 1000 多个
DevOps、云与 AI 平台工程
构建和管理 AI 驱动的云基础设施

另有 1000 多个
IIT-Roorkee AI 工程高级认证
来自 IIT-Roorkee 的顶级 AI 工程认证
什么 是 MLOps? (以及没有它模型为何会失败)
MLOps 是 Machine Learning Operations(机器学习运维) 的缩写,是一个将 DevOps(软件开发与 IT 运维)原则与机器学习生命周期的特殊需求相结合的框架。它涵盖旨在自动化并简化生产环境中 ML 模型的部署、监控和维护的实践、工具与流程。通过整合机器学习、软件工程和运维,MLOps 实现了无缝的工作流,加速 ML 项目的交付并提升其可靠性。
MLOps 的主要目标是弥合数据科学家与 IT 团队之间的差距,确保模型能够快速、一致且大规模地部署。对于希望在运营中有效利用 AI 和 ML 的组织而言,这种方法至关重要,它能在最大限度减少运维挑战、最大化模型性能的同时,充分释放机器学习的潜力。
为什么这很重要?Gartner 的一项调查发现,只有约 54% 的 AI 项目能从试点走向生产环境。常见的阻碍是部署和监控方面的缺口,而非建模本身。而弥合这一缺口正是 MLOps 工程师的全部工作。
MLOps 的关键组成部分
· 版本控制与 CI/CD: 使用版本控制跟踪代码、数据和模型的变更。CI/CD(持续集成/持续交付)可自动化构建、测试和部署。
· 编排: 管理 MLOps 流程中复杂的工作流和依赖关系。
· 实验跟踪与模型注册表: 记录实验、超参数和结果。模型注册表用于存储和管理不同的模型版本。
· 数据血缘与特征存储: 跟踪数据来源和转换过程,以确保可审计性。特征存储用于管理并共享经过处理的数据,供模型训练和服务使用。
· 模型训练与服务: 自动化模型的(重新)训练、打包和部署,以支持实时或批量预测。
· 监控与可观测性: 监控模型性能、数据漂移和系统健康状况,以发现问题并保持模型准确性。
· 基础设施即代码: 使用代码来管理和配置基础设施(服务器、存储等),以保证一致性并便于扩展。
MLOps vs DevOps vs ML 工程:有什么不同?
MLOps 不只是 DevOps。它复用了 DevOps 的工具,但增加了数据、模型和实验管理。DevOps 流水线交付代码并检查服务是否在线。MLOps 流水线还要交付数据和模型,并检查预测结果是否依然正确。
MLOps 在 DevOps 基础上增加的内容:
· 对数据和模型进行版本管理,而不仅仅是代码。 同样的代码用上个月的数据训练,会得到一个不同的模型。
· 在 CI/CD 之外增加持续训练(CT)。 模型会按计划或在性能下降时用新数据重新训练。
· 监控漂移和准确率,而不仅仅是正常运行时间。 一个模型可能整天都返回 HTTP 200,同时却在悄悄做出糟糕的预测。
| 角色 | 主要职责 | 与 MLOps 的重叠 |
| 数据科学家 | 构建模型、特征工程、实验 | MLOps 将他们的模型推向生产环境 |
| 机器学习工程师 | 模型开发、训练流水线、算法选择 | MLOps 专注于部署、监控和自动化 |
| DevOps 工程师 | CI/CD、基础设施、系统可靠性 | MLOps 扩展了 DevOps,以处理数据、模型和重新训练 |
| 数据工程师 | 数据流水线、数据仓库、ETL 流程 | MLOps 使用他们的数据流水线,并增加机器学习专用的监控 |
| MLOps 工程师 | 部署、监控和重新训练模型;机器学习平台与流水线 | 连接上述四种角色的岗位 |
MLOps 工程师是做什么的?
MLOps 工程师处于数据科学、软件工程和 IT 运维的交汇点。数据科学家专注于构建和训练模型,软件工程师专注于应用开发,而 MLOps 工程师则确保机器学习模型在生产环境中大规模可靠地运行。
日常工作职责包括:
· 构建和维护数据与机器学习流水线,实现从原始数据到模型预测的自动化流程
· 将模型容器化,并部署为 API(实时)或批处理任务
· 搭建监控系统,跟踪模型性能、数据漂移和系统健康状况
· 在性能下降或有新数据到来时自动化模型重新训练
· 与数据科学、工程和运维团队协作,确保顺畅交接
· 管理代码、数据、模型和配置的版本控制
· 在保持低延迟推理的同时优化基础设施成本
· 越来越多地负责 LLM 的生产化运营,以及在生产环境中构建 RAG(检索增强生成)流水线
典型的一周是什么样的:
· 周一: 排查一个流水线任务夜间失败的问题,原因是上游表更改了其 schema。
· 周二: 数据团队标记出一个新的客户细分后,为定价模型添加漂移告警。
· 周三: 将数据科学团队的一个新模型容器化,并接入 CI/CD 流水线。
· 周四: 对 GPU 实例进行成本审查,因为有人把训练集群整个周末都开着没关。
· 周五: 与一位数据科学家结对,将模型从预发布环境提升到模型注册表中的生产环境。
MLOps 生命周期:从数据到监控
每个生产模型都要经历同样的循环。以下是一次性走完的端到端 MLOps 流水线:
1. 数据摄取与验证: 从数据源拉取数据,并在其用于训练之前检查其模式、取值范围和新鲜度。
2. 特征工程: 将原始数据转化为模型输入,最好使用特征存储,以便训练和服务使用相同的逻辑。
3. 训练与实验跟踪: 训练候选模型,并记录每一个参数、指标和产物。
4. 模型注册表: 将胜出的模型连同其版本、血缘和审批状态一起存储。
5. 部署与服务: 将模型以实时 API 或批处理作业的形式交付。
6. 监控: 关注延迟、错误、数据漂移和预测质量。
7. 重训练触发: 当漂移或准确率越过阈值时,重新启动训练并回到第 1 步。
这个循环中有多少环节实现了自动化,决定了你的成熟度。Google Cloud 的 MLOps 成熟度等级从 Level 0(手动、以 notebook 为驱动)到 Level 1(ML 流水线自动化并支持持续训练),再到 Level 2(CI/CD 流水线自动化,即流水线本身也会被自动测试和部署)。印度的大多数团队处于 Level 0 或 Level 1,这正是他们招聘 MLOps 工程师的原因。
从哪里开始:按背景划分的 MLOps 学习路线
如果你已经掌握了一半的技能,就不必按顺序完成全部 7 个阶段。找到属于你的那一行:
| 你的背景 | 可跳过 | 重点关注 | 第一个项目 | 现实时间线 |
| DevOps / SRE 工程师 | 第 3 阶段的大部分内容 | 第 2、4 和 6 阶段 | 使用 DVC + MLflow 为 ML 流水线搭建 CI/CD | 约 5–6 个月 |
| 数据科学家 / ML 工程师 | 第 2 阶段 | 第 3 和第 5 阶段 | 使用 FastAPI + Docker 进行端到端模型部署 | 约 6 个月 |
| 后端开发者 | 第 1 和第 3 阶段的部分内容 | 第 2 和第 4 阶段 | 端到端模型部署,然后是实验跟踪 | 约 8 个月 |
| 应届生 / 学生 | 无 | 所有阶段,按顺序进行 | 带版本控制的数据处理脚本,然后是一个训练好的模型 | 约 12 个月 |
从 DevOps 转向 MLOps 是最常见的转型路径,也是耗时最短的。你已经熟悉容器、流水线和值班。新要学的是理解模型为什么会退化,以及如何对其背后的数据进行版本管理。应届生应该在第 3 阶段之前先熟悉 ML 本身,否则路线图的其余部分将难以坚持。
7 阶段 MLOps 学习路线(逐步详解)
这是一份按月规划的结构化路径,帮助你在 2026 年成为具备就业能力的 MLOps 工程师。每个阶段都在前一阶段的基础上递进,并配有具体的里程碑项目来证明你的技能。概要表格见上方的“路线图一览”,各阶段的详细内容见下文。
阶段 1:Python、Linux、Git 和 SQL 基础(第 1 个月)
MLOps 融合了多个领域的专业知识。掌握这些基础技能是至关重要的第一步:
编程能力
· Python: 专注于数据处理库(NumPy、Pandas)和模型构建框架(scikit-learn、TensorFlow、PyTorch)
· IDE: VS Code 或任何支持调试器和 Jupyter 的编辑器
· Bash 与命令行: 对于服务器交互、自动化脚本和基础设施管理至关重要
容器化基础
· Docker: 将 ML 应用打包为可移植、自包含的容器,以实现跨环境的一致性部署
·
数据管理
· SQL: 熟练掌握关系型数据库——连接(joins)、聚合(aggregations)以及用于高效数据检索的优化
· 数据处理与清洗: 精通 Pandas,用于真实世界的数据准备、转换和特征工程
版本控制与 CI/CD 流水线
· Git: 跟踪代码、数据和模型的变更;支持协作和回滚
· CI/CD: 使用 Jenkins、CircleCI 或 GitHub Actions 自动化构建、测试和部署
[IMAGE: 保留现有的“版本控制与 CI/CD 流水线”图片。新的替代文本:用于 ML 代码、数据和模型的版本控制与 CI/CD 流水线]
阶段 2:面向 MLOps 的机器学习基础(第 2 个月)
你不需要成为研究员,但无法运维自己不理解的东西。如果你对模型还不熟悉,请在开始 MLOps 之前先完成我们机器学习路线图的核心内容。
· 核心概念: 监督学习、无监督学习和强化学习范式;针对特定问题的算法选择
· 实践实现: 数据划分、模型训练、超参数调优、交叉验证和性能评估
· 框架: 经典 ML 使用 scikit-learn;深度学习使用 TensorFlow 或 PyTorch
Scaler 顶级讲师的免费课程
阶段 3:面向 ML 的 Docker、Kubernetes 和 CI/CD(第 3–4 个月)
· Linux 管理: 服务器管理、网络基础、Shell 脚本
· 云平台: AWS、GCP 或 Azure。重点关注计算、存储和 ML 服务
· Kubernetes 基础: Pod、部署(deployments)、服务(services)和自动扩缩容。如果 Kubernetes 对你来说是新事物,请同步学习一份专门的 Kubernetes 路线图。
· 面向 ML 的 CI/CD: 改造传统流水线,以处理数据验证、模型测试和自动化部署
· 基础设施即代码: 使用 Terraform、CloudFormation 构建可复现的 ML 基础设施
这一阶段的核心思想是让持续训练(CT)与 CI/CD 并行运行:你的流水线先测试代码,然后进行训练和评估,只有当新模型优于当前模型时才将其晋升。我们的机器学习 CI/CD指南详细介绍了完整的搭建过程。
[IMAGE: CI/CD/CT 流水线图。Git push → 测试 → 训练 → 评估门禁 → 注册模型 → 构建 Docker 镜像 → 部署到 Kubernetes → 监控 → 重新训练触发器。标注 CI、CD 和 CT。Alt text: 机器学习模型的 CI/CD 与持续训练流水线。File: ml-ci-cd-ct-pipeline.webp]
CI/CD 是 MLOps 的骨干。 了解如何使用 GitHub Actions 构建自动化流水线。同样的理念也驱动着模型部署。
里程碑: 一个容器化的应用,配备自动化 CI/CD 流水线,在每次推送时运行测试。
阶段 4:实验跟踪、版本控制与模型注册表(第 4–5 个月)
· 实验跟踪: 记录参数、指标和产物;系统地对比各次运行
· 模型注册表: 存储、版本化并管理用于部署的模型产物
· 数据版本控制: 将数据集变更与代码变更一同跟踪,以确保可复现性
· 流水线自动化: 将数据准备 → 训练 → 评估 → 部署串联为可复现的工作流
从 MLflow 开始,用于跟踪和注册表。MLflow 文档中有一个快速入门,不到一小时就能让你学会记录运行。数据版本控制工具则根据你的数据所在位置来选择:
| 工具 | 最适合 | 兼容 |
| DVC | 小型团队在 Git 旁边对数据集和模型进行版本控制 | Git、S3/GCS/Azure 存储、本地文件 |
| LakeFS | 为整个数据湖提供 Git 风格的分支管理 | S3 兼容对象存储、Spark、Airflow |
| Delta Lake | 在湖仓一体架构中提供带时间旅行功能的版本化表 | Spark、Databricks |
里程碑: 完成跟踪的实验,数据已版本化,模型通过注册表完成晋升。
阶段 5:流水线编排与模型服务(第 6–7 个月)
· 面向 ML 的 Kubernetes: 部署和扩展模型服务端点;管理资源分配
· 工作流编排: 调度和监控复杂的多步骤 ML 流水线
· 模型服务: 实时 API(FastAPI、BentoML)和批量预测任务
· A/B 与金丝雀部署: 通过流量分割安全地推出新模型版本
应该学哪个编排器? 选一个就好。Airflow 是印度求职最稳妥的选择;如果你的公司已经在 Kubernetes 上运行,就选 Kubeflow(Kubeflow Pipelines 文档是入门的好地方)。
| 工具 | 最适合 | 运行环境 | 学习曲线 |
| Apache Airflow | 定时批处理流水线;职位描述中最常见 | 任意服务器,AWS 和 GCP 上有托管选项 | 中等 |
| Kubeflow Pipelines | 在 Kubernetes 上运行 ML 流水线,训练与服务一体化平台 | Kubernetes | 陡峭 |
| Prefect | Python 优先的流水线,样板代码更少 | 任意 Python 环境、Prefect Cloud | 平缓 |
| Argo Workflows | 容器原生的工作流和 CI 风格任务 | Kubernetes | 中等到陡峭 |
服务方案,以及何时使用哪一种:
· FastAPI: 为一两个模型提供简单的 REST 端点。从这里开始。
· BentoML: 将模型及其依赖打包为可部署的服务,内置批处理。
· KServe: 在 Kubernetes 上服务大量模型,支持自动扩缩容和金丝雀发布。
· Triton / vLLM: GPU 推理服务。Triton 适合高吞吐深度学习模型,vLLM 适合大语言模型。
里程碑: 在 Kubernetes 上编排的 ML 流水线,并带有在线模型端点。
第 6 阶段:监控、漂移检测与生产 SLO(第 8–9 个月)
· 性能监控: 跟踪延迟、吞吐量、错误率和资源利用率
· 漂移检测: 在模型质量下降之前识别数据漂移和概念漂移
· 自动重训练: 当漂移超过阈值时触发重训练流水线
· 可观测性仪表盘: 可视化模型健康状况、预测分布和系统指标
数据漂移与概念漂移。 数据漂移指输入发生了变化。概念漂移指输入与正确答案之间的关系发生了变化。以一个在节日促销高峰前训练的 UPI 欺诈模型为例。促销期间,交易金额、时间和商户都发生了变化(数据漂移),而一些过去意味着欺诈的模式现在只是人们在买电视(概念漂移)。精确率下降了,而代码一行都没改。这就是为什么 MLOps 要监控预测本身,而不仅仅是服务器。
设定服务水平目标(SLO),让“模型好像不太对劲”变成一个会触发有人被呼叫的数字。以下目标是供调整的示例,并非行业标准:
| 指标 | 示例目标 | 工具 |
| API 可用性 | 每月 99.9% | Prometheus + Grafana |
| p95 延迟 | 低于 200 毫秒 | Prometheus + Grafana |
| 准确率 / 精确率下限 | 当精确率低于约定基线时告警 | Evidently AI、WhyLabs |
| 漂移分数阈值 | 当关键特征的漂移超过设定阈值时告警 | Evidently AI、WhyLabs |
| 重训练频率 | 每周一次,或由漂移告警触发 | Airflow / Argo Workflows |
里程碑: 一个受漂移监控的预测服务,可自动触发重训练。
第 7 阶段:LLMOps:在生产环境中运行 LLM 和 RAG 应用(第 10–12 个月)
这一阶段是新增的,但至关重要。2026 年的 MLOps 格局已显著转向大语言模型的生产化:
· LLM 服务与扩展: 使用 vLLM、TGI 或 BentoML 等工具部署 LLM;管理 GPU 分配和推理优化
· 生产环境中的 RAG 流水线: 使用向量数据库(Pinecone、Chroma、Weaviate)、分块策略和嵌入模型构建检索增强生成系统
· 提示词与版本管理: 跟踪提示词迭代,对不同提示词进行 A/B 测试,并将提示词版本与模型版本一同维护
· LLM 评测: 使用 RAGAS、LLM-as-judge 和 LangSmith 等框架来评估输出质量、事实准确性和安全性
· 护栏与安全: 为生产环境中的 LLM 实现内容过滤、幻觉检测和合规性监控
· 成本与延迟监控: 跟踪 token 用量、推理成本和响应时间——这对 LLM 的经济效益至关重要
与经典 MLOps 相比有什么变化? 在经典 MLOps 中,你对模型进行版本管理并监控其准确率。而在 LLMOps 中,“模型”往往是你无法控制的 API,因此你改为对提示词进行版本管理,构建评测集以捕捉回归问题(RAGAS、LangSmith),在输入和输出端添加护栏,并且像关注延迟一样密切关注 token 成本。流式响应也改变了延迟的衡量方式:首 token 时间比总时间更重要。
生产级 RAG 流水线,逐步解析:
1. 文档摄取: 加载 PDF、文档和网页,然后进行清洗和分块。
2. 嵌入: 使用嵌入模型将每个分块转换为向量。
3. 向量数据库: 将向量存储到 Pinecone、Chroma、Weaviate 或 Milvus 中。
4. 检索: 针对每个用户问题获取最相关的分块。
5. LLM: 基于检索到的上下文生成答案,可通过 vLLM 或 TGI 部署,或使用 LLM API。
6. 评测: 使用 RAGAS 在固定测试集上对忠实度和答案相关性进行评分。
7. 监控: 在 LangSmith 中追踪每次调用,并跟踪成本、延迟和用户反馈。
里程碑: 部署一个 RAG 问答机器人,并在 CI 中运行自动化 RAGAS 评测,这样糟糕的提示词改动会导致构建失败,而不是被推送给用户。
按类别划分的 MLOps 工具(2026 年对比)
与其学习所有工具,不如在每个类别中专注于一个强大的选择。以下是现代 MLOps 技术栈:
| 类别 | 工具 | 功能 |
| 实验跟踪 | MLflow、Weights & Biases | 记录参数、指标和产物;比较模型运行结果 |
| 数据与模型版本管理 | DVC、LakeFS | 将数据集和模型与 Git 一同进行版本管理,以确保可复现性 |
| 编排 | Apache Airflow、Kubeflow、Prefect | 定义、调度和监控复杂的 ML 流水线 |
| ML 流水线 | TensorFlow Extended (TFX)、Kedro | 生产级流水线组件,内置验证功能 |
| 模型服务 | BentoML、KServe、SageMaker、Triton | 将模型打包并以实时 API 或批量端点的形式提供服务 |
| 监控与可观测性 | Prometheus、Grafana、Evidently、WhyLabs | 跟踪系统健康状况和模型性能,并检测漂移 |
| 特征存储 | Feast、Tecton、Hopsworks | 在训练和推理过程中一致地管理、存储和提供特征 |
| LLMOps(2026) | LangChain、LangSmith、vLLM、LlamaIndex | 部署、编排、评估和监控 LLM 系统与 RAG 流水线 |
| 向量数据库 | Pinecone、Chroma、Weaviate、Milvus | 为 RAG 和相似度搜索存储与检索嵌入向量 |
专业提示: 第一个项目从 MLflow + DVC + Docker + GitHub Actions 开始。掌握基础后再加入 Kubernetes 和编排工具。
想要每个类别的更多选择?请查看我们的 MLOps 工具完整列表。
Scaler 就业报告与统计数据
Scaler 学员实现了 2.5 倍的薪资增长,从 Scaler 毕业后的平均 CTC 达到 ₹23L。
用于作品集的 MLOps 项目(从初级到高级)
理论帮你拿到面试机会,项目帮你拿到录用通知。构建以下项目来展示真正的 MLOps 能力:
用于作品集的指定 MLOps 项目
| 项目 | 技术栈 | 展示内容 | 难度 | 阶段 |
| 端到端模型部署 | Scikit-learn + FastAPI + Docker + AWS/GCP | 模型打包、容器化、云端部署、API 服务 | 初级 | 3 |
| ML 流水线的 CI/CD | GitHub Actions + DVC + MLflow + pytest | 自动化测试、数据版本控制、实验跟踪、可复现构建 | 中级 | 4 |
| 漂移监控的预测服务 | Evidently + Prometheus + Grafana + Airflow | 实时漂移检测、告警仪表盘、自动重训练触发 | 中级 | 6 |
| Kubernetes 上的 Kubeflow 流水线 | Kubeflow + K8s + Minikube | 工作流编排、分布式训练、可扩展的模型服务 | 高级 | 5 |
| 特征存储实现 | Feast + Redis + PostgreSQL + scikit-learn | 大规模特征工程、一致的训练/服务特征 | 高级 | 4–5 |
| 带 LLMOps 的 RAG 应用 | LangChain + Pinecone + vLLM + LangSmith | LLM 服务、向量搜索、提示词管理、评估与监控 | 高级 | 7 |
应删除下一张图片上方的空 H3(SEO/开发)。
[图片:保留现有的“学习 MLOps 工具与平台”图片。新替代文本:按类别分组的常用 MLOps 工具与平台]
免费数据集与 MLOps 练习平台
· Kaggle: 探索数据集和竞赛;部署获奖模型并展示 MLOps 能力。选择一个表格数据集,并在其上构建端到端模型部署项目。
· UCI 机器学习仓库: 小型、干净、文档完善的数据集。适合练习使用 DVC 进行数据验证和版本控制。
· Hugging Face 数据集: 一行代码即可加载的文本和图像数据集。可在你的 RAG 或 NLP 服务项目中使用其中一个。
· 端到端开源 MLOps 仓库(Made With ML 风格): 研究一个完整项目是如何构建的,从测试到 CI 再到部署,然后自己动手重建一个。
· MLOps Zoomcamp(DataTalks.Club,免费): 一门免费课程,包含毕业项目,涵盖实验跟踪、编排、部署和监控。
· 开源贡献: 在 GitHub 上为 MLOps 工具做贡献——。你可以从维护者那里学习并建立自己的声誉
· 个人项目: 选择一个你热爱的领域,应用完整的 MLOps 生命周期
需要准备的 MLOps 面试问题
MLOps 面试更侧重场景而非定义。准备好以下 10 个问题,并为每个问题准备一个来自你自己项目的例子:
1. 你如何检测和处理数据漂移? 在 Evidently 中将线上特征分布与训练数据(PSI、KS 检验)进行比较;发出警报、调查原因,必要时重新训练。
2. 模型注册表里包含什么? 模型工件、版本、训练数据版本、指标、血缘关系以及阶段(staging、production、archived)。
3. ML 的 CI/CD 与应用程序的 CI/CD 有何不同? 它还要测试数据和模型,增加持续训练,并且部署的门槛是模型指标,而不仅仅是测试通过。
4. 你会如何回滚一个有问题的模型? 将服务指回注册表中的上一个版本;使用 KServe 或金丝雀部署时,把流量切回去。
5. 影子部署、金丝雀部署与 A/B 部署的区别? 影子部署接收真实流量但其结果不被使用;金丝雀部署面向一小部分用户;A/B 部署将用户分组以比较业务指标。
6. 你如何用 DVC 对数据进行版本管理? DVC 在 Git 中存储指针文件,将实际数据存储在远程存储中,因此每次提交都对应一个精确的数据集。
7. 你会如何设计特征存储? 用于训练的离线存储、用于低延迟服务的在线存储,以及一份共享的特征定义,以避免训练与服务之间的偏差。
8. 批量推理与实时推理:分别何时使用? 批量推理用于定时评分,如每日流失客户名单;实时推理用于逐请求决策,如欺诈检测。
9. 你如何监控 LLM 应用的质量? 使用 RAGAS 的评测集、LangSmith 中的追踪、用户反馈、幻觉检查以及 token 成本跟踪。
10. MLflow 与 Kubeflow 的区别? MLflow 跟踪实验并管理模型;Kubeflow 在 Kubernetes 上运行 ML 流水线。许多团队两者都用。
MLOps 认证与培训项目(2026)
认证可以验证你的技能,并向雇主表明你的投入。以下是推荐的进阶路径:
| 认证 | 提供方 | 级别 | 大致费用 | 最适合 |
| AWS Certified Machine Learning Engineer – Associate | Amazon Web Services | 中级 | $150 USD | 在 AWS 上构建、部署和监控 ML |
| Google Cloud Professional ML Engineer | Google Cloud | 中级 | $200 USD(含税另计) | GCP MLOps、AutoML、Vertex AI |
| Azure AI 应用与 Agent 开发人员 Associate (AI-103) | Microsoft | 中级 | 165 美元(美国价格;因国家/地区而异) | 在 Azure 上构建和运行 AI 应用与 AI Agent |
| Certified Kubernetes Administrator (CKA) | CNCF | 中级 | 445 美元 | 基于 K8s 的模型服务与编排 |
| Databricks Certified Machine Learning Associate | Databricks | 中级 | 200 美元 | 托管 MLflow、Spark ML、Delta Lake |
费用来自官方提供商页面,2026 年 10 月核实。自上次更新以来已停用或关闭的认证:AWS Machine Learning – Specialty(最后考试日期为 2026 年 3 月 31 日)、Azure AI Engineer Associate / AI-102(2026 年 6 月 30 日停用,由 AI-103 取代)以及 TensorFlow Developer Certificate(2024 年关闭)。“MLflow Certified Developer”并非独立认证;MLflow 内容包含在 Databricks ML Associate 考试中。
推荐学习顺序: 云端 ML 认证 → CKA → Databricks ML Associate(如果贵公司使用 Databricks)
更喜欢结构化课程而非自学?对比印度最佳 MLOps 课程。
MLOps 社区与活动(印度及全球)
MLOps 的蓬勃发展离不开协作与知识交流。请积极参与社区活动:
交流渠道:
· 在线论坛: Reddit(r/MLOps、r/MachineLearning)、Stack Overflow、MLOps Community Slack、Discord 服务器
· 线下聚会: 通过 Meetup.com 参加本地 MLOps 聚会;参加虚拟聚会以拓展更广泛的人脉
· 印度聚会: PyData Bangalore 和 PyData Delhi 定期举办聚会;Cloud Native Bangalore 和 Bengaluru Databricks User Group 涵盖 Kubernetes 和 ML 平台。
· 印度会议: KubeCon + CloudNativeCon India(孟买,2026 年 6 月)以及在班加罗尔、金奈、浦那和新德里举办的 Kubernetes Community Days。
· 会议: KubeCon + CloudNativeCon、MLOps World、ODSC、NeurIPS 研讨会、AWS re:Invent ML 专题
· 开源: 为 MLflow、DVC、Kubeflow 或 LangChain 做贡献——在这些社区中的曝光度会带来工作机会
益处:
· 向已经解决过你所面临问题的从业者学习
· 在新工具和最佳实践成为主流之前抢先了解
· 找到能指导你职业发展的导师
· 与 MLOps 领域的招聘经理和猎头建立联系
印度 MLOps 工程师薪资(2026 年)
在印度,MLOps 工程师的收入通常高于同等经验水平的 DevOps 工程师,因为该角色将 ML 知识与生产工程相结合。在 AmbitionBox 上,拥有 1–3 年经验的 MLOps 工程师年薪为 80 万–119 万卢比,而 DevOps 工程师为 58 万–64 万卢比。
| 经验 | 职位 | 薪资范围(印度) | 主要招聘城市 |
| 1–3 年 | 初级 MLOps 工程师 | 年薪 80 万–119 万卢比 | 班加罗尔、海得拉巴、浦那 |
| 3–6 年 | MLOps 工程师 | 年薪 130 万–155 万卢比 | 班加罗尔、孟买、海得拉巴 |
| 6–9 年经验 | 高级 MLOps 工程师 | ₹15.8L–22.2L/年 | 班加罗尔,远程 |
| 9–12 年经验 | MLOps 负责人 / 平台负责人 | ₹24.6L–27.2L/年 | 班加罗尔,远程 |
数据来源:AmbitionBox MLOps 工程师薪资,基于 201 份报告的薪资数据,截至 2026 年 10 月。9–12 年经验区间的数据点非常少,因此仅供参考。具备 Kubernetes、云和 LLMOps 经验者薪资更高,班加罗尔(Bengaluru)、海得拉巴和浦那的产品公司和 GCC 通常支付每个区间的上限薪资。
结论
对于任何有志于机器学习工程职业的人来说,踏上 MLOps 路线图已不再是可选项。这个领域已经相当成熟,而在 2026 年,LLMOps 已成为传统 MLOps 实践的重要延伸。以下是你的行动计划:
· 打好坚实基础: 精通 Python、SQL、Git、Docker 和 Linux 基础
· 学习 ML 基础知识: 理解算法、训练、评估和特征工程
· 采用 DevOps 实践: 实施 CI/CD、容器化和云基础设施
· 掌握 MLOps 工具: 从 MLflow + DVC 开始,然后添加编排和服务工具
· 积累实践经验: 构建端到端项目并为开源做贡献
· 获得认证: 通过云和工具相关认证验证你的技能
· 保持前沿: 学习用于生产环境 LLM 部署的 LLMOps 实践
· 建立人脉与协作: 融入 MLOps 社区,获取成长与机会
对熟练 MLOps 专业人才的需求持续增长。随着 LLMOps 加入技能组合,市场竞争更加激烈,但机会也比以往任何时候都多。现在就是开启你 MLOps 之旅的最佳时机。
已经在做 DevOps,想在生产环境中运行 ML 和 AI 平台?了解 Scaler 的 DevOps、云与 AI 平台工程课程如何规划这条路径。
相关路线图
MLOps 路线图常见问题
问:MLOps 就是 DevOps 吗?
不是。MLOps 借鉴了 DevOps 的实践,例如 CI/CD、容器化和基础设施即代码,但它还要管理 DevOps 不涉及的内容:数据集、实验、模型版本、持续再训练以及针对漂移和准确性的监控。DevOps 工程师已经具备约一半的技能,还需要补充 ML 基础知识和模型生命周期工具。
问:MLOps 比 DevOps 更难吗?
与其说更难,不如说范围更广。你需要 DevOps 技能,再加上足够的 ML 知识来理解训练、评估以及模型为何退化。许多工程师发现 ML 方面,尤其是调试数据和模型问题,是更难的部分。有 DevOps 背景的人,经过 5–6 个月的专注学习,大多能在 MLOps 领域胜任工作。
问:什么是 LLMOps?它与 MLOps 有何不同?
LLMOps 将 MLOps 原则应用于大型语言模型。它增加了 LLM 特有的工作:部署大型模型、运行 RAG 流水线、对提示词进行版本管理、使用 RAGAS 等工具评估输出、添加防护机制,以及监控 token 成本和延迟。可以把它理解为一种 MLOps,只不过风险最高的变更往往是提示词,而不是模型。
问:成为 MLOps 工程师需要多长时间?
如果你从基础编程开始,按每周 10–15 小时的学习计划,预计需要 8–12 个月。DevOps 工程师通常只需 5–6 个月,数据科学家约需 6 个月,因为他们可以跳过某些阶段。无论如何,你部署过的项目比你花了几个月学习更重要。
问:MLOps 工程师每天做什么?
他们构建和维护将模型从笔记本环境推向生产环境的流水线:自动化训练、部署和再训练,对数据和模型进行版本管理,监控数据漂移,并与数据科学和平台团队协作。如今,这一角色还越来越多地涵盖 LLM 和 RAG 应用的运维。
问:2026 年学习 MLOps 应该掌握哪些工具?
核心:Git、Docker、Kubernetes、MLflow、DVC、Airflow 或 Kubeflow,以及一个云平台。监控:Prometheus、Grafana 和 Evidently。LLMOps:LangChain 或 LangGraph、LangSmith、一个向量数据库,以及用于模型服务的 vLLM。先在每个类别中精通一个强大的工具,再学习更多。
问:常见的 MLOps 面试问题有哪些?
预计会遇到情景类问题,例如“你会如何检测和处理数据漂移?”、“ML 的 CI/CD 与应用的 CI/CD 有何不同?”以及“你会如何回滚一个有问题的模型?”。上方的 MLOps 面试问题部分涵盖了 10 个常见问题及简短的答题提示。
问:在印度, MLOps 工程师 的薪资是多少?
根据 AmbitionBox(2026 年 10 月)的数据,在印度,拥有 1–3 年经验的 MLOps 工程师年薪约为 ₹8L–11.9L,拥有 6–9 年经验的年薪为 ₹15.8L–22.2L。薪资会随着 Kubernetes、云和 LLMOps 经验的增长而提高,班加罗尔、海得拉巴和浦那的产品公司和 GCC 通常支付更高的薪资。在相同经验水平下,这通常高于 DevOps 岗位。
问:AI 会取代 MLOps 工程师吗?
不太可能。AI 工具可以自动化部分工作,例如编写流水线代码或标记异常,但仍需要有人来设计可靠的系统、掌控成本、制定评估标准并响应事故。LLM 应用的兴起实际上增加了对能够安全地在生产环境中运行 AI 的工程师的需求。