生成式 AI 是一种能够创造新事物的 AI，比如文本、图像、音频、视频和代码，这些内容在之前并不存在。

在这篇博客中，我们将学习生成式 AI。我们将理解“生成”这个词的真正含义，生成式 AI 与传统 AI 的区别，它如何从海量示例中学习，它如何创造出全新的内容，我们每天在哪些地方使用它，以及我们必须了解的局限性。

我们将涵盖以下内容：

  • 什么是生成式 AI？
  • 生成式 AI = 生成式 + AI
  • 这里的“生成”是什么意思？
  • 生成式 AI 与传统 AI 有何不同？
  • 生成式 AI 如何学习？
  • 生成式 AI 究竟如何创造新事物？
  • 生成式 AI 能创造什么？
  • 生成式 AI 中的模型是什么？
  • 生成式 AI 的完整流程
  • 我们每天在哪些地方使用生成式 AI？
  • 我们必须了解的局限性
  • 总结

我是 Amit Shekhar，Outcome School 的创始人，我曾教导和指导过许多开发者，他们的努力让他们获得了高薪的技术工作，帮助许多科技公司解决了他们的独特问题，并创建了许多被顶级公司使用的开源库。我热衷于通过开源、博客和视频分享知识。

我在 Outcome School 教授 AI 和机器学习。

让我们开始吧。

什么是生成式 AI？

生成式 AI 是一种能够创造新事物的人工智能，比如文本、图像、音频、视频和代码。

假设我们让计算机：“给我写一首关于雨的短诗。”几年前，普通计算机无法做到这一点。它可以搜索别人已经写好的诗，但无法自己写出一首全新的诗。

现在，情况已经改变。今天，我们只需提出请求，计算机就能在几秒钟内写出一首全新的诗。之前没有人写过这首诗。计算机是此刻为我们创作出来的。

这种创造新事物的能力，就是我们所说的生成式 AI。

生成式 AI = 生成式 + AI

理解这个术语的最佳方式是把它拆分成两部分。

生成式：这个词来自“生成”，意思是创造或产出新的事物。

AI：这是人工智能（Artificial Intelligence）的缩写。它指的是让计算机完成通常需要人类智能才能完成的任务，比如理解语言、识别图像或做出决策。

所以，当我们把两部分结合起来：

生成式 AI = 一种能够自主创造新内容的人工智能。

简单来说，它可以像人类创作者一样产出全新的文本、图像、声音等。

这里的“生成”是什么意思？

这是最重要的一个词，所以让我们把它弄清楚。

生成意味着创造出以前不存在的东西。

假设我们有一个计算器。我们输入

2 + 2

，它给出

4

。这不是生成。计算器只是遵循固定的规则。答案总是一样的，并不是新的。

现在，假设我们让生成式 AI“画一只在月球上骑自行车的猫”。以前从未存在过这样一幅画。AI 为我们逐像素地创造出这幅画。这就是生成。

所以，关键在于：生成式 AI 不是复制粘贴一个旧答案，而是创造一个新的答案。

正在规划进入 AI 领域？

无论你今天在哪个技术领域工作，只要付出努力，你都可以转型到以下这些角色：

  • AI 工程师
  • 前沿部署工程师
  • AI Agent 工程师
  • Harness 工程师
  • 语音 AI 工程师
  • AI 架构师
  • LLM 工程师
  • LLM 推理工程师
  • 生成式 AI 工程师
  • MLOps 工程师
  • 机器学习工程师
  • 深度学习工程师

Outcome School 的 AI 与机器学习课程将带你实现这一目标。

生成式 AI 与传统 AI 有何不同？

在生成式 AI 流行之前，我们已经有 AI 了。但那种旧式 AI 大多只做一件事：观察某个东西，然后给出一个标签或一个决策。

让我们通过一个例子来理解。旧式 AI 非常擅长回答这类问题：

  • 这封邮件是垃圾邮件还是非垃圾邮件？
  • 这张照片里有没有猫？
  • 这条评论是正面的还是负面的？

在这里，我们可以注意到一点：旧式 AI 只是从已经存在的选项中进行选择，不会创造任何新东西。我们可以把这种 AI 称为“做决策的 AI”。

生成式 AI 则不同。它不只是做决策，它还会创造。我们可以称之为“会创造的 AI”。

为了让你更好地理解，我把两者的区别整理成表格，让整体图景变得清晰。

旧式 AI（做决策的 AI）生成式 AI（会创造的 AI）
观察输入并选择一个标签观察输入并生成新内容
“这是猫还是狗？”“给我画一只新的猫。”
从固定的选项中选择创造出以前不存在的东西
输出是一个决策输出是全新的文本、图像、音频或视频

我们也可以像下面这样形象地展示这个区别：

   Old AI (decides)                    Generative AI (creates)

   Photo of an animal                  Text: "a cat on the moon"
        |                                     |
        v                                     v
   +-----------+                        +-----------+
   |    AI     |                        |    AI     |
   +-----------+                        +-----------+
        |                                     |
        v                                     v
   "It is a cat"                        A brand new picture
   (a label)                            of a cat on the moon

在这里，我们可以看到明显的区别。左边，AI 只是打上一个标签；右边，AI 创造出一幅全新的图画。

这两种 AI 都建立在机器学习之上，我们有一篇详细介绍什么是机器学习？的博客，解释了机器究竟是如何从数据中学习的。

现在我们知道了生成式 AI 做什么，下一个问题是：它是如何学会做到这一点的？让我们来了解一下。

生成式 AI 如何学习？

生成式 AI 通过观察海量的示例来学习。这是一切的核心，所以让我们慢慢来。

假设我们想教一个孩子写故事。我们会让孩子阅读成千上万本故事书。读了这么多故事之后，孩子开始理解故事是如何运作的。孩子学会了哪些词搭配在一起，句子如何流畅展开，以及故事如何开头和结尾。

生成式 AI 也是以同样的方式学习的。我们向它展示海量的示例。对于文本 AI，我们让它阅读互联网上大部分可用的文字内容，比如书籍、文章和网站。它在一个我们称为训练的阶段中阅读所有这些内容。

在训练过程中，AI 并不是逐字逐句地记住文本。相反，它是在学习模式。它学习哪些词通常跟在哪些词后面。它学习各种想法之间如何关联。它学习语言的风格和结构。

因此，训练之后，AI 已经学会了语言的深层模式。现在，它可以利用这些模式自主创作新的句子。

注意： 同样的原理也适用于图像。为了生成图像，AI 会基于海量的图片及其描述进行训练。它学习“猫”、“自行车”和“月亮”长什么样。之后，它可以将这些学到的模式组合起来，画出一只在月亮上骑自行车的猫，即使它之前从未见过完全相同的图片。

如果我们想深入了解这种学习究竟是如何发生的——机器学习基础、监督学习与无监督学习、神经网络以及反向传播——请查看 Outcome School 的 AI 与机器学习课程。

生成式 AI 究竟如何创造新事物？

现在，这是最神奇的部分。让我们来理解文本生成式 AI 是如何写出一个句子的。

秘密出奇地简单。AI 一次又一次地预测下一个词。在模型内部，这个写作任务由 Decoder 完成。

假设我们给它起始的词：“The sky is”。AI 现在会想：“接下来通常是什么词？”根据它的全部训练，它知道“blue”是很可能出现的下一个词。于是，它加上“blue”。

现在句子变成了“The sky is blue”。AI 再次问：“接下来是什么？”这次它加上“and”。然后它再问一次，加上“clear”。它不断重复这个过程，一次一个词，直到句子完整为止。

我们可以像下面这样逐步想象这个过程：

   Step 1:  "The sky is"          ->  predict next word  ->  "blue"
   Step 2:  "The sky is blue"     ->  predict next word  ->  "and"
   Step 3:  "The sky is blue and" ->  predict next word  ->  "clear"
   Step 4:  "The sky is blue and clear"  ->  and so on...

在这里，我们可以看到这个巧妙的技巧。AI 从不一次性写出整段文字。它先写一个词，然后审视目前为止的所有内容，再写下下一个词。它不断重复，直到完整的答案生成完毕。

所以，一个长而聪明的回答，其实只是 AI 在极其快速地反复预测下一个词。至于它是稳妥地选择“blue”，还是冒险选一个出人意料的词，则由一个叫 Temperature 的参数控制，另外还有两个叫 Top-k 和 Top-p 的设置。

这种一次生成一个词的创建方式被称为自回归生成，我们有一篇关于自回归模型的详细博客，逐步解释了这一过程。

生成式 AI 就是这样创造新文本的。它以类似的方式创建图像、音频和视频，利用训练中学到的模式，只是针对不同类型的内容采用不同的方法。

生成式 AI 能创造什么？

生成式 AI 并不局限于文本。它可以创造多种类型的内容。让我们来看几个例子。

  • 文本： 它可以撰写电子邮件、故事、文章、回答和摘要。
  • 图像： 它可以根据简单的描述创作绘画、照片、标志和艺术作品。
  • 音频： 它可以创作音乐，还可以生成类似人声的语音来朗读文本。
  • 视频： 它可以根据文字描述创建短视频片段。
  • 代码： 它可以编写计算机程序，帮助开发者构建软件。

所以，凡是人类能创造的内容，生成式 AI 也正在学习去创造。

给你的一个小提示

无论你在哪个技术领域工作，都要熟悉这些主题：

  • LLM
  • RAG
  • MCP
  • Agent
  • 微调
  • 量化

我们把它们全部整合在一个视频中：

AI 工程详解：LLM、RAG、MCP、Agent、微调与量化

不必中断阅读——先收藏起来，等有空时再看。未来的你会感谢现在的自己。

现在，让我们回到主题。

生成式 AI 中的模型是什么？

我们一直在说“AI”，但让我们给它一个正式的名称。生成式 AI 经过训练的大脑被称为模型。

模型是所有训练的最终成果。可以把它想象成一个已经阅读了大量数据并学会了其中模式的大脑。当我们与生成式 AI 工具对话时，实际上是在与这个训练好的模型交流。

当一个模型主要处理文本和语言时，我们称之为大语言模型，简称 LLM。我们有一篇关于 LLM 的工作原理的详细博客，逐步解释了这一过程。

  • 大（Large）： 它从海量的文本中学习，并拥有大量的内部参数来存储所学到的内容。
  • 语言（Language）： 它的主要任务是理解和生成人类语言。
  • 模型（Model）： 它是承载所有这些已学知识的大脑。

所以，当我们听到 ChatGPT、Claude 或 Gemini 背后的模型这些名字时，它们都是大语言模型。它们是驱动我们所使用的生成式 AI 工具的训练好的大脑。

要掌握 LLM 基础、LLM 内部原理和 Transformer 架构，甚至从零开始构建一个大语言模型（LLM），请查看 Outcome School 的 AI 与机器学习课程。

生成式 AI 的完整流程

现在我们已经了解了所有组成部分，让我们用简单的步骤把整个流程串联起来。

  • 首先，我们收集大量的示例，比如文本或图像。这就是数据。
  • 然后，AI 读取所有这些数据，并学习其中的模式。这就是训练。
  • 之后，训练好的“大脑”就准备好了。我们把这个大脑称为模型。
  • 接着，我们用日常语言向模型提出一个请求。这个请求被称为提示词。
  • 最后，模型利用它学到的模式，为我们生成一个全新的回答。

我们可以把整个流程想象成下面这样：

   Huge amount of data (text, images, code)
              |
              |  the AI reads and learns the patterns
              v
          Training
              |
              v
        Trained model  (the brain that has learned)
              |
              |  we give a prompt: "Write a poem about rain"
              v
        New content  (a fresh poem, created just now)

在这里，我们可以看到完整的旅程。首先，模型从数据中学习。然后，我们给它一个提示词。最后，它为我们创造新的内容。

保持更新： 订阅我们的新闻通讯，将我们最新的 AI 和机器学习博客直接发送到您的收件箱。

我们每天在哪些地方使用生成式 AI？

让我们来看几个常见的场景。

  • 聊天助手： 我们用日常语言提问，就能得到有用的回答。
  • 写作辅助： 它帮助我们撰写邮件、修正语法，并总结长篇文本。
  • 图像创作： 我们输入一段描述，它就能为我们画出一幅图。
  • 编程辅助： 它帮助开发者更快地编写和修复代码。
  • 客户支持： 许多公司的聊天机器人现在使用生成式 AI 来回答我们的问题。

它每天都在帮助数以百万计的人。

我们必须了解的局限性

生成式 AI 很强大，但并不完美。我们必须了解它的局限，才能明智地使用它。

  • 它可能会出错。 AI 会预测听起来正确的内容，但有时它会编造不真实的事实。这被称为幻觉。因此，我们必须始终核实重要信息。
  • 它并不能真正理解。 它非常擅长识别模式，但它并不像人类那样“知道”事物。它没有真正的情感或生活经验。
  • 它从人类数据中学习。 由于它从人类所写的内容中学习，它也可能沾染这些数据中存在的错误和偏见。
  • 它需要好的提示词。 回答的质量很大程度上取决于我们提问的清晰程度。清晰的提示词会带来更好的结果。

所以，生成式 AI 是一个非常有用的工具，但我们必须把它当作一个聪明的助手，而不是最终真理的来源。

总结

让我们快速回顾一下所学的内容。

  • 生成式 AI 是一种能够创造新内容的 AI，比如文本、图像、音频、视频和代码。
  • “生成”这个词的意思是创造出以前不存在的东西。
  • 旧式 AI 主要用于决策或打标签。生成式 AI 则创造新事物。
  • 它通过阅读大量示例并理解其中的模式来学习。
  • 文本生成式 AI 通过一次又一次地预测下一个词来造出句子。
  • 训练好的大脑被称为模型，而文本模型被称为大语言模型。
  • 它很强大，但也可能出错，所以我们必须始终核实重要的事实。

这就是生成式 AI 的工作原理。它读取海量数据，学习其中的模式，然后利用这些模式为我们创造出全新的内容。

现在，我们应该已经理解了什么是生成式 AI。

常见问题

生成式 AI 会从训练数据中复制答案吗？

不会。生成式 AI 不会复制粘贴旧答案，而且在训练过程中，它也不是逐字记忆文本。它学习的是模式，比如哪些词通常跟在哪些词后面、各种想法之间如何关联。然后，它利用这些模式创造出以前不存在的新内容。

LLM 和生成式 AI 是一回事吗？

不完全是。生成式 AI 是广义的 AI 类型，可以生成新的文本、图像、音频、视频和代码。而大语言模型（LLM）是一种经过训练的模型，主要处理文本和语言。LLM 是驱动我们使用的许多生成式 AI 工具的“训练好的大脑”。

ChatGPT 是生成式 AI 的一个例子吗？

是的。ChatGPT、Claude 和 Gemini 背后的模型都是大语言模型，它们驱动着生成式 AI 工具。当我们用通俗的英语向这类工具提问时，它会利用训练中学到的模式，通过一次又一次地预测下一个词，生成一个全新的答案。

是什么决定了生成式 AI 选择一个稳妥的词还是一个出人意料的词？

一个名为 Temperature（温度）的设置控制着这一点，另外还有两个设置：Top-k 和 Top-p。当 AI 预测下一个词时，它可以选择最可能出现的稳妥词，也可以冒险选择一个更出人意料的词。这些设置决定了它的倾向。

生成式 AI 是建立在机器学习之上的吗？

是的。无论是做决策的传统 AI 还是进行创作的生成式 AI，都建立在机器学习之上。生成式 AI 在一个称为“训练”的阶段中通过查看大量示例来学习。训练的结果被称为模型，它利用学到的模式来创造新内容。

今天就到这里。

谢谢

Amit Shekhar Outcome School 创始人

你可以通过以下方式与我联系：

关注 Outcome School：