什么是 AI？

AI是人工智能(Artificial Intelligence)的缩写，指的是由计算机系统模拟人类智能的技术和应用。

AI的目标是使计算机系统能够像人类一样思考、学习、判断、感知、适应和解决问题。

AI的核心技术，包括：

• 机器学习 - 它通常是 AI 系统的基础，也是我们“教”计算机模型进行预测并根据数据得出结论的方式。
• 计算机视觉 - 通过相机、视频和图像直观地解释世界的 AI 功能。
• 自然语言处理 - 计算机理解书面或口头语言并作出相应反应的 AI 功能。
• 文档智能 - 与管理、处理和使用表单及文档中的大量数据有关的 AI 功能。
• 知识挖掘 - 从大量通常非结构化数据中提取信息以创建可搜索的知识存储的 AI 功能。
• 生成式 AI - 以各种格式（包括自然语言、图像、代码、音频、视频等）创建原始内容的 AI 功能。

了解机器学习

机器学习（Machine Learning）是一种让计算机系统自动从数据中学习规律，并根据学习到的知识进行预测和决策的技术。它是人工智能（AI）的一个重要分支，旨在使计算机系统能够像人类一样思考、学习、判断和解决问题。

机器学习的核心思想是通过训练数据集，让计算机系统自动学习数据中的模式和规律。训练数据集可以是已知的数据，也可以是未知的数据。在训练过程中，机器学习算法会不断调整模型参数，使得模型能够更准确地预测结果。

机器学习的主要任务包括以下几个方面：

1. 数据预处理：对原始数据进行清洗、转换和归一化等操作，以便于机器学习算法更好地处理数据。

2. 特征工程：从原始数据中提取有用的特征，降低数据的维度，提高模型的学习效果。

3. 模型选择和训练：根据问题的需求选择合适的机器学习算法，并通过训练数据集对模型进行训练，使其能够对新的数据进行预测和决策。

4. 模型评估和优化：通过评估模型的性能，发现模型的不足之处，并对模型进行优化，提高模型的预测和决策能力。

5. 模型应用：将训练好的模型应用于实际问题中，实现对新的数据进行预测和决策。

机器学习有许多种方法，包括监督学习、无监督学习和强化学习等。不同的机器学习方法适用于不同的实际问题，需要根据具体问题进行选择。

了解自然语言处理

自然语言处理（Natural Language Processing，简称NLP）是人工智能领域的一个分支，主要研究如何让计算机能够理解、生成和处理自然语言（如英语、汉语）文本。它是人工智能领域中非常重要的一个应用方向，广泛应用于机器翻译、情感分析、文本分类、信息抽取、语音识别和合成等领域。

自然语言处理的主要任务包括以下几个方面：

1. 语言模型：研究自然语言的语法、语义和语用等知识，构建语言模型，用于理解和生成自然语言文本。

2. 语言理解：对自然语言文本进行解析，提取其中的实体、关系和事件等信息，以便于进一步的处理。

3. 语言生成：根据自然语言输入，生成自然语言输出，例如机器翻译、文本摘要和问答系统等。

4. 情感分析：对自然语言文本中的情感信息进行提取和分析，以便于了解文本作者的情感倾向。

5. 信息抽取：从自然语言文本中提取关键信息，以便于进行信息检索和挖掘等任务。

了解计算机视觉

计算机视觉（Computer Vision）是人工智能领域的一个分支，主要研究如何让计算机能够像人类一样理解和处理视觉信息。它是人工智能领域中非常重要的一个应用方向，广泛应用于图像识别、目标检测、图像分割、三维重建、视频分析和智能监控等领域。

计算机视觉的主要任务包括以下几个方面：

1. 图像处理：对图像进行预处理、增强、分割和特征提取等操作，以便于计算机系统更好地理解图像。

2. 目标检测：在图像中检测出特定的目标，例如人脸、车辆、行人等，以便于进行进一步的处理和分析。

3. 图像分割：将图像分割成多个区域，并对每个区域进行特征提取和分析，以便于进行目标识别和分类等任务。

4. 三维重建：通过计算机视觉技术对三维物体进行建模和重建，以便于进行三维可视化、虚拟现实和机器人导航等任务。

5. 视频分析：对视频序列进行处理和分析，以便于进行视频监控、行为识别和运动跟踪等任务。

计算机视觉是一个复杂且具有挑战性的问题，需要综合运用多种技术和方法，包括图像处理、计算机图形学、模式识别、机器学习和深度学习等。随着人工智能技术的不断发展，计算机视觉的应用将会越来越广泛，对人类的生活和工作产生越来越大的影响。

了解文档智能和知识挖掘

了解生成式 AI

生成式 AI（Generative AI）是一类人工智能技术，其核心能力是生成或生成新的、未曾见过的数据或文本。与判别式 AI（Discriminative AI）不同，生成式 AI 不是基于训练数据来预测未知数据的标签或类别，而是通过学习数据中潜在的规律和模式，生成符合这些规律和模式的新数据或文本。

生成式 AI 的应用非常广泛，包括：

1. 生成对抗网络（GANs）：GANs 是一种利用生成式 AI 技术自动生成数据的技术。GANs 由两个神经网络组成：一个生成器网络和一个判别器网络。生成器网络尝试生成与真实数据相似的数据，而判别器网络则尝试区分真实数据和生成数据。通过训练这两个网络，GANs 可以生成新的、未曾见过的数据。
2. 自然语言生成（NLG）：NLG 是一种利用生成式 AI 技术自动生成自然语言文本的技术。NLG 可以通过训练神经网络，使其能够根据输入的上下文和语境生成自然语言文本。
3. 图像生成（Image Generation）：图像生成是一种利用生成式 AI 技术自动生成图像的技术。图像生成可以通过训练神经网络，使其能够根据输入的描述或上下文生成图像。
4. 音频生成（Audio Generation）：音频生成是一种利用生成式 AI 技术自动生成音频的技术。音频生成可以通过训练神经网络，使其能够根据输入的描述或上下文生成音频。

了解检索增强生成（Retrieval-Augmented Generation）

是一种文本生成方法，它结合了检索和生成两个过程，旨在通过利用已有的文本数据来生成新的、未曾见过的文本。

在检索增强生成中，首先需要从大量的文本数据中进行检索，以找到与给定主题或语境相关的文本。然后，利用这些已有的文本数据来训练一个语言模型，例如循环神经网络（RNN）或变压器（Transformer）等。该语言模型可以学习已有的文本数据中的潜在规律和模式，从而能够根据这些规律和模式生成新的文本。

与传统的文本生成方法不同，检索增强生成利用已有的文本数据来进行生成，因此可以生成更加准确、连贯和有意义的文本。此外，检索增强生成还可以应用于各种文本生成任务，例如文本摘要、问答系统、机器翻译等。

了解什么是大型语言模型 Large Language Model

关键词：Transformer 模型、词汇切分、嵌入向量库

Transformer 模型中的编码器块和解码器块包括构成模型的神经网络的多个层。 我们不需要深入了解所有这些层的详细信息，但有必要考虑在这两个块中使用的注意力层这一层类型。 注意力是一种技术，可用于检查文本标记序列并尝试量化它们之间的关系强度。 具体而言，自注意力需要考虑某个特定标记周围的其他标记如何影响该标记的含义。

在编码器块中，注意用机制于检查上下文中的每个标记，并确定适合其向量嵌入的编码。 向量值基于该标记与它经常出现的其他标记之间的关系。 这种注重上下文环境的方法意味着同一个词可能具有多个嵌入，具体取决于其使用的上下文，例如，“the bark of a tree”的含义与“I heard a dog bark”不同。

在解码器块中，注意力层用于预测序列中的下一个标记。 对于生成的每个标记，模型都有一个注意力层，该层会考虑截至该点为止的标记序列。 在考虑下一个标记时，模型会考虑哪些标记最具影响力。 例如，给定序列“I heard a dog”，在考虑序列中的下一个单词时，注意力层可能会为标记“heard”和“dog”分配更大的权重：

I heard a dog [bark]

请记住，注意力层使用的是标记的数值向量表示形式，而不是实际文本。 在解码器中，该过程从一系列表示要完成的文本的标记嵌入开始。 发生的第一件事是，另一个位置编码层会向每个嵌入添加一个值，以指示其在序列中的位置：

• [1,5,6,2] (I)
• [2,9,3,1] (heard)
• [3,1,1,2] (a)
• [4,10,3,2] (dog)

在训练期间，目标是根据前面的标记预测序列中最终标记的向量。 注意力层会将数字权重分配给目前为止序列中的每个标记。 它会使用该值对加权向量执行计算，生成可用于计算下一个标记的可能向量的注意力分数。 在实际中，一种称为“多头注意力”的技术会使用嵌入的不同元素来计算多个注意力分数。 然后，使用神经网络来评估所有可能的标记，以确定要继续该序列的最可能标记。 对于序列中的每个标记，该过程都会以迭代方式继续，到目前为止的输出序列会以回归方式用作下一次迭代的输入，实质上是一次生成一个标记的输出。

下一篇：深入了解大模型