在机器学习中我们经常提到向量，究竟什么是向量呢？在本文中，我们将首先研究向量的定义，然后对其数学运算进行直观的解释。

定义向量

我们在X、Y数字网格上绘制一个点（1,2），其中X代表水平方向，Y代表垂直方向。

我们已经很好地定义了一个向量。实际上，我们不仅要考虑网格上的点，我们还需要考虑线。

在上面的案列中，我们从点(0,0)移动到点(1,2)。我们的向量就是表示这个运动的直线:

如果你仔细看，你会注意到我们的直线有两个关键属性：

大小：这是长度的同义词。我们也可以将其视为我们走了多远。方向：与点不同，线实际上是有方向的。

现在我们可以对该概念进行正式定义。根据Miriam Webster，向量是：

具有大小和方向的量，通常用有向线段表示，有向线段的长度表示大小，其空间方向表示方向。

表示向量的一种常见方法是将X维度和Y维度堆叠在一起：

2D向量的简单表示

我们还可以通过超越二维来扩展我们对坐标系统的理解。

在可感知的现实世界中，我们具有三个维度。我们可以尝试可视化3D向量。我们用原来的向量(1,2)，然后加上第三维，我们叫它Z，设它的值为1。所得向量为（1,2,1）：

一旦我们开始超越三维空间，人类的大脑就很难将其形象化。

虽然我们的感知空间解释仅限于三维空间，但在数学上可以更进一步进行解释。让我们以iris机器学习数据集为例，这是一个在机器学习中常用的分类数据集:

在这里，我们有四个特征或预测因子-萼片长度，萼片宽度，花瓣长度，和花瓣宽度，我们可以用来预测我们的目标变量：花的类型(表示为0、1或2)。

上表中的每一行和每一列都可以解释为向量。例如，我们可以这样表示第一行：

从几何学上讲，我们可以将花的这个实例视为在四个不同方向上与原点相距5.1、3.5、1.4和0.2个单位的空间中的线。

向量运算

在本节中，我们将简要介绍与向量相关的数学操作。

在此之前，我想和大家分享一下我的数学学习理念。除非你是一个严格的学者，否则数学的目的是帮助我们解决世界上的实际问题。

向量加法

数值上： 我们将两个向量的每个维度相加。

例如： [1,2] + [1，-1] = [2，1]

几何上：我们把一个向量的尾部放在另一个向量的头部上，然后画出从起点到终点的直线。

蓝色向量[1,2]+红色向量[1,1 -1]=绿色向量[2,1]。

向量减法

数值上：我们将两个向量的每个维度相减。

例如： [1,2]-[1，-1] = [0，3]

几何上：因为我们在做减法，我们可以把它看作是把第二个向量(红色)的方向反过来，然后把它的尾部放在第一个向量(蓝色)的头部上，以得到我们的结果(绿色):

标量乘法

数值上：我们将向量的每个维度乘以标量值：[1,1] * 2 = [2，2]

几何上：我们的向量[1,1]保持其方向，但每个维度以标量值的倍数而改变。

向量的大小

数值上：要度量大小或长度，我们使用勾股定理：取向量中每个平方元素之和的平方根。

示例1： [1,2]的幅度= sqrt（1²+2²）= sqrt（5）= 2.23

示例2： [3,5,6]的幅度= sqrt（3²+5²+6²）= sqrt（9 + 25 + 36）= sqrt（70）= 8.36

几何上：这不需要可视化。它只是您看到的向量的长度。向量的大小通常用管道符号表示:|V|。

向量乘法（点积）

数值上：我们将两个向量中每个维度的乘积相加。结果将始终是标量值。

示例1： [1,2] · [2,3] = 1 * 2 + 2 * 3 = 8。

示例2： [1,2,3] · [2,3,4] = 1 * 2 + 2 * 3 + 3 * 4 = 20。

几何上：这有点棘手。与其直接进行空间解释，不如使用单个向量[0,1]（下面的红色）并找到它与多个其他向量的点积（下面的蓝色）：

注意下几点：

当蓝色向量的方向与红色向量的方向相似时，点积更大。当蓝色向量的大小较大时，点积也较大。当蓝色向量垂直于红色向量时，点积为0。

根据这些观察，我对点积的简单解释是:点积告诉我们两条线在方向上的相似程度;点积由这两个向量的大小决定。

现在，让我们看一下X在二维中具有非零值的示例，以巩固我们的理解：

为什么蓝色向量[1.5,2]与红色向量的点积比蓝色向量[2,1]大呢?因为它的大小更大，并且其方向与我们的红色向量更相似。

为什么蓝色向量[1，-1]与红色向量的点积是0呢 ?因为这两个向量是正交的(彼此成直角)。它们指向不同的方向。

最后

到目前为止，我们已经将向量定义为一个有大小和方向的线空间。机器学习数据集中的每一行或每一列都可以用几何形式表示为理论上无限维数中的一个向量。最后，我们学习了向量运算的数值和几何解释。