如何理解矩阵特征值？

想象一下，你有一块橡皮泥，你用手去捏它、拉伸它、扭曲它。大多数情况下，你捏的力度、方向不同，橡皮泥都会发生各种复杂的变化。然而，在这个过程中，也许有一些特殊的“方向”，你沿着这些方向去“捏”（也就是施加一个向量），橡皮泥只会沿着这个方向被“拉伸”或“压缩”，而不会发生任何“转动”或“倾斜”。

矩阵，在数学里，就像是我们对这个橡皮泥进行的一种“变换”。它能够把你输入的任何一个向量，按照一定的规则“加工”一遍，变成一个新的向量。

特征值和特征向量，就是这种变换过程中，那些“神奇”的方向和“神奇”的伸缩系数。

我们来一步一步拆解开来：

1. 矩阵的作用：一个“变换器”

你可以把一个矩阵看作一个“变换器”。当你把一个向量（一个箭头，有方向和长度）“喂”给这个矩阵时，矩阵就会对它进行一系列的操作，比如旋转、缩放、剪切等等，最终输出一个新的向量。

举个例子：

假设有一个简单的矩阵：
$A = egin{pmatrix} 2 & 0 \ 0 & 3 end{pmatrix}$

我们输入一个向量 $v = egin{pmatrix} 1 \ 1 end{pmatrix}$：
$Av = egin{pmatrix} 2 & 0 \ 0 & 3 end{pmatrix} egin{pmatrix} 1 \ 1 end{pmatrix} = egin{pmatrix} 2 imes 1 + 0 imes 1 \ 0 imes 1 + 3 imes 1 end{pmatrix} = egin{pmatrix} 2 \ 3 end{pmatrix}$

你看，原来的向量 $v$ 被矩阵 $A$ 变成了一个新的向量 $Av$。这个新的向量在长度和方向上都发生了变化。

2. 寻找“不变的方向”：特征向量

现在，想象我们在这个“变换器”的世界里，不断地尝试各种各样的输入向量。我们会发现，绝大多数情况下，输出的向量都跟输入的向量“长”得不一样，不仅长度可能变了，方向也可能变了。

但是，就像我们一开始说的橡皮泥，一定有一些特殊的“方向”。你把一个向量沿着这个方向输入给矩阵，矩阵加工后的结果，仍然在同一个方向上，只是长度可能被拉伸或压缩了。

这些“特殊的方向”对应的向量，就叫做特征向量（Eigenvector）。

用数学语言来说，就是存在一个向量 $v$，使得 $Av = lambda v$。

这里：
$A$ 是我们的矩阵。
$v$ 是我们的特征向量，它指明了那个“不变的方向”。
$lambda$ 是一个标量（一个数字），它告诉我们向量 $v$ 在这个方向上被拉伸或压缩了多少。

3. 衡量“不变的方向”的“伸缩程度”：特征值

而那个标量 $lambda$，就是特征值（Eigenvalue）。

它描述了在特征向量 $v$ 的方向上，矩阵 $A$ 所进行的“伸缩”程度。

如果 $lambda > 1$，说明在这个方向上，向量被拉伸了。
如果 $0 < lambda < 1$，说明在这个方向上，向量被压缩了。
如果 $lambda = 1$，说明在这个方向上，向量长度不变。
如果 $lambda = 0$，说明在这个方向上，向量被压缩成零向量了（也就是“消失”了）。
如果 $lambda < 0$，说明在这个方向上，向量被反向拉伸（或者说，先反向再拉伸）。

让我们回到刚才的例子：

$A = egin{pmatrix} 2 & 0 \ 0 & 3 end{pmatrix}$

如果我们输入向量 $v_1 = egin{pmatrix} 1 \ 0 end{pmatrix}$：
$Av_1 = egin{pmatrix} 2 & 0 \ 0 & 3 end{pmatrix} egin{pmatrix} 1 \ 0 end{pmatrix} = egin{pmatrix} 2 \ 0 end{pmatrix} = 2 egin{pmatrix} 1 \ 0 end{pmatrix}$

你看，输出的向量 $egin{pmatrix} 2 \ 0 end{pmatrix}$ 仍然在 $x$ 轴方向上，只是长度变成了原来的2倍。
所以，$v_1 = egin{pmatrix} 1 \ 0 end{pmatrix}$ 是矩阵 $A$ 的一个特征向量，对应的特征值是 $lambda_1 = 2$。

如果我们输入向量 $v_2 = egin{pmatrix} 0 \ 1 end{pmatrix}$：
$Av_2 = egin{pmatrix} 2 & 0 \ 0 & 3 end{pmatrix} egin{pmatrix} 0 \ 1 end{pmatrix} = egin{pmatrix} 0 \ 3 end{pmatrix} = 3 egin{pmatrix} 0 \ 1 end{pmatrix}$

输出的向量 $egin{pmatrix} 0 \ 3 end{pmatrix}$ 仍然在 $y$ 轴方向上，只是长度变成了原来的3倍。
所以，$v_2 = egin{pmatrix} 0 \ 1 end{pmatrix}$ 是矩阵 $A$ 的另一个特征向量，对应的特征值是 $lambda_2 = 3$。

特征值的几何意义：

特征值本质上是在特定方向上的缩放因子。它告诉你在那个方向上，这个线性变换“拉伸”或“压缩”了多少。

如果一个特征值为 1，那么在这个方向上的向量不会被缩放。
如果一个特征值为 0，那么在这个方向上的向量会被压成零。
如果一个特征值为负数，那么在这个方向上的向量会被反转方向，然后再进行缩放。

为什么特征值这么重要？

理解了特征值和特征向量，你就理解了矩阵变换的“核心骨架”。它们揭示了矩阵变换最本质、最简单的行为模式。

1. 理解变换的本质： 它们帮助我们理解一个矩阵变换是如何作用在空间上的。有些方向上的改变（伸缩）比其他方向上的改变更重要，或者说更简单。
2. 降维（PCA）： 在数据分析中，我们常常希望找到数据的主要变化方向。这些方向往往对应着最大的特征值。通过保留这些主要方向，我们可以大大减少数据的维度，同时保留大部分信息。
3. 稳定性分析： 在很多动力学系统（比如电路、机械系统）中，矩阵的特征值决定了系统的稳定性。如果特征值都在一个区域内，系统就是稳定的。
4. 图像处理： 特征值和特征向量被用于图像压缩、特征提取等领域。
5. 量子力学： 在量子力学中，可观测量的取值对应于算符（可以看作是一种矩阵）的特征值。

更进一步的思考：

特征值不一定唯一： 一个矩阵可能有多个特征值，每个特征值对应一个或多个特征向量。
特征向量不唯一： 对于同一个特征值，可以有很多个对应的特征向量（只要它们在这个“不变的方向”上，无论长度如何）。我们通常会选择一个单位向量作为代表。
复数特征值： 在某些情况下，特征值可能是复数。这通常意味着矩阵的变换包含了旋转的成分。

总而言之，矩阵特征值和特征向量就像是为矩阵的“变换”行为找到了最简单、最能代表其“个性”的方向和伸缩比例。它们是理解线性代数和其在各种科学技术应用中至关重要的概念。

网友意见

（下面的回答只涉及实数范围）。

关于特征值、特征向量可以讲的确实很多，我这里希望可以给大家建立一个直观的印象。

先给一个简短的回答，如果把矩阵看作是运动，对于运动而言，最重要的当然就是运动的速度和方向，那么（我后面会说明一下限制条件）：

• 特征值就是运动的速度
• 特征向量就是运动的方向

既然运动最重要的两方面都被描述了，特征值、特征向量自然可以称为运动（即矩阵）的特征。

注意，由于矩阵是数学概念，非常抽象，所以上面所谓的运动、运动的速度、运动的方向都是广义的，在现实不同的应用中有不同的指代。

下面是详细的回答，我会先从几何上简单讲解下特征值、特征向量的定义指的是什么，然后再来解释为什么特征值、特征向量会是运动的速度和方向。

1 几何意义

说明下，因为线性变换总是在各种基之间变来变去，所以我下面画图都会把作图所用的基和原点给画出来。

在 下面有个 ：

随便左乘一个矩阵，图像看上去没有什么特殊的：

我调整下 的方向，图像看上去有点特殊了：

可以观察到，调整后的 和 在同一根直线上，只是 的长度相对的长度变长了。

此时，我们就称 是 的特征向量，而 的长度是 的长度的 倍， 就是特征值。

从而，特征值与特征向量的定义式就是这样的：

其实之前的 不止一个特征向量，还有一个特征向量：

容易从 相对于 是变长了还是缩短看出，这两个特征向量对应的特征值，一个大于1，一个小于1。

从特征向量和特征值的定义式还可以看出，特征向量所在直线上的向量都是特征向量：

你可以自己动手试试，可以改变 的位置，以及矩阵 的值（特征空间会随着矩阵改变而改变）：

此处有互动内容，点击此处前往操作。

其中有些值构成的矩阵没有画出特征空间，可能是因为它的特征值、特征向量是复数，也可能是不存在。

下面就要说下，特征值、特征向量与运动的关系

2 运动的速度与方向

2.1 从调色谈起

我有一管不知道颜色的颜料，而且这管颜料有点特殊，我不能直接挤出来看颜色，只能通过调色来观察：

为了分辨出它是什么颜色（记得它只能通过调色来辨别）：

因为反复混合之后，这管颜料的特征就凸显了出来，所以我们判断，这管颜料应该是蓝色。

说这个干什么？矩阵也有类似的情况。

2.2 矩阵的混合

一般来说，矩阵我们可以看作某种运动，而二维向量可以看作平面上的一个点（或者说一个箭头）。对于点我们是可以观察的，但是运动我们是不能直接观察的。

就好像，跑步这个动作，我们不附加到具体的某个事物上是观察不到的，我们只能观察到：人跑步、猪跑步、老虎跑步、......，然后从中总结出跑步的特点。

就好像之前举的不能直接观察的颜料一样，要观察矩阵所代表的运动，需要把它附加到向量上才观察的出来：

似乎还看不出什么。但是如果我反复运用矩阵乘法的话：

就像之前颜料混合一样，反复运用矩阵乘法，矩阵所代表的运动的最明显的特征，即速度最大的方向，就由最大特征值对应的特征向量展现了出来。

至于别的特征值对应的是什么速度，我后面会解释，这里先跳过。

可以自己动手试试，我把 值也标注出来了，可以关注下最大 值对于运动的影响：

此处有互动内容，点击此处前往操作。

顺便说下，对于复数的特征值、特征向量，在上面就没有画出特征空间，但可以观察到反复运用矩阵乘法的结果是围绕着原点在旋转。关于复数特征值和特征向量这里就不展开来说了。

2.3 烧一壶斐波那契的水

上面说的运动太抽象了，我来举一个具体点的例子：烧水。

比如说我想烧一壶水，水的温度按照斐波那契数列升高，即下一秒的温度 与当前温度 以及上一秒的温度的关系为：

要继续计算下去，我只需要 以及 就可以继续算下去。因此我可以写成下面的式子：

因此烧水这个运动我们可以抽象为矩阵 ，反复进行这个运动就可以烧开这壶水，根据斐波那契数列，让我们从 点开始（感兴趣的话，可以通过之前的互动调整下参数，可以得到下面的结果）：

就可以看出，这壶水的温度会沿着的特征值最大的特征向量方向飞快增长，我估计要不了多久，在理想的情况下，温度就会突破百万度、千万度、亿万度，然后地球说不定就爆炸了。我们就说这个矩阵不稳定。

所以说，不要烧斐波那契的水。

实际上历史也是这样，欧拉在研究刚体的运动时发现，有一个方向最为重要，后来拉格朗日发现，哦，原来就是特征向量的方向。

我们知道特征值、特征向量有什么特点之后，下一步就想知道，为什么会这样？

3 特征值分解

下面讲解要用到矩阵乘法和相似矩阵的知识，我就不啰嗦了，可以参看：“从高斯消元法到矩阵乘法”、“如何理解矩阵乘法？”以及“相似矩阵是什么？”

我们知道，对于矩阵可以对角化的话，可以通过相似矩阵进行下面这样的特征值分解：

其中为对角阵，的列向量是单位化的特征向量。

说的有点抽象，我们拿个具体的例子来讲：

对于方阵而言，矩阵不会进行维度的升降，所以矩阵代表的运动实际上只有两种：

• 旋转
• 拉伸

最后的运动结果就是这两种的合成。

我们再回头看下刚才的特征值分解，实际上把运动给分解开了：

我们来看看在几何上的表现是什么，因此相似矩阵的讲解涉及到基的变换，所以大家注意观察基：

左乘 ：

如果旋转前的基不正交，旋转之后变为了标准基，那么实际会产生伸缩，所以之前说的正交很重要。

继续左乘对角矩阵 ：

相当于，之前的旋转是指明了拉伸的方向，所以我们理解了：

• 特征值就是拉伸的大小
• 特征向量指明了拉伸的方向

回到我们之前说的运动上去，特征值就是运动的速度，特征向量就是运动的方向，而其余方向的运动就由特征向量方向的运动合成。所以最大的特征值对应的特征向量指明了运动速度的最大方向。

但是，重申一下，上面的推论有一个重要的条件，特征向量正交，这样变换后才能保证变换最大的方向在基方向。如果特征向量不正交就有可能不是变化最大的方向，比如：

所以我们在实际应用中，都要去找正交基。但是特征向量很可能不是正交的，那么我们就需要奇异值分解了，这里就不展开了。

大家可以再回头去操作一下之前的动图，看看不正交的情况下有什么不一样。

左乘 ：

说明下，如果大家把这个文章和之前提到的我写的“相似矩阵”的文章参照来看的话，“相似矩阵”那篇文章里面我把图像的坐标系换了，所以看着图像没有变换（就好像直角坐标系到极坐标系下，图像是不会变换的）。而这里我把图像的坐标系给旋转、拉伸了，所以看着图像变换了（就好像换元，会导致图像变换）。这其实是看待矩阵乘法的两种视角，是等价的，但是显示到图像上就有所不同。

4 特征值、特征向量的应用

4.1 控制系统

之前的烧水系统是不稳定的。

的，系统最终会趋于稳定：

4.2 图片压缩

比如说，有下面这么一副的图片（方阵才有特征值，所以找了张正方形的图）：

这个图片可以放到一个矩阵里面去，就是把每个像素的颜色值填入到一个的 矩阵中。

根据之前描述的有：

其中， 是对角阵，对角线上是从大到小排列的特征值。

我们在中只保留前面50个的特征值（也就是最大的50个，其实也只占了所有特征值的百分之十），其它的都填0，重新计算矩阵后，恢复为下面这样的图像：

效果还可以，其实一两百个特征值之和可能就占了所有特征值和的百分之九十了，其他的特征值都可以丢弃了。

文章最新版本在（有可能会有后续更新）：如何理解特征值和特征向量？

科学的另一个核心：找到变化过程中的最短路径，以达到熵的效用最高。

特征值就是矩阵的最简形式，且该形式在正交矩阵空间中可以任意复述，不受基点、纬度以及分辨率的影响。

类似的话题

• 

  如何理解矩阵特征值？

  

  想象一下，你有一块橡皮泥，你用手去捏它、拉伸它、扭曲它。大多数情况下，你捏的力度、方向不同，橡皮泥都会发生各种复杂的变化。然而，在这个过程中，也许有一些特殊的“方向”，你沿着这些方向去“捏”（也就是施加一个向量），橡皮泥只会沿着这个方向被“拉伸”或“压缩”，而不会发生任何“转动”或“倾斜”。矩阵，在.............
• 

  如何理解矩阵的复数特征值和特征向量？

  

  当然，我很乐意为你深入讲解矩阵的复数特征值和特征向量。咱们就抛开那些生硬的定义，用一种更贴近思考的方式来理解它们。想象一下，我们手里有一个“变换器”，这个变换器就是我们的矩阵。它能对空间里的向量进行拉伸、压缩、旋转等等操作。我们总是希望找到一些“特殊”的向量，当它们经过这个变换器的作用后，只是被拉伸.............
• 

  如何理解命题「矩阵可对角化等价于其所有特征值的代数重数等于几何重数」？

  

  你好！很高兴能和你一起深入探讨“矩阵可对角化”与“特征值的代数重数等于几何重数”之间的深刻联系。这不仅仅是一个数学定理，它更是理解矩阵行为、揭示其内在结构的关键钥匙。让我们一步一步来，把这其中的奥秘掰开了揉碎了说清楚。首先，我们得把一些基础概念理顺了。1. 什么叫做“矩阵”？简单来说，矩阵就是一堆数.............
• 

  如何理解主成分分析中的协方差矩阵的特征值的几何含义？

  

  主成分分析（PCA）是一种强大的降维技术，其核心是利用协方差矩阵的特征值和特征向量来寻找数据的主要变化方向。理解协方差矩阵特征值的几何含义，对于深入理解 PCA 至关重要。让我们从头开始，一步一步地展开： 1. 数据点、向量与散点图首先，想象我们有一个数据集，其中包含 $n$ 个样本，每个样本有 $.............
• 

  如何理解矩阵相乘的几何意义或现实意义？

  

  矩阵相乘的几何意义，用最直观的方式来理解，那就是一系列的线性变换组合在一起的效果。试想一下，你在纸上画了一些点，它们构成了一个图形。你可以对这些点进行各种操作：旋转、缩放、倾斜、镜像等等。这些操作，在数学上都可以用矩阵来表示。而当你要同时进行多个这样的操作时，它们合在一起的效果，就是这些操作矩阵相乘.............
• 

  如何理解矩阵对矩阵求导？

  

  矩阵对矩阵求导，听起来就够让人头皮发麻的。毕竟，我们平时求导，都是对一个变量，比如 $f(x) = x^2$，求导就是 $f'(x) = 2x$。现在变成矩阵对矩阵求导，这脑子里面的概念一下子就模糊了。但别担心，咱们一步步来拆解，把这层窗户纸捅破。首先，咱们得明确几个基本概念。你看到“矩阵对矩阵求导.............
• 

  如何理解矩阵的「秩」？

  

  矩阵的“秩”这个概念，初听起来可能有些抽象，但它其实是理解矩阵背后线性关系的一个非常核心的工具。我们可以从几个不同的角度来剖析它，就像剥洋葱一样，层层深入，最终看到本质。1. 向量空间的视角：线性无关的“骨架”想象一下，一个矩阵就像一个“点石成金”的机器，它接收一组向量（输入），然后通过某种规则（矩.............
• 

  如何通俗理解矩阵的秩？

  

  好的，我们来用通俗易懂的方式详细理解一下矩阵的秩。想象一下，矩阵就像是一个装满了数字的表格，或者说是一个二维的“信息网”。矩阵的秩，顾名思义，就是衡量这个信息网中“独立有效信息”有多少。我们来一步步拆解：1. 矩阵的“信息”是什么？一个矩阵的每一行或每一列都可以看作是一个“向量”，就像一个带有方向和.............
• 

  如何理解雅克比矩阵？

  

  好的，咱们就来好好聊聊这个“雅克比矩阵”。听着挺唬人的，但说白了，它就像是一个数学里的“万能翻译器”或者“局部放大镜”，特别好用。咱们一步一步来。 你最熟悉的变化：一个变量的小变化，另一个变量怎么跟着变？想象一下你骑自行车。你稍微转动一下车把，前轮的方向就变了。你蹬一下脚踏板，车的速度就快了点。这时.............
• 

  如何形象地理解矩阵的相似与合同？

  

  矩阵的相似与合同：理解它们的“形似”与“神似”在数学的世界里，矩阵就像是不同坐标系下的“语言”，它们描述着向量的变换。而矩阵的相似与合同，则是我们理解这些“语言”之间深层联系的两种重要方式。打个比方，相似是说两个矩阵在本质上是“形似”的，而合同则更强调它们在某种特定意义下的“神似”。 相似：换个角度.............
• 

  如何从代数和几何的角度分别理解矩阵？

  

  理解矩阵的代数和几何意义是深入掌握线性代数的基础。这两者并非孤立的，而是相互关联、相辅相成的。下面我将从代数和几何两个角度详细阐述矩阵的含义。 一、 从代数角度理解矩阵从代数角度看，矩阵可以理解为一组有序的数集，它们以矩形的形式排列，并遵循特定的加法、减法、乘法规则。这些规则使得矩阵成为一种强大的代.............
• 

  分块矩阵的秩的问题如何理解呢？

  

  理解分块矩阵的秩，其实是在我们已经掌握了“秩”这个概念的基础上，将它应用到更复杂的结构——分块矩阵上。这就像我们学了单行字，然后开始学习写句子，最后是篇章。分块矩阵的秩，就是关于这些“篇章”的性质。咱们一步一步来拆解它，尽量说得透彻明白，没有一点“人工智能”的腔调，纯粹是人与人之间的探讨。第一步：重.............
• 

  如何理解「文官的衣服上绣的是禽，武官的衣服上绣的是兽。披上了这身皮，我们哪一个不是衣冠禽兽」这句话？

  

  这句话“文官的衣服上绣的是禽，武官的衣服上绣的是兽。披上了这身皮，我们哪一个不是衣冠禽兽”融合了历史、文化、隐喻和讽刺，需要从多个层面进行解析： 一、历史背景与服饰象征1. 古代官服制度 在中国历史上，官服的纹饰（如禽鸟、兽类）是等级制度和身份象征的重要标志。 文官：常以“禽”为纹.............
• 

  如何理解自称迪士尼在逃公主的女生？

  

  “自称迪士尼在逃公主”的现象在网络上出现后，引发了广泛讨论。这一说法通常指一些女性在社交媒体、论坛或网络社区中自称是“迪士尼公主”，并可能涉及身份扮演、文化认同、心理需求等多重层面。以下从多个角度详细分析这一现象的可能内涵和背景： 一、文化符号的再诠释：迪士尼公主的象征意义1. 迪士尼公主的原始形象.............
• 

  如何理解自由主义？新自由主义又是什么？

  

  自由主义和新自由主义是两种重要的思想体系，它们在政治哲学、经济学和社会政策等领域具有深远的影响。以下是对这两个概念的详细解析： 一、自由主义的定义与核心特征自由主义（Liberalism）是一种以个人自由、法治、民主和理性为价值基础的政治哲学思想体系，其核心在于保障个体权利和限制国家权力。自由主义的.............
• 

  如何理解无政府主义？

  

  无政府主义（Anarchism）是一种深刻批判国家权力、追求个体自由与社会平等的政治哲学和实践运动。它并非主张“混乱”或“无序”，而是反对一切形式的强制性权威，尤其是国家对个人生活的控制。以下从多个维度深入解析这一复杂的思想体系： 一、核心定义与本质特征1. 对国家的彻底否定 无政府主义者认.............
• 

  如何理解“爱国家不等于爱朝廷”？古代的朝臣爱国都是在爱朝廷吗？

  

  “爱国家不等于爱朝廷”这句话在理解中国古代政治和文化时非常重要。它揭示了国家与政权（即朝廷）之间的区别，以及臣民对这两者的情感和责任的不同层面。要理解这句话，我们需要先拆解其中的概念： 国家（Guó Jiā）： 在古代，我们通常将其理解为国家的疆土、人民、文化、民族认同和长期的历史延续。它是根植.............
• 

  如何理解 14 日发布的央行工作论文中提到「东南亚国家掉入中等收入陷阱」原因之一是「文科生太多」？

  

  理解中国人民银行工作论文中提到的“东南亚国家掉入中等收入陷阱的原因之一是‘文科生太多’”这一论断，需要从多个层面进行深入分析，因为这是一个相对复杂且具有争议性的议题。下面我将尽量详细地解释其背后的逻辑和可能含义：一、 背景：中等收入陷阱首先，我们需要理解什么是“中等收入陷阱”。 定义： 中等收入.............
• 

  如何理解郭主席对房地产的表述，不希望房地产剧烈波动?

  

  郭主席对房地产的表述“不希望房地产剧烈波动”可以从多个层面来理解，这背后反映了他对中国经济稳定和健康发展的深切关切。要详细理解这一点，我们需要从房地产在中国经济中的地位、波动可能带来的影响、以及“不剧烈波动”的具体含义等角度进行分析。一、 房地产在中国经济中的特殊地位：首先，理解为什么房地产会引起如.............
• 

  如何理解科幻小说《时间的二分法》?

  

  如何理解科幻小说《时间的二分法》？ 详细解读科幻小说《时间的二分法》（英文原名：The Time Machine），由英国著名作家赫伯特·乔治·威尔斯（H.G. Wells）于1895年创作，是科幻文学史上的经典之作。这部小说不仅为我们描绘了一个令人着迷的未来世界，更通过其深刻的社会寓言和哲学思考，.............