谢邀。
本质上就是约化。把高维的问题约化到低维,把复杂的变换约化成简单的变换。
比方说随便写一个乱七八糟的方阵,你不知道怎么处理,事实上数学家a priori也不知道怎么处理(a priori不知道怎么翻译比较好,“先验”?)但是给你一个对角阵,你的思路估计会清晰很多,你知道对角阵代表的就是在不同的特征方向上做不同的伸缩变换(当然伸缩的系数可能是复数,这种情形对应到实平面里面的旋转+伸缩)的一个复合。然后有一个奇迹出现了:很多矩阵,在你换一个角度(换一套坐标系)去观察以后,它其实就是个对角阵。你去把一个矩阵对角化的过程,就是去找那些特征方向,也就是一维的不变子空间的过程,也就是你去寻找最佳的“观察角度”的过程。
当然你不可能总是这么幸运。有些矩阵是不可对角化的,本质原因是他们有2维以上的“不可约”不变子空间(这里的不可约和表示论里面的不可约是一个意思)。在这种情形下,如果是复矩阵,你就应该去考虑所谓的Jordan标准型。非平凡的Jordan块当然比对角阵麻烦一点,但是比起原来那个乱七八糟的矩阵总是方便太多。在这种情形下你还是要去找所有的“不可约”不变子空间(Jordan标准型里的根子空间),然后考虑这个矩阵在每个不变子空间上长什么样(Jordan块)。这个过程就好像你面对一个复杂的机器(让你不知所措的一个矩阵),你先观察它的内在结构(寻找它的特征空间/不变子空间),然后拿锤头起子或者别的什么工具(特征值、(广义)特征向量等知识)把它拆卸成一个个你可以理解的零件(把大矩阵分解成你可以理解的小矩阵块,比如Jordan块),然后你就对原来那个机器的运作机理有所了解了。本质上是一种“分析”的思维方式(这里的分析不是数学分析意义上的分析,而是跟“综合”相对的那个分析)。