二次型和矩阵合同原来是这么一回事

原创
10/15 22:50
阅读数 6.9K

在数学中,二次型(Quadratic Form)是指关于变元的二次齐次多项式。例如,

是关于变元 的一个二次型。

二次型在一元、两元和三元的情况下,被称为 unary,binary 和 ternary,可以写为以下形式,

其中 是系数。

二次型在许多数学分支,包括数论、线性代数、群论(正交群)、微分几何、微分拓扑和李代数中,占有重要地位。

二次型可以用于表示某些二次曲线。例如,可以表示下图中旋转的椭圆,

其在 坐标系中的方程对应如下关于二次型的等值式,

这个例子说明,正确选择坐标系或者基底,通常可以简化方程或者待处理的特定问题。

坐标系逆时针旋转 度,进入 坐标系。此时, 乘积项没有了,椭圆方程简化为,

这个方程中两个变元之间独立了,形式干净漂亮。那么给定一个二次型,我们如何得到它的标准型呢?这就是本文要讨论的内容,在正式开始之前,我们先来回顾一下有关二次型的研究背景和简史。

0历史简介

对特定二次型的研究,特别是关于给定整数是否可以是整数上二次形式的值的问题,可以追溯到多个世纪以前。一个这样的例子是关于两个数平方和的问题,即确定何时可以用 这样的形式表示整数,其中 是整数。这个问题与古老的毕达哥拉斯三元组问题有关。

公元 628 年,印度数学家 Brahmagupta 撰写的著作中包括对 这类方程的研究。特别地,他考虑了现在称为 Pell 方程 的问题,并找到了一种求解方法。在欧洲,布龙克尔(Brouncker),欧拉(Euler)和拉格朗日(Lagrange)研究了这个问题。

而对二次型进行系统性研究可以说是从 18 世纪开始的,它起源于对二次曲线和二次曲面的分类问题的讨论,将二次曲线和二次曲面的方程变形,选有主轴方向的轴作为坐标轴以简化方程的形状,这个问题是在 18 世纪引入的。

柯西在前人基础上得出结论: 当方程是标准型时,二次曲面用二次型的符号来进行分类。然而,那时并不清楚,在化简成标准型时,为何总是得到同样数目的正项和负项。西尔维斯特(就是那个首先使用 Matrix 这词的数学家)回答了这个问题,他给出了 个变元的二次型的惯性定律,但并没有证明。这个定律后来被雅可比(Jacobi)重新发现和证明。1801 年,高斯在《算术研究》中引进了二次型的正定、负定、半正定和半负定等术语。

另外,在矩阵论的发展史上,德国数学家弗罗贝尼乌斯(Frobenius)取得了很大贡献。1878 年,弗罗贝尼乌斯提出了正交矩阵的正式定义,并讨论了正交矩阵与合同矩阵的一些重要性质。1879 年,他结合行列式引入矩阵秩的概念。弗罗贝尼乌斯还整理和扩展了魏尔斯特拉斯关于不变因子和初等因子的理论工作。

1二次型的定义

矩阵出现之前

所谓二次型,就是系数在一定数域上的齐次多项式,并且是二次多项式。在矩阵的概念提出之前,可以用下面的形式来定义。

是一数域,一个系数在数域 中的 的二次齐次多项式

称为数域 上的一个 元二次型,或者,在不致引起混淆时简称为二次型。

例如,

就是有理数域上的一个三元二次型。

用矩阵的形式定义

对于向量 和矩阵 ,定义为

的标量函数被称为二次形式。当 是正定矩阵时,二次型被称为正定的。换句话说,当且仅当对所有 都有 成立时,上式是正定二次型。

注意二次型的公式里有个转置 ,这个可以说非常好,它正是后面引出矩阵合同这个概念的缘由。

此时,我们再看上面的那个三元二次多项式,

可以将上面二次型用矩阵表示,

然而,由于 这两项前面的系数并不确定,反应到矩阵上就是它们对应的矩阵元素 并不能唯一确定下来。换句话说,可以用不同的矩阵来表示这个二次型。但是如果要求这个矩阵是对称的,那么它就是唯一的。

假设给定矩阵 ,由于

是对称的,所以二次型对应的矩阵始终可以用对称矩阵表示。因此,可以假设每个二次型的矩阵都是对称的。而当 以及 是 Hermitian 时,表达式 被称为复二次型。

二次型的对角化

是对角矩阵时,称二次型 为对角型。

每个二次型 都可以通过变量代换 来对角化。

这是因为 是对称的,因此存在一个正交矩阵 ,其中

以及, (或 ,得到

这表明二次型的性质由对称矩阵 的特征值确定,而我们知道实对称矩阵的特征值均为实数(柯西在 1829 年已经发现)。以这种方式对角化一个二次型的效果相当于旋转标准坐标系,以便在新坐标系中 的图形呈标准型。如果 是正定的,则其所有特征值都是正的,因此有常数 使得 的像是一个以原点为中心的椭球面。

〄 正定二次型对应的等值面。

例如,上图就对应了如下二次型,

需要注意的是,二次型的对角化并不一定要通过矩阵的特征分解来实现,这里不需要正交,只需要非奇异,因此也可以通过其他分解来实现。

实际上,不必通过求解特征值问题来对角化二次型,因为可以使用基于非奇异矩阵 (但不一定是正交)的合同变换 来实现。例如,因为 是对称的,因此可以通过对 的 LDU 分解 来得到一个合同变换。

这种分解计算起来相对来说更加方便,并且对角矩阵 对角线上的元素是高斯消元过程中出现的主元。

(或者 ,得

最终得到的二次型称为标准型,如果系数为正负 1,则称为规范型。

合同(Congruence)

没有查到这词是谁翻译的,现代人看到合同两字,可能会想这两个矩阵是在做生意吗?

Congruence 这个词在数学中多次出现,在几何中称全等,算术中称作同余,总之它可以用于表示一种等价关系。

矩阵的合同不需要对称,是满足如下性质的一种等价关系,

  • 反身性: 任意矩阵都与其自身合同;
  • 对称性: 合同于 ,则可以推出 合同于
  • 传递性: 合同于 合同于 ,则可以推出 合同于

合同矩阵的秩相同,矩阵合同的主要判别法:

  • 均为复数域上的 阶对称矩阵,则 在复数域上合同等价于 的秩相同。
  • 均为实数域上的 阶对称矩阵,则 在实数域上合同等价于 有相同的正、负惯性指数 (即正、负特征值的个数相等)

可以这么理解: 两个实对称矩阵合同,当且仅当它们是在各自基底下表示同一个二次型。

西尔维斯特惯性定律

实对称矩阵 的惯性指数定义为三元组 ,其中 分别是正、负和零特征值的个数。1852 年西尔维斯特(Sylvester)发现,在合同变换下, 的惯性指数是不变的。

表示实对称矩阵 是合同的(即存在非奇异矩阵 使得

西尔维斯特惯性定律指出,对于实对称矩阵,

当且仅当 具有相同的惯性指数。

西尔维斯特提出该惯性定律时并没有证明,下面我们用后来提出的理论来简要证明一下,如果对证明兴趣不大可以跳过此节。

证明

1. 先证必要性

如果 是实对称矩阵且惯性指数为 ,则有

因为如果

的特征值(其中, ,则存在一个正交矩阵 ,使得

令,

那么, 是非奇异矩阵,因此可得

是一个实对称矩阵,其惯性指数为 ,由上面结论可得,

如果 ,则 (合同关系具有传递式),因此 ,得

为了得到 ,我们用反证法。假设 ,有非奇异矩阵 使得 。如果 ,则由秩公式可得

因此,存在一个非零向量 。对于这样的向量

以及

矛盾。

因此, 不能成立。类似地,$p

以上证明了,如果 ,则 具有相同的惯性指数。

2. 再证充分性

反过来,如果 的惯性指数为 ,则公式 ( ) 成立,因此

惯性指数举例
与双线性形式的关系

与二次型 相关的双线性形式定义为,

因此, 是域 上由矩阵 定义的对称双线性形式。相反,可以由任何对称双线性形式 定义二次型,

在一般的域上, 元对称双线性形式和二次型可以等同视之。

另外,这里其实隐藏着张量这个数学概念,具体留作后文进一步解读。

2小结

最后,不用矩阵再总结一下西尔维斯特惯性定律(Sylvester's law of inertia)。在实数域中,一个形如

的二次型通过变元代换可以化简成唯一的规范型,

上式由系数矩阵的秩 ,正惯性系数的个数 ,负惯性系数的个数 以及 的数目唯一确定,而正惯性系数个数减去负惯性系数个数的值 称作符号差。

注意,虽然矩阵合同的概念是后来提出来的,但是上面这些工作是在 1852 年前提出的。

两个实对称矩阵合同,当且仅当它们是在各自基底下表示同一个二次型/双线性形式。

有了矩阵的概念以及矩阵分解以后,书写和证明将变得更加方便。在凯莱提出矩阵代数的同时,他以矩阵符号运算的方式指出,二次型转化为标准型对应了矩阵的对角化。

相关阅读

矩阵和线性代数原来是这么来的

概率论原来可以这样优雅地入门

机器学习的数学基础 之 向量范数

机器学习的数学基础 之 矩阵范数

矩阵前传 - 消元法与行列式之独立演义

矩阵前传 - 牛顿没带红的货被高斯带红了

矩阵前传 - 克莱姆没能证明的法则被他两行搞定
矩阵前传 - 矩阵之父 Sylvester 为什么提出 Matrix
矩阵前传 - 柯西-比内公式及其用初等矩阵的证明

本文分享自微信公众号 - 机器学习与数学(Mathinside2016)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
3
5 收藏
分享
加载中
更多评论
打赏
0 评论
5 收藏
3
分享
返回顶部
顶部