精华内容
下载资源
问答
  • 对矩阵进行正交化
    千次阅读
    2021-11-16 10:16:20

    前言

    终于快到矩阵分解了。在矩阵分解前,最后一个内容是实对称矩阵,二次型和正定矩阵。这三个概念与矩阵分解相关。

    实对称矩阵

    对于矩阵 A ∈ R n × n A\in R^{n\times n} ARn×n,如果 A T = A A^T=A AT=A,则称 A A A为实对称矩阵。

    实对称矩阵不同特征值的特征向量正交,n重特征值有n个线性无关的特征向量。因此实对称矩阵必然能够对角化。

    实对称矩阵是 n × n n\times n n×n矩阵能够正交对角化的充分必要条件。

    正交对角化

    如果存在一个正交矩阵 Q Q Q,使得方阵 A = Q Λ Q − 1 = Q Λ Q T A=Q\Lambda Q^-1=Q\Lambda Q^T A=QΛQ1=QΛQT能够对角化,称为正交对角化。

    能够正交对角化的矩阵都是对称矩阵。
    证明:
    A = Q Λ Q T A T = Q Λ T Q T = Q Λ Q T = A A=Q\Lambda Q^T \\ A^T=Q\Lambda^T Q^T=Q\Lambda Q^T=A A=QΛQTAT=QΛTQT=QΛQT=A

    二次型

    A A A是实对称矩阵,将一个变量满足 f ( x ) = x T A x f(x)=x^TAx f(x)=xTAx函数称为二次型。

    对于 f ( x ) = x T A x f(x)=x^TAx f(x)=xTAx,替换变量 x = P y , f ( x ) = f ( P y ) = y T P T A P y x=Py,f(x)=f(Py)=y^TP^TAPy x=Py,f(x)=f(Py)=yTPTAPy,而 A A A是实对称矩阵,因此存在正交矩阵 Q , f ( Q y ) = y T Λ y Q,f(Qy)=y^T\Lambda y Q,f(Qy)=yTΛy,使得二次型化为标准型。

    正定矩阵

    广义的正定矩阵:对于矩阵 A ∈ R n × n A\in R^{n\times n} ARn×n,函数 f ( x ) = x T A x > 0 f(x)=x^TAx>0 f(x)=xTAx>0对任意非零向量 x ∈ R n x\in R^n xRn都成立,则称 A A A为正定矩阵。如果 f ( x ) = x T A x ≥ 0 f(x)=x^TAx\ge0 f(x)=xTAx0,则称 A A A为半正定矩阵。

    狭义的正定矩阵:对于对称矩阵 A ∈ R n × n A\in R^{n\times n} ARn×n,函数 f ( x ) = x T A x > 0 f(x)=x^TAx>0 f(x)=xTAx>0对任意非零向量 x ∈ R n x\in R^n xRn都成立,则称 A A A为正定矩阵。如果 f ( x ) = x T A x ≥ 0 f(x)=x^TAx\ge0 f(x)=xTAx0,则称 A A A为半正定矩阵。也把这种正定矩阵称为对称正定矩阵。

    实对称矩阵的正定判断条件

    如果实对称矩阵的特征值都大于0,则是对称正定矩阵;如果特征值都非负,则是对称半正定矩阵。

    证明:
    f ( x ) = x T A x Q Q T = E x = Q y f ( x ) = f ( Q y ) = y T Q T A Q y = y T Λ y = ∑ i = 1 n λ i y i 2 i f λ i > 0 , f ( x ) > 0 i f λ i ≥ 0 , f ( x ) ≥ 0 f(x)=x^TAx \\ QQ^T=E \\ x=Qy\\ f(x)=f(Qy)=y^TQ^TAQy=y^T\Lambda y=\sum_{i=1}^n \lambda_i y_i^2 \\ if \quad \lambda_i>0,f(x)>0 \\ if \quad \lambda_i\ge0,f(x)\ge 0\\ f(x)=xTAxQQT=Ex=Qyf(x)=f(Qy)=yTQTAQy=yTΛy=i=1nλiyi2ifλi>0,f(x)>0ifλi0,f(x)0

    一个常见的半正定矩阵

    对于任意矩阵 A ∈ R m × n A\in R^{m\times n} ARm×n矩阵 A T A A^TA ATA是半正定矩阵

    证明:
    x T A T A x = ( A x ) T A x = ( A x ) ⋅ ( A x ) = ∣ ∣ A x ∣ ∣ 2 2 ≥ 0 x^TA^TAx=(Ax)^TAx=(Ax)\cdot(Ax)=||Ax||^2_2\ge0 xTATAx=(Ax)TAx=(Ax)(Ax)=Ax220

    如果 A ∈ R m × n A\in R^{m\times n} ARm×n列满秩,则 A T A A^TA ATA是正定矩阵

    证明:
    A x = 0 → A T A x = 0 A T A x = 0 → x T A T A x = 0 → ∣ ∣ A x ∣ ∣ 2 2 = 0 → A x = 0 ∴ N U L ( A ) = N U L ( A T A ) ∵ d i m N U L ( A ) + r a n k ( A ) = n ∴ r a n k ( A T A ) = r a n k ( A ) r a n k ( A ) = n , d i m N U L ( A ) = 0 ∴ ∀ x ≠ 0 , A x ≠ 0 ∴ ∣ ∣ A x ∣ ∣ 2 2 > 0 i . e . x T A T A x > 0 Ax=0 \to A^TAx=0 \\ A^TAx=0 \to x^TA^TAx=0 \to ||Ax||^2_2=0\to Ax=0 \\ \therefore NUL(A)=NUL(A^TA) \\ \because dimNUL(A)+rank(A)=n \\ \therefore rank(A^TA)=rank(A) \\ \quad \\ rank(A)=n,dimNUL(A)=0 \\ \therefore \forall x\ne 0, A x\ne0 \\ \therefore ||Ax||_2^2>0 \\ \quad \\ i.e. \quad x^TA^TAx>0 Ax=0ATAx=0ATAx=0xTATAx=0Ax22=0Ax=0NUL(A)=NUL(ATA)dimNUL(A)+rank(A)=nrank(ATA)=rank(A)rank(A)=n,dimNUL(A)=0x=0,Ax=0Ax22>0i.e.xTATAx>0

    后记

    线性代数的矩阵性质部分大概就记录完了。下一篇就进入到了矩阵计算的内容——矩阵分解。

    更多相关内容
  • 输入矩阵的列向量进行规范正交化,自己编写的,
  • 最后我们得到正交化矩阵 Q = [ q 1 q 2 q 3 ] Q=\begin{bmatrix}q_1&q_2&q_3\end{bmatrix} Q = [ q 1 ​ ​ q 2 ​ ​ q 3 ​ ​ ] 实际上,并没有什么特殊的地方,这个正交化的过程就是逐步减去在已有基...

    主要内容

    • 标准正交基
    • 正交矩阵
    • 施密特正交化法

    正文

    标准正交基

    先从字面意义上解读一下,然后再给出几个示例。正交意味着垂直,所以正交基就是说这一个基中的所有向量都是垂直的。而标准意味着,这组基中的向量都是单位向量,长度都为1。所以标准正交基实际上就是一个标准正交向量组。例如: [ 1 0 0 ] [ 0 1 0 ] [ 0 0 1 ] \begin{bmatrix}1\\0\\0\end{bmatrix}\begin{bmatrix}0\\1\\0\end{bmatrix}\begin{bmatrix}0\\0\\1\end{bmatrix} 100010001 [ c o s θ s i n θ ] [ − s i n θ c o s θ ] \begin{bmatrix}cos\theta\\sin\theta\end{bmatrix}\begin{bmatrix}-sin\theta\\cos\theta\end{bmatrix} [cosθsinθ][sinθcosθ] 使用数学公式表达这个定义为: q i T q j = { 0 i f i ≠ j 1 i f i = j q^T_iq_j=\begin{cases}0\qquad if&i\ne j \\1\qquad if&i=j\end{cases} qiTqj={0if1ifi̸=ji=j

    正交矩阵

    实际上正交矩阵是一个简称,它的全称是标准正交方阵,它要求矩阵不仅是标准正交矩阵还得是方阵。

    像上面的那个例子,我们将三个标准正交向量也就是一个标准正交向量组放到一个矩阵中,在这个矩阵中,每两列都是正交的,并且每列的长度都是 1 1 1,该矩阵显然是一个方阵,所以这个矩阵就是一个正交矩阵。如下: [ 1 0 0 0 1 0 0 0 1 ] \begin{bmatrix}1&0&0\\0&1&0\\0&0&1\end{bmatrix} 100010001现在我们将这个矩阵记为 Q Q Q,他是由一组标准正交基 q q q组成的: Q = [ : : q 1 q n : : ] Q=\begin{bmatrix}:&&:\\q_1&&q_n\\:&&:\end{bmatrix} Q=:q1::qn:我们可以发现 Q T Q = I Q^TQ=I QTQ=I。这里就不给出证明了。由 Q − 1 Q = I Q^{-1}Q=I Q1Q=I,再结合前面的式子我们可以知道 Q − 1 = Q T Q^{-1}=Q^T Q1=QT,这是正交矩阵特有的性质。

    作用: 不知道正交矩阵是在研究投影的过程中产生的还是在什么时候产生的,但是它方便了投影上的计算。最重要的地方在于正交矩阵具有一个特殊的性质 Q T Q = I Q^TQ=I QTQ=I,这个性质对于所有的 Q Q Q都是成立的,而不限制 Q Q Q是否是方阵或者是长方形矩阵。对于 A x = b Ax=b Ax=b,我们知道,投影矩阵为 P = A ( A T A ) − 1 A T P=A(A^TA)^{-1}A^T P=A(ATA)1AT我们通过标准正交化,将 A A A化成 Q Q Q之后,再使用这个公式: P = Q ( Q T Q ) − 1 Q T = Q Q T P=Q(Q^TQ)^{-1}Q^T=QQ^T P=Q(QTQ)1QT=QQT也就是说,正交矩阵简化了这个运算,使用正交矩阵计算投影矩阵的时候,我们会发现不用再求逆,而求逆是非常耗费计算量的,所以它应该是大大的减少了计算量。对于方阵而言, 我们可以得到 Q Q T = I QQ^T=I QQT=I,即 P = I P=I P=I。这是代数上的表示,在几何上分析可以发现:一个正交的方阵,也就是矩阵的所有列都是线性无关的,它的列空间就是整个空间。空间中的某个向量在向列空间上投影时,就是在向整个空间投影,得到的仍然是原来的位置。这就是 P = I P=I P=I的原因。 x ^ = ( A T A ) − 1 A T b \hat{x}=(A^TA)^{-1}A^Tb x^=(ATA)1ATb 现在 A A A化成了 Q Q Q,所以我们有下面的式子: x ^ = ( Q T Q ) − 1 Q T b = Q T b \hat{x}=(Q^TQ)^{-1}Q^Tb=Q^Tb x^=(QTQ)1QTb=QTb

    施密特正交化法

    正交矩阵简化了投影运算,于是如何将 A A A转变成 Q Q Q就成了问题,这就要用到Gram-Schmidt正交化法。

    先分析一下简单的情况:两个线性无关的向量 a a a b b b,我们想要得到它们的一组标准正交基。之前我们学习过的投影保留列空间中的分量,而扔掉垂直于列空间的分量。相反,这次我们想保留垂直于列空间的分量,因为我们要找的就是垂直。
    在这里插入图片描述
    像这种情况,我们想保留分量 B B B,扔掉分量 p p p。(这里 A = a A=a A=a,因为我们将 a a a作为第一个基 A A A B = b − p B=b-p B=bp而且根据之前的内容,我们可以得 p = A T b A T A A p=\frac{A^Tb}{A^TA}A p=ATAATbA,带入到上式中可得: B = b − A T b A T A A B=b-\frac{A^Tb}{A^TA}A B=bATAATbA至此我们得到了 A , B A,B A,B,然后再将他们标准化: q 1 = A ∣ ∣ A ∣ ∣ q 2 = B ∣ ∣ B ∣ ∣ q_1=\frac{A}{||A||}\qquad q_2=\frac{B}{||B||} q1=AAq2=BB Q = [ q 1 q 2 ] Q=\begin{bmatrix}q_1&q_2\end{bmatrix} Q=[q1q2]
    然后我们将这种方法扩展到 3 3 3维的情况,在进一步扩展到高维的情况时,跟这种扩展方法是类似的。有三个线性无关的向量 a , b , c a,b,c a,b,c如图:
    在这里插入图片描述
    我们仍然保留 a a a做第一个基,类似前面的方法, b b b减去在 A A A上的分量,保留垂直分量,做第二个基。 B = b − A T b A T A A B=b-\frac{A^Tb}{A^TA}A B=bATAATbA采用同样的思想, c c c减去在 A , B A,B A,B上的分量,保留垂直于它们的分量做第三个基: C = c − A T c A T A A − B T c B T B B C=c-\frac{A^Tc}{A^TA}A-\frac{B^Tc}{B^TB}B C=cATAATcABTBBTcB然后我们再标准化: q 1 = A ∣ ∣ A ∣ ∣ q 2 = B ∣ ∣ B ∣ ∣ q 3 = C ∣ ∣ C ∣ ∣ q_1=\frac{A}{||A||}\qquad q_2=\frac{B}{||B||}\qquad q_3=\frac{C}{||C||} q1=AAq2=BBq3=CC最后我们得到正交化矩阵 Q = [ q 1 q 2 q 3 ] Q=\begin{bmatrix}q_1&q_2&q_3\end{bmatrix} Q=[q1q2q3] 实际上,并没有什么特殊的地方,这个正交化的过程就是逐步减去在已有基上的分量的过程,最终保留了垂直于已有基的分量作为新的基。

    在矩阵的角度上分析: 消元法的本质在于 A = L U A=LU A=LU,即 A A A L U LU LU分解。这里的正交化法同样也可以写成类似的形式: A = Q R A=QR A=QR右乘一个矩阵表示对 Q Q Q进行列的线性组合,也就是说 A A A是由它所在的空间中的基线性组合得到的。这是符合我们的常识的。

    展开全文
  • 该包实现了用于正交化正交化向量的 Gram-Schmidt 算法和 Modified Gram-Schmidt 算法(MGS 提高了 GS 的数值稳定性)。 Gram-Schmidt 算法将矩阵 X 分解为两个矩阵 Q 和 R,其中 Q 是正交或正交矩阵,R 是上三角...
  • 矩阵论——施密特正交化

    千次阅读 2020-06-24 18:34:49
    矩阵论施密特正交化,通俗释义。 已知空间向量γ,α,β,求取,目标将α正交化至β方向上。 1、α在γ方向上的投影s为: 2、α在γ方向上的分量为: s乘以γ方向上的单位向量: 即式子为: 3、消除...

    矩阵论施密特正交化,通俗释义。

    已知空间向量γ,α,β,求取,目标将α正交化至β方向上。

    1、α在γ方向上的投影s为:

    s=\parallel \alpha \parallel \cos \theta = \frac{ ( \alpha , \gamma )}{ \parallel \gamma \parallel}

    2、α在γ方向上的分量为:

    s乘以γ方向上的单位向量:

    \frac{ \gamma }{ \parallel \gamma \parallel}

    即式子为:

    \frac{ ( \alpha , \gamma )}{ \parallel \gamma \parallel} \frac{\gamma}{ \parallel \gamma \parallel}=\frac{ ( \alpha , \gamma )}{( \gamma , \gamma )} \gamma

    3、消除α在γ方向上的分量,进而得到了α在β方向上的分量:

    \alpha-\frac{ ( \alpha , \gamma )}{( \gamma , \gamma )} \gamma

    综上,完成了一次施密特正交化。

     

    附加:

    如果拓展成高维度,比如三维,即有三个基向量,即三个方向的维度,那么求取三维空间在某一维度的分量,需要该空间向量减去另外两维度的分量。往往正交化的过程是先将某一个向量设定为第一个维度的向量,后面的向量依次进行正交化,当然要消除前一维度的分量。

     

    展开全文
  • ) Q = -0.6928 0.0587 -0.4280 0.5046 0.4078 -0.7609 0.4589 -0.6730 -0.0563 -0.2339 -0.6143 -0.4843 >> Q'*Q ans = 1.0000 0 -0.0000 0 1.0000 0.0000 -0.0000 0.0000 1.0000 Q就是正交化后的矩阵,orth()是正交...
  • 基于matlab软件,利用施密特正交化过程,对矩阵实现QR分解,得到正交矩阵Q和上三角矩阵R。
  • 所谓标准正交矩阵,就是将标准正交向量组中的向量列到一个矩阵中去:这样的标准正交矩阵有一个很好的性质:注意,是而非特别地,当是方阵时,我们将这样的矩阵称为正交矩阵
  • 1. 标准正交基 2. 标准正交矩阵 1. 任意两个列向量之间,同行元素作异或(xor)操作,得出结果,如果其中 0 的数目 等于 1 的数 2. 任意列向量的
  • 将实对称矩阵正交对的流程

    千次阅读 2020-11-15 16:45:21
    摘自《矩阵论教程》第2版,张绍飞,p52
  • 正交矩阵正交化
  • 1、旋转矩阵 2、置换矩阵 3、镜像矩阵:$Q = I - 2uu^T$,其中 $u$ 是任意单位向量
  • 对称矩阵的合同分解就是他的奇异分解
  • Loewdin正交化,用于多GPU系统上的高瘦矩阵。 这是基于波动函数的DFT求解器的代理应用程序。 作者 路易吉·卡彭() 布鲁诺·图尔辛() Massimiliano Lupo Pasini() 葛文俊() 让·卢克·法特伯(Jean-Luc ...
  • 二维空间 先来个简单点的情况,假设有一个2x2的矩阵\[A= \left[ \begin{matrix} 3 & 2 \\ 4 & 1 \end{matrix} \right] \] 第一步:正交化 矩阵\(A\)中包含两个列向量,\(\overrightarrow{e_1} = \left[ \begin{...
  • 题目为什么往往要求求正交矩阵,这du也是为什么要讨论的一个主要的目的zhi之一,是为了求已知矩阵A的n次方,即A^n 因为T^(-1)AT=B(角阵) 那么A^n=TB^nT^(-1) 由于角阵B的n次方很好求,所以把A^n转化...
  • 实对称矩阵必可正交对证明

    万次阅读 2018-08-05 13:36:26
    n阶矩阵A可正交对的充分条件是A是实对称矩阵,即若A是实对称矩阵则A必可正交对。 首先,有以下定理: 若的特征值为,且,则存在正交矩阵Q,使A相似于如下三角矩阵: 证明如下(数学归纳法): 设n*n阶...
  • 矩阵 A 保存在工作区中,然后运行程序。 Q 和 R 矩阵将作为输出返回。
  • 矩阵对的计算

    2018-10-12 21:19:05
    每个方阵都对应一个线性变换,矩阵对的本质是找线性变化的特征值和特征向量。线性变换可以代表一种操作(如坐标系的转动)或者代表一个力学量(如量子力学中的动量、角动量等),运用非常广泛。
  • 正规矩阵是很重要也很特殊的一类矩阵,因为它能使得谱定理成立,也一定能够酉相似 在数学中,正规矩阵 (英语: normal matrix) A\mathbf{A}A 是与自己的共轭转置满 足交换律的实系数方块矩阵,也就是说, A\...
  • ORTHA 正交归一相对于矩阵 A Q=ortha(A,X) Q=ortha('Afunc',X) 计算 X 范围的标准正交基 Q,相对于使用正定和自伴随矩阵 A 的标量积。 也就是说,Q'*A*Q = I,Q 的列与 X 的列跨越相同的空间,并且秩(Q)=秩(X...
  • 1、标准正交矩阵  假设矩阵Q有列向量q1,q2,...,qn表示,且其列向量满足下式: 则 若Q为方阵,由上面的式子则有 我们举例说明上述概念: 2、标准正交矩阵的好处  上面我们介绍了标准正交矩阵,那么标准...
  • 不一定,可以直接用一般矩阵的方法求其角阵,即可以不用正交单位,直接用【p逆Ap=A的角阵】来做,书上一上来就说用正交阵来就是淡村为了体现这个方法而已,但是还是有好处的,比如正交单位后,要求p逆...
  • 在求解涉及旋转的优化问题过程中,通过解线性方程组或者采用优化方法得到的旋转矩阵的数值解,往往没有考虑到正交约束,会得到一个存在误差的近似旋转矩阵,也就是说这个矩阵并不是一个严格正交的标准正交矩阵,不...
  • 正交化及正交矩阵PPT学习教案.pptx
  • 正交矩阵&正交向量

    千次阅读 2021-07-30 10:45:40
    正交矩阵 正交矩阵(Orthogonal Matrix)是指其转置等于其逆的矩阵。 AT=A-1 当看到ATA= AA-1时,可知 A是正交矩阵正交向量 两个向量的内积如果是零, 那么就说这两个向量是正交的 两个向量正交意味着它们是相互...
  • QR分解 例子 要求可逆,但是是不可逆的时候是不是又QR分解呢?这就是涉及到下一篇讲的household分解
  • 1、计算特征多项式例 计算以下矩阵的特征多项式参考输入表达式为characteristic polynomial {{-1,1,0},{-4,3,0},{1,0,2}}执行计算得到的结果如下.将鼠标指针移动到特征多项式结果上方,在右下角出现的按钮中选择...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 28,740
精华内容 11,496
热门标签
关键字:

对矩阵进行正交化