精华内容
下载资源
问答
  • Latex数学公式-求导、分数的表示

    万次阅读 2019-01-22 12:51:32
    表示方法 \frac{}{}:分数表示 \partial: 偏导符号 代码 效果 意义 \frac{x}{y} xy\frac{x}{y}yx​ 分数 ...\frac{\partial y}{\partial x_1} + \frac{\partial y}{\partial x_2} ...∂y∂...

    表示方法

    \frac{}{}:分数表示
    \partial: 偏导符号
    \mathrm{d}t:正规的导数d(正体)

    代码 效果 意义
    \frac{x}{y} xy\frac{x}{y} 分数
    \partial \partial 偏导符号
    \mathrm{d}t dt\mathrm{d}t 导数

    举例

    $$
    \frac{\partial y}{\partial x_1} + \frac{\partial y}{\partial x_2} \\
    \frac{\mathrm{d}y}{\mathrm{d}x_1} + \frac{\mathrm{d}y}{\mathrm{d}x_2}
    $$
    

    显示效果如下:
    yx1+yx2 \frac{\partial y}{\partial x_1} + \frac{\partial y}{\partial x_2}
    dydx+dzdx \frac{\mathrm{d}y}{\mathrm{d}x} + \frac{\mathrm{d}z}{\mathrm{d}x}

    展开全文
  • 展开全部第一2113步:打开latex。第二步:找到“symbol”选5261项,点击“a”。4102第三步:输入:$\frac{\mathrm{d}f}{\mathrm{d}t}$,即可1653打出du/dx。扩展资料回latex导数相关符号一、偏导符答号\partial x:$...

    展开全部

    第一2113步:打开latex。

    第二步:找到“symbol”选5261项,点击“a”。4102

    第三步:输入:$\frac{\mathrm{d}f}{\mathrm{d}t}$,即可1653打出du/dx。

    扩展资料回

    latex导数相关符号

    一、偏导符答号\partial x:$ \frac{\partial f}{\partial x} $  # 一阶;$ \frac{\partial ^{n} f}{\partial x^{n}} $  # n阶。

    二、求导符号\mathrm{d} x:$ \frac{\mathrm{d} y }{\mathrm{d} x} $  # 一阶;$ \frac{\mathrm{d}^{n} y }{\mathrm{d} x^{n}} $  # n阶。

    三、撇形式的求导符号x^{'}:$ \frac{ y^{'} }{ x^{'} } $。

    四、点形式的求导符号\dot x 和 \ddot y:$ \frac{ \dot y }{ \dot x } $  # 一个点;$ \frac{ \ddot y }{ \ddot x } $  # 两个点;$ \frac{ \dddot y }{ \dddot x } $  # 几个点就是几个d。

    展开全文
  • 常见矩阵求导公式:(c6) ,(c7) ,(c8) ,(c9) ,(c10) ,(c11) 常见矩阵求导公式证明:(c6) , ,属于 型证明:令 ,是一个数,故属于 型。 单对 求导: ,故 。注:这里采用分子布局的求导,即求导结果按...

    常见矩阵求导公式:

    (c6)

    ,(c7)
    ,(c8)
    ,

    (c9)

    ,(c10)
    ,(c11)

    常见矩阵求导公式证明:

    (c6)

    ,属于

    证明:令

    ,是一个数,故属于
    型。

    单对

    求导:
    ,故

    注:这里采用分子布局的求导,即求导结果按分子的格式来,如果分子是标量,则标量对列向量求导的结果为行向量;如果分子是列向量,则向量对标量求导的结果为列向量。

    (c7)

    , 属于

    证明:令

    是一个数,

    单对

    求导:
    ,故

    (c8)

    , 属于

    证明:令

    是一个数,单对
    求导:
    ,根据上面的公式(c6)
    ,故
    ,

    所以

    (c9)

    , 属于

    证明:令

    是一个列向量

    5aaf2b0d66efb163448a719554851efd.png

    令列向量

    的第i行为
    ,则
    是一个数,
    ,故

    (c10)

    , 属于

    证明:

    89dc56dc686fd17f5d6a057eec4e54f7.png

    可知

    是一个行向量,令
    ,令
    表示A的第j列,则
    ,根据公式(c6)
    ,故
    ,所以

    (c11)

    , 属于

    首先引入公式

    (后面再证明)

    则令

    再利用公式(c9)

    可得:

    总结:(1)分子布局还是分母布局看情况。

    (2)分子布局和分母布局的区别:

    27c31a3967be03d8def4f2b0ea59f50e.png
    分子布局和分母布局的区别

    接下来继续采用矩阵求导的公式对逻辑斯蒂回归,SVM,EM,多层感知机等求导。

    参考资料:

    1.https://latex.91maths.com/,latex公式

    2.这个百度文库和简书的矩阵求导简直太棒了,强烈推荐。

    矩阵求导 分子布局 分母布局 Matrix Differentiation Numerator Layout Denominator Layoutwenku.baidu.com机器学习中的矩阵、向量求导www.jianshu.com
    7d1fd69643489601df28f2838b328b84.png

    强烈建议好好看这两个。

    3.https://blog.csdn.net/pipisorry/article/details/68961388

    4.南瓜书

    https://datawhalechina.github.io/pumpkin-book/#/chapter3/chapter3datawhalechina.github.io

    5.

    线性回归原理小结 - 刘建平Pinard - 博客园www.cnblogs.com
    展开全文
  • 矩阵求导

    2019-06-08 12:17:22
    原始文件没有办法把latex公式正常显示,所以一个一个弄出来了,保留了原来的公式。原始文章来自《闲话矩阵求导》。 矩阵求导,想必许多领域能见到。统计学,经济学,优化,机器学习等等,在对目标问题建立数学模型...

    https://www.jianshu.com/p/4128e5b31fb4

    title: 闲话矩阵求导
    原始文件没有办法把latex公式正常显示,所以一个一个弄出来了,保留了原来的公式。原始文章来自《闲话矩阵求导》。


    矩阵求导,想必许多领域能见到。统计学,经济学,优化,机器学习等等,在对目标问题建立数学模型之后,问题往往被抽象为关于矩阵的优化问题。于是免不了需要对矩阵进行求导等操作。

    简单的向量和矩阵求导,大多数熟悉这些计算的人,应该都能直接写下,然而复杂的矩阵函数求导则没那么简单,著名的matrix cookbook为广大的研究者们提供了一本大字典,里面有着各种简单到复杂矩阵和向量的求导法则,但是如果你的好奇心和我一样重,那么你肯定不会满足于查字典这种方法,特别是在推导公式一气呵成满纸乱飞的时候,查字典岂不是大煞风景?

    事实上,所有求导的法则都可以从最基本的求导规则推导出来。不知你有没发现,不同的文献中,同样的式子求导的结果有时候会不一样,仔细观察会发现刚好相差一个转置,于是我们得先说说求导的两个派别(布局)。

    1 布局(Layout)

    不知道为什么会是这个名字,总之矩阵求导有两种布局,分子布局(numerator layout)和分母布局(denominator layout)。
    为了阐明这两种布局的区别,我们先来看最简单的求导规则。
    首先是向量yy对标量xx求导,我们假定所有的向量都是列向量,

    列向量y.png

     

    $$
    \mathbf{y}=\begin{bmatrix}y_{1}\\
    y_{2}\\
    \vdots\\
    y_{m}
    \end{bmatrix}
    $$
    

    分子布局下,

    分子布局.png

     

    $$
    \frac{\partial\mathbf{y}}{\partial x}=\begin{bmatrix}\frac{\partial y_{1}}{\partial x}\\
    \frac{\partial y_{2}}{\partial x}\\
    \vdots\\
    \frac{\partial y_{m}}{\partial x}
    \end{bmatrix}
    $$
    

    而在分母布局下,

    分母布局.png

     

    $$
    \frac{\partial\mathbf{y}}{\partial x}=\begin{bmatrix}\frac{\partial y_{1}}{\partial x} & \frac{\partial y_{2}}{\partial x} & \cdots & \frac{\partial y_{m}}{\partial x}\end{bmatrix}
    $$
    

    以下都是在分母布局下的定义

    2 基本的求导规则(定义)

    这一部分,我们将看到一些基本的求导规则,这些与其说是规则,倒不如说是定义。因此这一部分是需要好好理解并且记忆(如果你看一遍还记不住的话)的。
    标量!$\mathrm{\mathbf{y}}$对向量!$x$求导:

    标量对向量求导.png

     

    $$
    \frac{\partial y}{\partial\mathbf{x}}=\begin{bmatrix}\frac{\partial y}{\partial x_{1}}\\
    \frac{\partial y}{\partial x_{2}}\\
    \vdots\\
    \frac{\partial y}{\partial x_{m}}
    \end{bmatrix}
    $$
    

    注意到,标量对向量求导和向量对标量求导刚好反过来。
    向量对向量求导,

     

    列向量x.png

    $$
    \mathbf{x}=\begin{bmatrix}x_{1}\\
    x_{2}\\
    \vdots\\
    x_{n}
    \end{bmatrix}
    $$
    

    列向量y.png

    $$
    \mathbf{y}=\begin{bmatrix}y_{1}\\
    y_{2}\\
    \vdots\\
    y_{m}
    \end{bmatrix}
    $$
    

    列向量y对x求导.png

    $$
    \frac{\partial\mathbf{y}}{\partial\mathbf{x}}=\begin{bmatrix}\frac{\partial y_{1}}{\partial x_{1}} & \frac{\partial y_{2}}{\partial x_{1}} & \cdots & \frac{\partial y_{m}}{\partial x_{1}}\\
    \frac{\partial y_{1}}{\partial x_{2}} & \frac{\partial y_{2}}{\partial x_{2}} & \cdots & \frac{\partial y_{m}}{\partial x_{2}}\\
    \vdots & \vdots & \ddots & \vdots\\
    \frac{\partial y_{1}}{\partial x_{n}} & \frac{\partial y_{2}}{\partial x_{n}} & \cdots & \frac{\partial y_{m}}{\partial x_{n}}
    \end{bmatrix}
    $$
    

    标量对矩阵求导,

    标量对矩阵求导.png

    $$
    \frac{\partial y}{\partial\mathbf{X}}=\begin{bmatrix}\frac{\partial y}{\partial x_{11}} & \frac{\partial y}{\partial x_{12}} & \cdots & \frac{\partial y}{\partial x_{1q}}\\
    \frac{\partial y}{\partial x_{21}} & \frac{\partial y}{\partial x_{22}} & \cdots & \frac{\partial y}{\partial x_{2q}}\\
    \vdots & \vdots & \ddots & \vdots\\
    \frac{\partial y}{\partial x_{p1}} & \frac{\partial y}{\partial x_{p2}} & \cdots & \frac{\partial y}{\partial x_{pq}}
    \end{bmatrix}
    $$
    

    矩阵对标量求导,

    矩阵对标量求导.png

    $$
    \frac{\partial\mathbf{y}}{\partial x}=\begin{bmatrix}\frac{\partial y_{11}}{\partial x} & \frac{\partial y_{21}}{\partial x} & \cdots & \frac{\partial y_{m1}}{\partial x}\\
    \frac{\partial y_{12}}{\partial x} & \frac{\partial y_{22}}{\partial x} & \cdots & \frac{\partial y_{m2}}{\partial x}\\
    \vdots & \vdots & \ddots & \vdots\\
    \frac{\partial y_{1n}}{\partial x} & \frac{\partial y_{2n}}{\partial x} & \cdots & \frac{\partial y_{mn}}{\partial x}
    \end{bmatrix}
    $$
    

    事实上,直观上看,凡是对标量求导,结果的形式都要转置,而标量对向量和矩阵求导则位置保持不动。这样总结方便我们记忆。
    总的来说,涉及矩阵和向量的求导不外乎五大类别,

    • 向量对标量
    • 标量对向量
    • 向量对向量
    • 矩阵对标量
    • 标量对矩阵
      这些定义我在上面都已经一一列出。接下来是时候去看一些更加复杂的东西了。

    3 维度分析

    接下来我们来看一些常见的求导,
    首先是!$\frac{\partial\mathbf{Ax}}{\partial\mathbf{x}} $,

     

    注意到


    !$(\mathbf{Ax})_{i}=a_{i1}x_{1}+a_{i2}x_{2}+\cdots+a_{in}x_{n}$,于是利用向量对向量求导法则,我们有

     

    $$
    \frac{\partial\mathbf{\mathbf{Ax}})}{\partial\mathbf{x}}=\begin{bmatrix}\frac{\partial(\mathbf{Ax})_{1}}{\partial x_{1}} & \frac{\partial(\mathbf{Ax})_{2}}{\partial x_{1}} & \cdots & \frac{\partial(\mathbf{Ax})_{m}}{\partial x_{1}}\\
    \frac{\partial(\mathbf{Ax})_{1}}{\partial x_{2}} & \frac{\partial(\mathbf{Ax})_{2}}{\partial x_{2}} & \cdots & \frac{\partial(\mathbf{Ax})_{m}}{\partial x_{2}}\\
    \vdots & \vdots & \ddots & \vdots\\
    \frac{\partial(\mathbf{Ax})_{1}}{\partial x_{n}} & \frac{\partial(\mathbf{Ax})_{2}}{\partial x_{n}} & \cdots & \frac{\partial(\mathbf{Ax})_{m}}{\partial x_{n}}
    \end{bmatrix}=\begin{bmatrix}a_{11} & a_{21} & \cdots & a_{m1}\\
    a_{12} & a_{22} & \cdots & a_{m2}\\
    \vdots & \vdots & \ddots & \vdots\\
    a_{1n} & a_{2n} & \cdots & a_{mn}
    \end{bmatrix}=\mathbf{A}^{\mathrm{T}}
    $$
    

    理论上对于任意的表达式,我们都可以通过定义出发,利用上面这种形式推导得到。
    但是对于一些复杂的求导,这个时候恐怕逐项展开分析就不是很靠谱了。
    我们先来看求导分类的前三类,对于这三类问题,我们来看一个非常强大的方法,通过分析维度来得到结果。
    1、

     

     


    考虑以上前两个式子与x无关,所以A肯定可以先提出求导式。
    考虑!$\frac{\partial\mathbf{Au}}{\partial\mathbf{x}}$,!$\mathbf{A}$!$\mathbf{x}$无关,所以!$\mathbf{A}$肯定可以先提出求导式,至于去哪了暂时不清楚。

     

     

     

    假如

     

    假如!$\mathbf{A}\in\mathbb{R}^{m\times n},\mathbf{u}\in\mathbb{R}^{n\times1},\mathbf{x}\in\mathbb{R}^{p\times1}$
    我们知道最后结果肯定和!$\frac{\partial\mathbf{u}}{\partial\mathbf{x}}$有关,注意到!$\frac{\partial\mathbf{u}}{\partial\mathbf{x}}\in\mathbb{R}^{p\times n}$,于是!$\mathbf{A}$只能转置以后添在后面,因此

    $$
    \frac{\partial\mathbf{Au}}{\partial\mathbf{x}}=\frac{\partial\mathbf{u}}{\partial\mathbf{x}}\mathbf{A}^{\mathrm{T}}
    $$
    

    a,u是和x相关的标量
    同样对于!$\frac{\partial a\mathbf{u}}{\partial\mathbf{x}},a\text{}$!$\mathbf{x}$相关的标量,假定!$\mathbf{u}\in\mathbb{R}^{m\times1},\mathbf{x}\in\mathbb{R}^{n\times1}$根据乘积法则(非精确版本),前一个部分肯定是!$a\frac{\partial\mathbf{u}}{\partial\mathbf{x}}$,后一部分为!$\frac{\partial a}{\partial\mathbf{x}}\in\mathbb{R}^{n\times1}$ 和!$\mathbf{u}$的某种形式的积,分析维度发现只能是!$\frac{\partial a}{\partial\mathbf{x}}\mathbf{u}^{\mathrm{T}}$
    于是

    $$
    \frac{\partial a\mathbf{u}}{\partial\mathbf{x}}=a\frac{\partial\mathbf{u}}{\partial\mathbf{x}}+\frac{\partial a}{\partial\mathbf{x}}\mathbf{u}^{\mathrm{T}}
    $$
    

    我们发现,虽然乘积法则的精准形式无法应用于矩阵求导中,然而这种非精确的乘积法则可以准确的告诉我们哪些项一定会出现在结果中,然后通过分析维度,我们就可以写出结果。
    再看!$\frac{\partial\mathbf{x}^{\mathrm{T}}\mathbf{Ax}}{\partial\mathbf{x}}$,其中!$\mathbf{A}$!$\mathbf{x}$无关,
    为了分析这个问题,我们考虑一个更一般的问题,

     

    $$
    \frac{\partial\mathbf{x}^{\mathrm{T}}\mathbf{Ay}}{\partial\mathbf{x}},\mathbf{x}\in\mathbb{R}^{m\times1},\mathbf{y}\in\mathbb{R}^{n\times1}
    $$
    

    我们利用非精确的乘积法则,可以将这个分成两部分

     

    $$
    \frac{\partial\text{(}\mathbf{x}^{\mathrm{T}}\mathbf{A)y}}{\partial\mathbf{x}}
    $$
    

    于是结果和两部分相关,一个是

    $$
    \frac{\partial\mathbf{y}}{\partial\mathbf{x}}\in\mathbb{R}^{m\times n}
    $$
    

    ,另一个是

    $$
    \frac{\partial\mathbf{x}^{\mathrm{T}}\mathbf{A}}{\partial\mathbf{x}}=\mathbf{A}\in\mathbb{R}^{m\times n}
    $$
    

    ,同样通过分析维度,我们可以得到

    $$
    \frac{\partial\text{(}\mathbf{x}^{\mathrm{T}}\mathbf{A)y}}{\partial\mathbf{x}}=\frac{\partial\mathbf{y}}{\partial\mathbf{x}}\mathbf{A}^{\mathrm{T}}\mathbf{x}+\mathbf{Ay}
    $$
    

    因此

    $$
    \frac{\partial\mathbf{x}^{\mathrm{T}}\mathbf{Ax}}{\partial\mathbf{x}}=(\mathbf{A}^{\mathrm{T}}+\mathbf{A})\mathbf{x}
    $$
    

    最后看一个式子

     

     

    所以,

     

    $$
    \frac{\partial\mathbf{a}^{\mbox{T}}\mathbf{xx}^{\mbox{T}}\mathbf{b}}{\partial\mathbf{x}},\mathbf{a,b,x}\in\mathbb{R}^{m\times1}
    
    \frac{\partial\mathbf{a}^{\mbox{T}}\mathbf{xx}^{\mbox{T}}\mathbf{b}}{\partial\mathbf{x}}=\frac{\partial(\mathbf{a}^{\mbox{T}}\mathbf{x)(x}^{\mbox{T}}\mathbf{b)}}{\partial\mathbf{x}}
    
    $$
    

    注意到

    $$
    \frac{\partial(\mathbf{a}^{\mbox{T}}\mathbf{x)}}{\partial\mathbf{x}}=\mathbf{a},\frac{\partial(\mathbf{x}^{\mbox{T}}\mathbf{b)}}{\partial\mathbf{x}}=\mathbf{b}
    $$
    

    所以(注意到!$\mathbf{x}^{\mbox{T}}\mathbf{b}\in\mathbb{R}$),

    $$
    \frac{\partial\mathbf{a}^{\mbox{T}}\mathbf{xx}^{\mbox{T}}\mathbf{b}}{\partial\mathbf{x}}=\frac{\partial(\mathbf{a}^{\mbox{T}}\mathbf{x)(x}^{\mbox{T}}\mathbf{b)}}{\partial\mathbf{x}}=\mathbf{a}\mathbf{x}^{\mbox{T}}\mathbf{b}+\mathbf{ba}^{\mbox{T}}\mathbf{x}=(\mathbf{ab}^{\mathrm{T}}+\mathbf{ba}^{\mathrm{T}})\mathbf{x}
    $$
    

    4 标量对矩阵求导(微分形式)

    接下来看五种类型中剩下的两类,在实际的问题中,主要是矩阵的迹对矩阵的求导问题。 正如我们在前面看到的,在矩阵的求导中,不存在精确的乘积法则,我们只是通过非精确的乘积法则分析出单项式中含有的项,再通过维度分析得到结果。 但是,有一种情形下,乘积法则是精确成立的,我们现在就来看这一种情形——迹的微分。因为在微分形式下,

    • 乘积法则成立
    • 迹和微分可交换
      好了,现在你应该已经忘记分子布局了吧,不过不要紧,所有之前的结果转置一下,就得到了分子布局下的结果。
      接下来请注意,当我们谈论微分的时候,只有在分子布局下才是有意义的。
      (Warning:微分只有分子布局,没有分母布局)
      首先我们指出

    只有在分子布局下

    等价于:

    分子布局

    分母布局

    为了方便记忆,防止混淆,我们干脆将一下3个式子等同起来

    image.png

    $$
    \mathrm{d}\mathbf{Y}=\mathrm{tr}(\mathbf{A}\mathrm{d}\mathbf{X})
    $$
    

    等价于

    $$
    \frac{\partial\mathbf{Y}}{\partial\mathbf{X}}=\mathbf{A}
    $$
    

    注意这是分子布局下的,对应分母布局下应该为

    $$
    \frac{\partial\mathbf{Y}}{\partial\mathbf{X}}=\mathbf{A}^{\mbox{T}}
    $$
    

    为了方便记忆,防止混淆,我们干脆将

    $$
    \mathrm{d}\mathbf{Y}=\mathrm{tr}(\mathbf{A}\mathrm{d}\mathbf{X})
    $$
    

    $$
    \frac{\partial\mathbf{Y}}{\partial\mathbf{X}}=\mathbf{A}^{\mbox{T}}
    $$
    

    直接等同起来。
    于是所有的迹形式对矩阵的求导都先转化为微分形式,比如

    $$
    \mathrm{d}\mathrm{tr}(\mathbf{AX})=\mathrm{tr}(\mathrm{d}(\mathbf{AX}))=\mathrm{tr}(\mathbf{A}\mathrm{d}\mathbf{X})
    $$
    

    其实很简单,我们再看几个例子来加深理解:
    先回忆一些非常有用的迹的性质:

    • 矩阵的迹和转置的迹相同(转置性质)
    • 矩阵乘积的迹和矩阵乘积轮换对称后的迹相同(循环排列)
      考虑

    所以,

    $$
    \begin{aligned}
    \mbox{d tr(}\mathbf{X}^{\mbox{T}}\mathbf{AX}) & = & \mbox{tr}(\mbox{d}(\mathbf{X}^{\mbox{T}}\mathbf{AX}))\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X}+\mbox{d}(\mathbf{X}^{\mbox{T}}\mathbf{A})\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X}+\mbox{d}(\mathbf{X}^{\mbox{T}}\mathbf{A})\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X}+\mbox{d}(\mathbf{A}^{\mbox{T}}\mathbf{X}){}^{\mbox{T}}\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X})+\mbox{tr}(\mbox{d}(\mathbf{A}^{\mbox{T}}\mathbf{X}){}^{\mbox{T}}\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X})+\mbox{tr}(\mbox{d}(\mathbf{A}^{\mbox{T}}\mathbf{X}){}^{\mbox{T}}\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X})+\mbox{tr}(\mathbf{X}^{\mbox{T}}\mbox{d}(\mathbf{A}^{\mbox{T}}\mathbf{X}))\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X})+\mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}^{\mbox{T}}\mbox{d}\mathbf{X})\\
     & = & \mbox{tr}(\mathbf{X}^{\mbox{T}}\mathbf{A}\mbox{d}\mathbf{X}+\mathbf{X}^{\mbox{T}}\mathbf{A}^{\mbox{T}}\mbox{d}\mathbf{X})\\
     & = & \mbox{tr}((\mathbf{X}^{\mbox{T}}\mathbf{A}+\mathbf{X}^{\mbox{T}}\mathbf{A}^{\mbox{T}})\mbox{d}\mathbf{X})\end{aligned}
    $$
    

    所以

    $$
    \frac{\partial\mathrm{tr}(\mathbf{X}^{\mathrm{T}}\mathbf{AX})}{\partial\mathbf{X}}=\text{(}\mathbf{X}^{\mbox{T}}\mathbf{A}+\mathbf{X}^{\mbox{T}}\mathbf{A}^{\mbox{T}})^{\mbox{T}}=(\mathbf{A}+\mathbf{A}^{\mbox{T}})\mathbf{X}
    $$
    

    这是一份简短的矩阵求导介绍,它的目的是告诉你如何更好的快速推导这些公式,避免查阅手册的麻烦。当然如果你觉得你完全是一个工程师,查阅手册感觉很方便,那么继续按照你的方式生活吧。如果你觉得很有用,那么请继续:Have fun with math!

    展开全文
  • 矩阵向量求导

    2020-03-25 16:10:45
    矩阵向量求导一.定义和所有求导类型1.1 定义1.2 分布布局的介绍1.3 所有的求导类型二.对标量的求导2.1 标量对标量的求导2.2 向量对标量的求导2.3 ...现在CSDN使用的是KaTeX(latex的渲染器),不支持align,但可以用a...
  • 数学推导1:矩阵求导

    千次阅读 2015-07-16 19:53:22
    矩阵求导无论是从事图像相关的研究工作,还是其他科学工作,矩阵知识是必不可少的。当我们在查看论文时,总会遇到大量的矩阵推导...主要内容:MarkDown编辑公式还是不太方便,借助一下在线LaTeX公式编辑器来完成本篇文
  • 李群的求导,附带matlab代码

    千次阅读 2018-10-03 15:26:26
    李群资料: ... http://www.ethaneade.com/latex2html/lie_groups/lie_groups.html http://www.ethaneade.com/latex2html/lie_groups/lie_groups.html https://git...
  • 理科生学习笔记制作/markdown+Latex / Typora md文档下载链接文末 矩阵向量求导 *没有说明的向量都为列向量 1.求导定义与求导布局 1.矩阵向量求导引入 标量对标量的求导,如标量y对标量x的求导为∂y∂x\frac{\...
  • 博客主要内容讲解来自于网易课堂:斯坦福cs231n————————–下面是一篇特别偷懒的博客————————–本来想着详细写的,后来发现画图真的是太麻烦啦…latex在画图上真的不太会,所以如果你想知道这个后向传播...
  • LaTex学习 ——1

    2020-06-10 16:46:44
      之前总结了一下latex的公式输入。但是俗话说得好,巧妇难为无米之炊。如果想要输入复杂的数学公式,光知道公式输入的方式是远远不够的,我们还需要了解公式中常用的组成部分。 2. 上下标   数.
  • Latex 常见错误整理

    千次阅读 2017-12-05 13:26:36
    Latex 常见错误整理1. 求导\sideset{^*}{'}\sum_{1\le i\le 100} A(i) \qquad \sum_{1\le i\le 100}\vphantom{\sum}^{'} A(i) \qquad \mathop{{\sum}'}_{1\le i\le 100} A(i)∑∗∑′1≤i≤100A(i)∑1≤i≤100∑′A...
  • Latex 导数相关符号

    2020-08-24 20:12:54
    1.求导 描述 样式 公式 微分 dy\mathrm{d} ydy $\mathrm{d} y$ 一阶 dydx\frac{\mathrm{d} y }{\mathrm{d} x}dxdy​ $\frac{\mathrm{d} y }{\mathrm{d} x}$ n阶 dnydxn\frac{\mathrm{d}^{n} y }{\mathrm...
  • 积分等求导常用运算符希腊字母 基本 分式 分子分母\frac{分子}{分母}分母分子​: \frac{分子}{分母} 求和&积分等 ∑i=1n\sum_{i=1}^{n}∑i=1n​: \sum_{i=1}^{n} 求导 ∂f∂x\frac{\partial f}{\partial x}∂x∂...
  • 推荐LaTeX在线编辑器

    2012-08-16 00:53:00
    完全公益的。免费。 ... 这个网站还提供了很多优秀的工具: ...函数求导工具 在线不定积分计算器 定积分计算器 极限计算器 系列计算器 方程求解 在线多项式化简工具 因...
  • 目录常用数学符号、函数、公式等上下标关系符号集合字母符号求和、连乘、极限、积分矩阵、方程组分子式、根号、求导、求偏导函数逻辑向量、其他特殊符号 注意: 当前位置显示数学符号用$: 【插入图片1】 当前位置...
  • PS:知乎的LaTeX公式渲染行列式老是各种显示错误,晕死,改用图片形式了。验证可以从右向左,利用行列式函数求导的性质来验证(即逐行求导并相加)。利用这几个公式计算可以避免繁琐的分部积分。检验的时候可以发现...
  • 03.autograd与逻辑回归

    2019-10-19 15:24:43
    文章目录torch.autograd——自动求导系统torch.autograd.backwardtorch.autograd.gradautograd小贴士:逻辑回归机器学习模型...在线LaTeX公式编辑器 torch.autograd——自动求导系统 torch.autograd.backward 功能:...
  • Latex的没写,因为没(wo)有(tai)时(lan)间(le),以后再补上。 参考资料: 矩阵求导术-上 记得有空把下看啦。
  • 文章目录任务详解:1.函数的导数导数的引入:...在线LaTeX公式编辑器 任务详解: 这节课主要介绍了函数的导数,中值定理与洛必达法则等知识点。 掌握目标: 1、掌握导数的意义以及初等函数导数公式,求导法则 2、...
  • 公式输入请参考:在线Latex公式 前言 一般情况下,最优化问题分为三类 一、 无约束条件下的最优化问题 这种最优化问题比较简单,直接求导为0就可以得到。 二、 等式约束下的最优化问题 即除了...
  • 0-数学基础

    2018-06-09 14:15:00
    0. 暂时就截图了,后期再花点时间用latex把公式打出来 1. 矩阵求导 参考:http://cs.nju.edu.cn/wujx/teaching/PR_02.pdf 2. 从物理意义的角度来重新审视【线性代数及其若干核心概念】: ...
  • <div><p>这部分虽然结果一样,但我感觉推导过程存在问题,非常令人困惑。...感觉像是在对增量求导,展开后却又不是。</p><p>该提问来源于开源项目:gaoxiang12/slambook</p></div>

空空如也

空空如也

1 2
收藏数 23
精华内容 9
关键字:

latex求导