精华内容
下载资源
问答
  • 泰勒公式(泰勒展开式)通俗+本质详解

    万次阅读 多人点赞 2019-03-03 12:54:53
    泰勒公式,也称泰勒展开式。是用一个函数在某点的信息,描述其附近取值的公式。如果函数足够平滑,在已知函数在某一点的各阶导数值的情况下,泰勒公式可以利用这些导数值来做系数,构建一个多项式近似函数,求得在这...

     

    比较通俗地讲解一下泰勒公式是什么。

    泰勒公式,也称泰勒展开式。是用一个函数在某点的信息,描述其附近取值的公式。如果函数足够平滑,在已知函数在某一点的各阶导数值的情况下,泰勒公式可以利用这些导数值来做系数,构建一个多项式近似函数,求得在这一点的邻域中的值

    所以泰勒公式是做什么用的?

    简单来讲就是用一个多项式函数去逼近一个给定的函数(即尽量使多项式函数图像拟合给定的函数图像),注意,逼近的时候一定是从函数图像上的某个点展开。如果一个非常复杂函数,想求其某点的值,直接求无法实现,这时候可以使用泰勒公式去近似的求该值,这是泰勒公式的应用之一。泰勒公式在机器学习中主要应用于梯度迭代。

    ***********************************************************************************************************************************

    ***********************************************************************************************************************************

    1. 问题的提出 

    多项式   是最简单的一类初等函数。关于多项式,由于它本身的运算仅是有限项加减法和乘法,所以在数值计算方面,多项式是人们乐于使用的工具。因此我们经常用多项式来近似表达函数。这也是为什么泰勒公式选择多项式函数去近似表达给定的函数。

    ***********************************************************************************************************************************

    ***********************************************************************************************************************************

    2. 近似计算举例

    初等数学已经了解到一些函数如: 的一些重要性质,但是初等数学不曾回答怎样来计算它们,以 f(x) = \small \cos x 的近似计算为例:

    ①. 一次(线性)逼近                                                                             

    利用微分近似计算公式 f(x) \small \approx f(\small x_{0}) + {f}'(\small x_{0})(x - \small x_{0}) (该式由导数/微分的极限表达公式转换得到),对 \small x_{0} = 0 附近的 f(x) 的线性逼近为: f(x) \small \approx f(0) + {f}'(0) x , 所以 f(x) = \small \cos x \small \approx 1,所以 f(x) 在 \small x_{0} = 0 附近的线性逼近函数 P_{1}(x) = 1,如下图:

    线性逼近优点:形式简单,计算方便;缺点:离原点O越远,近似度越差。  

    ②. 二次逼近     

    二次多项式 逼近 f(x) = \small \cos x ,我们期望:    

    \small P_{2}\left ( 0 \right ) = \small f\left ( 0 \right ) = \small \cos 0 = 1 = \small a_{0}  ( 即期望在 x = 0 处逼近函数和给定函数的函数值相等 );

    \small {P_{2}}'\left ( 0 \right ) = \small f{}'\left ( 0 \right ) = \small \sin 0 = 0 = \small a_{1}  ( 即期望在 x = 0 处逼近函数和给定函数的斜率相等 );  

    \small {P_{2}}''\left ( 0 \right ) = \small {f}''\left ( 0 \right ) = \small -\cos 0 = -1,所以 \small a_{2} = \small -\frac{1}{2}  ( 即期望在 x = 0 处逼近函数和给定函数的曲率相等 ); 

     所以 \small \cos x \small \approx \small P_{2}\left ( x \right ) = 1 - \small \frac{x^{2}}{2},如下图:

    二次逼近要比线性逼近好得多,但局限于 [ \small -\frac{\pi }{2}\small \frac{\pi }{2} ] 内,该范围外,图像明显差异很大。为什么我们期望两个函数在某一点的函数值 、一阶导数值、二阶导数值相等?因为这些值表达了函数(图像)最基本和最主要的性质,这些性质逼近即可以使得两个函数逼近(由上面函数图像可以直观地看出来)

    ③. 八次逼近 

     八次多项式   逼近 f(x) = \small \cos x ,我们期望:     

     \small P_{8}\left (0 \right ) = f\left ( 0 \right ) ,求出  \small a_{0} = 1   ( 即期望在 x = 0 处逼近函数和给定函数的函数值相等 );       

     \small {P_{8}}'\left ( 0 \right ) = {f\left ( 0 \right )}',求出 \small a_{1} = 0   ( 即期望在 x = 0 处逼近函数和给定函数的斜率相等 );

     .... .... ....          

     \small {P_{8}}^{(8)}\left ( 0 \right ) = f^{(8)}(0),求出 \small a_{8} = \frac{1}{8!}  ( 即期望在 x = 0 处逼近函数和给定函数的曲率相等 );                                               

    所以    ,如下图:

    \small P_{8}\left ( x \right ) (绿色图像) 比 \small P_{2}\left ( x \right ) (蓝色图像) 更大范围内更接近余弦函数 (红色图像)   

    由上述3次不同程度的函数逼近可以看出:对于精确度要求较高且需要估计误差的时候,必须用高次多项式来近似表达函数,同时给出误差公式 。

    以上就是利用多项式函数去逼近给定函数的一个过程。

    *****************************************************************************************************************************************

    *****************************************************************************************************************************************

    3. 泰勒公式的推导

    由此引出一个问题:给定一个函数 \small f\left ( x \right ) ,要找一个在指定点 \small x_{0} 附近与 \small f\left ( x \right ) 很近似的多项式函数 \small P\left ( x \right ),记为:         

      使得  \small f\left ( x \right ) \small \approx  \small P_{n}\left ( x \right ) 并且使得两者误差 \small R_{n}\left ( x \right ) = f\left ( x \right ) - P_{n}\left ( x \right ) 可估计。所以要找的多项式应该满足什么条件,误差是什么?

    从几何上看,\small y = f\left ( x \right )\small y = P_{n}\left ( x \right ) 代表两条曲线,如下图:

           

    使它们在 \small x_{0} 附近很靠近,很明显:

    1. 首先要求两曲线在 \small \left ( x_{0},f\left ( x_{0} \right ) \right ) 点相交,即  \small P_{n}\left ( x_{0} \right ) = f\left ( x_{0} \right )             

    2. 如果要靠得更近,还要求两曲线在  \small \left ( x_{0},f\left ( x_{0} \right ) \right ) 点相切,(由图像可以直观看出,相交 [ 棕色和红色图像 ] 和 相切 [ 绿色和红色图像 ],两曲线在 \small x_{0} 附近的靠近情况明显差异很大,相切更接近),即 \small {P_{n}}'\left ( x_{0} \right ) = {f}'\left ( x_{0} \right )                                                

    3. 如果还要靠得更近,还要求曲线在  \small \left ( x_{0},f\left ( x_{0} \right ) \right ) 点弯曲方向相同,(如上图,弯曲方向相反 [ 绿色和红色图像 ];弯曲方向相同[ 蓝色和红色图像 ],明显在离 \small x_{0} 很远的地方,弯曲方向相同两函数的差异更小一点),即 \small {P_{n}}''\left ( x_{0} \right ) = {f}''\left ( x_{0} \right ) ,进而可推想:若在 \small \left ( x_{0},f\left ( x_{0} \right ) \right ) 附近有 \small {P_{n}}'\left ( x_{0} \right ) = {f}'\left ( x_{0} \right )\small {P_{n}}''\left ( x_{0} \right ) = {f}''\left ( x_{0} \right ) \small \cdots \cdots \cdots  \small P_{n}^{\left ( n \right )}\left ( x_{0} \right ) = f^{n}\left ( x_{0} \right ),近似程度越来越好。

    综上所述,所要找的多项式应满足下列条件:

                  

    解释一下上面的转换时如何做的,以上面第三行的二阶导数为例: 

    第一个箭头的转换:将 \small P_{n}\left ( x \right ) 求二阶导函数后将 \small x_{0} 带入,求得 \small {P_{n}}''\left ( x_{0} \right ) = 2!a_{2} 

    第二个箭头的转换:所以 \small {f}''\left ( x_{0} \right ) = 2!a_{2},所以 \small a_{2} = \frac{1}{2!}{f}''\left ( x_{0} \right ) 

    多项式函数   中的系数 \small a 可以全部由 \small f\left ( x \right ) 表示,则得到: 

    其中误差为  \small R_{n} \left ( x \right ) = f\left (x \right ) - P_{n}\left ( x \right )。 因为是用多项式函数去无限逼近给定的函数,所以两者之间肯定存在一丢丢的误差。

    ****************************************************************************************************************************************

    ****************************************************************************************************************************************

    4. 泰勒公式的定义

    所以我们就得到了泰勒公式的定义:

    如果函数 \small f\left ( x \right ) 在含 \small x_{0} 的某个开区间  \small \left ( a,b \right )  内具有直到  \small \left ( n+1 \right ) 阶导数,则对  \small \forall x \in \left ( a,b \right ) ,有  

       

    其中余项 (即误差)  \small R_{n}\left ( x \right ) = \frac{f^{\left ( n+1 \right )}(\xi )}{\left ( n+1 \right )!}(x-x_{0})^{n+1} , \xi 在 \small x_{0} 与 x 之间。 泰勒公式的余项表达方式有好几种,前面这种表是方法称为n阶泰勒展开式的拉格朗日余项。拉格朗日余项即是n阶泰勒公式又多展开了一阶,n变为n+1。注意,这里的余项即为误差,因为使用多项式函数在某点展开,逼近给定函数,最后肯定会有一丢丢的误差,我们称之为余项。

    ****************************************************************************************************************************************

    ****************************************************************************************************************************************

    5. 扩展 —— 麦克劳林公式

    是泰勒公式的一种特殊情况:即当 \small x_{0} = 0 时的泰勒公式。所以将 \small x_{0} = 0 带入公式,即得:

    几个常见的初等函数的带有佩亚诺余项的麦克劳林公式:

     佩亚诺余项为    \small \left ( x-x_{0} \right )^{n} 的高阶无穷小 :                                  

                                                                 

     

     

    展开全文
  • XGBoost二阶泰勒展开公式推导

    千次阅读 2018-08-03 21:46:23
    转载:https://blog.csdn.net/bu2_int/article/details/80278857  
    展开全文
  • 2019独角兽企业重金招聘Python工程师标准>>> ...

    转载于:https://my.oschina.net/Bettyty/blog/799664

    展开全文
  • 二阶泰勒展开法求解微分方程

    千次阅读 2020-03-29 20:55:29
    日期:3030-3-29 二阶泰勒展开法求解微分方程 1.

    日期:3030-3-29

    二阶泰勒展开法求解微分方程

    在这里插入图片描述
    在这里插入图片描述
    代码示例

    %% 1
    h = 0.5; t = 2:h:3;
    N = length(t);
    y = zeros(1,N); y(1) = 1;
    %求fi
    fi = @(x,y,t)(1+(t-y).^2-h*((t-y).^3));
    %y(3)
    for i =1:N-1
        y(i+1) = y(i)+h*fi(y(i),t(i),h);
    end
    y(N)
    %% 2
    h = 0.25; t = 0:h:1;
    N = length(t);
    y = zeros(1,N); y(1) = 1;
    %求fi
    fi = @(x,y,t)(cos(2*t)+sin(3*t)+(h/2)*(-2*sin(2*t)+3*cos(3*t)));
    %y(3)
    for i =1:N-1
        y(i+1) = y(i)+h*fi(y(i),t(i),h);
    end
    y(N)

    结果:

    在这里插入图片描述

    展开全文
  • 本文总结机器学习基石的第三次作业,主要包括误差函数、特征转换、二阶泰勒展开,以及线性回归,逻辑回归的实现。
  • 二次型多元函数极值Hessian矩阵正定矩阵如何判断一个矩阵是否是正定的,负定的,还是不定的呢?一个最常用的方法就是顺序主子式。实对称矩阵为正定矩阵的充要条件是的各顺序主子式都...多元函数极值的判定泰勒展开式...
  • q=%E6%8B%89%E6%A0%BC%E6%9C%97%E6%97%A5%E4%B8%AD%E5%80%BC) ...第一次见到泰勒展开式的时候,我是崩溃的。泰勒公式长这样: 好奇泰勒是怎么想出来的,我想,得尽量还原公式发明的过程才能很好的理解它。 ...
  • q=%E6%8B%89%E6%A0%BC%E6%9C%97%E6%97%A5%E4%B8%AD%E5%80%BC)第一次见到泰勒展开式的时候,我是崩溃的。泰勒公式长这样: 好奇泰勒是怎么想出来的,我想,得尽量还原公式发明的过程才能很好的理解它。首先得问一个.....
  • 泰勒公式展开细节解析

    万次阅读 多人点赞 2017-08-05 08:58:22
    上周写完了《《三体》读后思考-泰勒展开/维度打击/黑暗森林》后收到一些邮件,进一步思考了关于泰勒展开的意义。也许我掌握的那些网络技术比如Linux Netfilter,NAT之类,太过底层太过小众,所以大家几乎都是没有感...
  • 二元函数的泰勒公式

    万次阅读 多人点赞 2019-02-12 02:16:38
    根据一元函数的泰勒展开式可得 定理 并且式子中的意思含义为: 二、定理的证明 ① 为了利用一元函数的泰勒公式证明,此刻引入函数: 因此对其进行求导后有: 三、拉格朗日中值等式 由于 四、...
  • 算法数学俱乐部日期:2019年12月14日正文共:1355字13图预计阅读时间:6分钟来源:包头大喇嘛01说在前面的话传说早在亚里士多德时代(相当于我国的战国),就有人在探寻将一般函数展开成简单多项式的方法,但因为条件所...
  • 泰勒公式--泰勒多项展开以及应用

    千次阅读 2021-04-07 10:52:13
    泰勒公式的几何意义是利用多项式函数来逼近原函数,由于多项式函数可以任意次求导,易于计算,且便于求解极值或者判断函数的性质,因此可以通过泰勒公式获取函数的信息,同时,对于这种近似,必须提供误差分析,来...
  • 多元函数的泰勒展开式公式推导

    千次阅读 2020-03-18 22:30:53
    多元函数的泰勒(Taylor)展开式 推导过程 一元函数在点 Xk\mathcal{X}_{k}Xk​处的泰勒展开式为: f(x)=f(xk)+(x−xk)f′(xk)+12!(x−xk)2f′′(xk)+onf(x)=f\left(x_{k}\right)+\left(x-x_{k}\r...
  • 学过微积分的人都知道泰勒展开公式,它是将一个在x=x0处具有n阶导数...b)上具有(n 1)阶导数,则对闭区间[a,b]上任意一点x,成立下泰勒公式形式其中,表示f(x)的n阶导数,等号后的多项式称为函数f(x)在x0处的泰勒...
  • 泰勒展开式

    2020-05-08 17:00:37
    一句话概括泰勒展开式: 用多项式去无限逼近一个函数,就是将某个函数在一个点上泰勒展开。 如何推导? 不用管,记住公式就行了。 蕴含的思想: 某个点的变化掌握在一阶导数里,一阶导数的变化在二阶导数里,...
  • 第一次见到泰勒展开式的时候,我是崩溃的。泰勒公式长这样: 好奇泰勒是怎么想出来的,我想,得尽量还原公式发明的过程才能很好的理解它。 首先得问一个问题:泰勒当年为什么要发明这条公式? 因为当时数学界对...
  • 机器学习笔记1—泰勒展开式和牛顿法

    万次阅读 多人点赞 2015-10-29 20:11:56
    机器学习笔记1—泰勒展开式和牛顿法写在前面:自学机器学习的菜鸟一枚,希望通过记录博客的形式来记录自己一点点的进步~ 下面都是学习过程中自己的一些思考和学习,希望大神们批评指正。...泰勒公式的表达式:
  • 多元函数的泰勒公式问题引入海赛矩阵二级目录三级目录 问题引入 海赛矩阵 二级目录 三级目录
  • 泰勒公式

    千次阅读 2018-08-14 17:25:18
    泰勒公式 泰勒公式就是用多项式函数去逼近光滑函数。 假设f(x)在x=x0x=x0x = x_0处连续可导N阶,那么(0!=1)(0!=1)(0!=1) f(x)的泰勒公式为:f(x0)0!+f′(x0)1!∗(x−x0)+f″(x0)2!∗(x−x0)2+...+fN(x0)N!∗(x...
  • 泰勒展开式的理解

    千次阅读 2017-12-28 10:10:53
    概念泰勒公式是将一个在x=x0处,且具有n阶导数的函数P(x)利用关于(x-x0)的n次多项式来逼近函数f(x)【我们想要近似的函数】的方法。泰勒展开式在x=x0点展开形式为:【即f(x)只是用来近似t(x)在x0点附近的函数值】 ...
  • 海森矩阵(Hessian Matrix)与泰勒展开式 1.一元展开式 2.多元展开式
  • 通俗理解泰勒公式

    万次阅读 多人点赞 2019-04-14 22:31:50
    这个公式来自于微积分的泰勒定理(Taylor's theorem),泰勒定理描述了一个可微函数,如果函数足够光滑的话,在已知函数在某一点的各阶导数值的情况之下,泰勒公式可以用这些导数值做系数构建一个多项式来近似函数在...
  • 关于泰勒公式

    2020-03-09 00:45:50
    本文对泰勒公式的由来以及证明做一些简单的总结,方便自己在闲暇时品读。 本人对泰勒公式的记忆只停留在大学时期的期末考试复习阶段,说来也是十分的惭愧。 俗话说,温故而知新,可以为师矣,以下内容均来之知乎大神...
  • 基本思想 不论是多元函数也好,还是一元函数也好,最基本的泰勒公式展开式基本思想是用多项式函数逼近函数本身。 一元函数的泰勒公式 设函数f(x)f(x)f(x)在点x0x_{0}x0​处的邻域内有n+1n+1n+1阶导数,那么就会有...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 3,723
精华内容 1,489
关键字:

二阶泰勒公式展开式