精华内容
下载资源
问答
  • 二阶导不存在的例子
    千次阅读
    2019-11-04 23:00:04

    二元函数二阶混合偏导数的近似计算式与误差阶推导

    问题

    假设 f ( x , y ) f(x,y) f(x,y)在全平面内存在且足够的光滑,求 f x y ( x 0 , y 0 ) f_{xy}(x_0,y_0) fxy(x0,y0)的计算式与误差阶

    引理一:

    f x y ( x 0 , y 0 ) , f y x ( x 0 , y 0 ) f_{xy}(x_0,y_0),f_{yx}(x_0,y_0) fxy(x0,y0),fyx(x0,y0)均在 ( x 0 , y 0 ) (x_0,y_0) (x0,y0)处存在且连续,则 f x y ( x 0 , y 0 ) = f y x ( x 0 , y 0 ) f_{xy}(x_0,y_0)=f_{yx}(x_0,y_0) fxy(x0,y0)=fyx(x0,y0)

    引理二:

    D ⊂ R 2 D \subset R^2 DR2为一区域,函数 f ( x , y ) ∈ C 2 ( D ) f(x,y)\in C^{2}(D) f(x,y)C2(D),且 ( x 0 , y 0 ) ∈ D , ( x 0 + h , y 0 + k ) ∈ D (x_0,y_0)\in D,(x_0+h,y_0+k) \in D (x0,y0)D,(x0+h,y0+k)D,则有二元函数带皮亚诺余项的泰勒公式
    f ( x 0 + h , y 0 + k ) = f ( x 0 , y 0 ) + h f x ( x 0 , y 0 ) + k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) + 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 + o ( ρ 2 ) f(x_0+h,y_0+k)=f(x_0,y_0)+hf_x(x_0,y_0)+kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)+2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2}+o(\rho^2) f(x0+h,y0+k)=f(x0,y0)+hfx(x0,y0)+kfy(x0,y0)+2h2fxx(x0,y0)+2hkfxy(x0,y0)+k2fyy(x0,y0)+o(ρ2)
    其中, ρ = h 2 + k 2 \rho=\sqrt{h^2+k^2} ρ=h2+k2

    引理三:

    (一元函数带拉格朗日余项的泰勒公式)设函数f(x)在包含点 x 0 x_0 x0的区间(a,b)内具有直到n+1阶的导数,则对任意 x ∈ ( a , b ) x\in(a,b) x(a,b)都有
    f ( x ) = f ( x 0 ) + f ′ ( x 0 ) ( x − x 0 ) + 1 2 ! f ′ ′ ( x 0 ) ( x − x 0 ) 2 + . . . + 1 n ! f ( n ) ( x 0 ) ( x − x 0 ) n + R n ( x ) f(x)=f(x_0)+f^{'}(x_0)(x-x_0)+\frac{1}{2!}f^{''}(x_0)(x-x_0)^2+...+\frac{1}{n!}f^{(n)}(x_0)(x-x_0)^n+R_n(x) f(x)=f(x0)+f(x0)(xx0)+2!1f(x0)(xx0)2+...+n!1f(n)(x0)(xx0)n+Rn(x)
    其中, R n ( x ) = 1 ( n + 1 ) ! f ( n + 1 ) ( ξ ) ( x − x 0 ) ( n + 1 ) R_n(x)=\frac{1}{(n+1)!}f^{(n+1)}(\xi)(x-x_0)^{(n+1)} Rn(x)=(n+1)!1f(n+1)(ξ)(xx0)(n+1), ξ \xi ξ x 0 x_0 x0 x x x之间

    引理四:

    (二元函数带拉格朗日余项的泰勒公式)设 D ⊂ R 3 D \subset R^3 DR3为一区域,函数 f ( x , y ) ∈ C 3 ( D ) f(x,y)\in C^{3}(D) f(x,y)C3(D),且 ( x 0 , y 0 ) ∈ D , ( x 0 + h , y 0 + k ) ∈ D (x_0,y_0)\in D,(x_0+h,y_0+k) \in D (x0,y0)D,(x0+h,y0+k)D,则有
    f ( x 0 + h , y 0 + k ) = f ( x 0 , y 0 ) + h f x ( x 0 , y 0 ) + k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) + 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 ! f(x_0+h,y_0+k)=f(x_0,y_0)+hf_x(x_0,y_0)+kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)+2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2!} f(x0+h,y0+k)=f(x0,y0)+hfx(x0,y0)+kfy(x0,y0)+2!h2fxx(x0,y0)+2hkfxy(x0,y0)+k2fyy(x0,y0)

    + h 3 f x x x ( x 0 + θ h , y 0 + θ k ) + 3 h 2 k f x x y ( x 0 + θ h , y 0 + θ k ) + 3 h k 2 f x y y ( x 0 + θ h , y 0 + θ k ) + k 3 f y y y ( x 0 + θ h , y 0 + θ k ) 3 ! , θ ∈ ( 0 , 1 ) +\frac{h^3f_{xxx}(x_0+\theta h,y_0+\theta k)+3h^2kf_{xxy}(x_0+\theta h,y_0+\theta k)+3hk^2f_{xyy}(x_0+\theta h,y_0+\theta k)+k^3f_{yyy}(x_0+\theta h,y_0+\theta k)}{3!},\theta \in (0,1) +3!h3fxxx(x0+θh,y0+θk)+3h2kfxxy(x0+θh,y0+θk)+3hk2fxyy(x0+θh,y0+θk)+k3fyyy(x0+θh,y0+θk),θ(0,1)

    命题

    f x y ( x 0 , y 0 ) = f ( x 0 + h , y 0 + k ) − f ( x 0 − h , y 0 + k ) − f ( x 0 + h , y 0 − k ) + f ( x 0 − h , y 0 − k ) 4 h k f_{xy}(x_0,y_0)=\frac{f(x_0+h,y_0+k)-f(x_0-h,y_0+k)-f(x_0+h,y_0-k)+f(x_0-h,y_0-k)}{4hk} fxy(x0,y0)=4hkf(x0+h,y0+k)f(x0h,y0+k)f(x0+h,y0k)+f(x0h,y0k)

    证明:
    由引理四得到

    f ( x 0 + h , y 0 + k ) = f ( x 0 , y 0 ) + h f x ( x 0 , y 0 ) + k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) + 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 ! f(x_0+h,y_0+k)=f(x_0,y_0)+hf_x(x_0,y_0)+kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)+2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2!} f(x0+h,y0+k)=f(x0,y0)+hfx(x0,y0)+kfy(x0,y0)+2!h2fxx(x0,y0)+2hkfxy(x0,y0)+k2fyy(x0,y0)

    + h 3 f x x x ( x 0 + θ 1 h , y 0 + θ 1 k ) + 3 h 2 k f x x y ( x 0 + θ 1 h , y 0 + θ 1 k ) + 3 h k 2 f x y y ( x 0 + θ 1 h , y 0 + θ 1 k ) + k 3 f y y y ( x 0 + θ 1 h , y 0 + θ 1 k ) 3 ! +\frac{h^3f_{xxx}(x_0+\theta_1 h,y_0+\theta_1 k)+3h^2kf_{xxy}(x_0+\theta_1 h,y_0+\theta_1 k)+3hk^2f_{xyy}(x_0+\theta_1 h,y_0+\theta_1 k)+k^3f_{yyy}(x_0+\theta_1 h,y_0+\theta_1 k)}{3!} +3!h3fxxx(x0+θ1h,y0+θ1k)+3h2kfxxy(x0+θ1h,y0+θ1k)+3hk2fxyy(x0+θ1h,y0+θ1k)+k3fyyy(x0+θ1h,y0+θ1k)

    f ( x 0 − h , y 0 + k ) = f ( x 0 , y 0 ) − h f x ( x 0 , y 0 ) + k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) − 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 ! f(x_0-h,y_0+k)=f(x_0,y_0)-hf_x(x_0,y_0)+kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)-2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2!} f(x0h,y0+k)=f(x0,y0)hfx(x0,y0)+kfy(x0,y0)+2!h2fxx(x0,y0)2hkfxy(x0,y0)+k2fyy(x0,y0)

    + − h 3 f x x x ( x 0 − θ 2 h , y 0 + θ 2 k ) + 3 h 2 k f x x y ( x 0 − θ 2 h , y 0 + θ 2 k ) − 3 h k 2 f x y y ( x 0 − θ 2 h , y 0 + θ 2 k ) + k 3 f y y y ( x 0 − θ 2 h , y 0 + θ 2 k ) 3 ! +\frac{-h^3f_{xxx}(x_0-\theta_2 h,y_0+\theta_2 k)+3h^2kf_{xxy}(x_0-\theta_2 h,y_0+\theta_2 k)-3hk^2f_{xyy}(x_0-\theta_2 h,y_0+\theta_2 k)+k^3f_{yyy}(x_0-\theta_2 h,y_0+\theta_2 k)}{3!} +3!h3fxxx(x0θ2h,y0+θ2k)+3h2kfxxy(x0θ2h,y0+θ2k)3hk2fxyy(x0θ2h,y0+θ2k)+k3fyyy(x0θ2h,y0+θ2k)

    f ( x 0 + h , y 0 − k ) = f ( x 0 , y 0 ) + h f x ( x 0 , y 0 ) − k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) − 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 ! f(x_0+h,y_0-k)=f(x_0,y_0)+hf_x(x_0,y_0)-kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)-2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2!} f(x0+h,y0k)=f(x0,y0)+hfx(x0,y0)kfy(x0,y0)+2!h2fxx(x0,y0)2hkfxy(x0,y0)+k2fyy(x0,y0)

    + h 3 f x x x ( x 0 + θ 3 h , y 0 − θ 3 k ) − 3 h 2 k f x x y ( x 0 + θ 3 h , y 0 − θ 3 k ) + 3 h k 2 f x y y ( x 0 + θ 3 h , y 0 − θ 3 k ) − k 3 f y y y ( x 0 + θ 3 h , y 0 − θ 3 k ) 3 ! +\frac{h^3f_{xxx}(x_0+\theta_3 h,y_0-\theta_3 k)-3h^2kf_{xxy}(x_0+\theta_3 h,y_0-\theta_3 k)+3hk^2f_{xyy}(x_0+\theta_3 h,y_0-\theta_3 k)-k^3f_{yyy}(x_0+\theta_3 h,y_0-\theta_3 k)}{3!} +3!h3fxxx(x0+θ3h,y0θ3k)3h2kfxxy(x0+θ3h,y0θ3k)+3hk2fxyy(x0+θ3h,y0θ3k)k3fyyy(x0+θ3h,y0θ3k)

    f ( x 0 − h , y 0 − k ) = f ( x 0 , y 0 ) − h f x ( x 0 , y 0 ) − k f y ( x 0 , y 0 ) + h 2 f x x ( x 0 , y 0 ) + 2 h k f x y ( x 0 , y 0 ) + k 2 f y y ( x 0 , y 0 ) 2 ! f(x_0-h,y_0-k)=f(x_0,y_0)-hf_x(x_0,y_0)-kf_y(x_0,y_0)+\frac{h^2f_{xx}(x_0,y_0)+2hkf_{xy}(x_0,y_0)+k^2f_{yy}(x_0,y_0)}{2!} f(x0h,y0k)=f(x0,y0)hfx(x0,y0)kfy(x0,y0)+2!h2fxx(x0,y0)+2hkfxy(x0,y0)+k2fyy(x0,y0)

    + − h 3 f x x x ( x 0 − θ 4 h , y 0 − θ 4 k ) − 3 h 2 k f x x y ( x 0 − θ 4 h , y 0 − θ 4 k ) − 3 h k 2 f x y y ( x 0 − θ 4 h , y 0 − θ 4 k ) − k 3 f y y y ( x 0 − θ 4 h , y 0 − θ 4 k ) 3 ! +\frac{-h^3f_{xxx}(x_0-\theta_4 h,y_0-\theta_4 k)-3h^2kf_{xxy}(x_0-\theta_4 h,y_0-\theta_4 k)-3hk^2f_{xyy}(x_0-\theta_4 h,y_0-\theta_4 k)-k^3f_{yyy}(x_0-\theta_4 h,y_0-\theta_4 k)}{3!} +3!h3fxxx(x0θ4h,y0θ4k)3h2kfxxy(x0θ4h,y0θ4k)3hk2fxyy(x0θ4h,y0θ4k)k3fyyy(x0θ4h,y0θ4k)

    所以,误差等于
    f ( x 0 + h , y 0 + k ) − f ( x 0 + h , y 0 − k ) − f ( x 0 − h , y 0 + k ) + f ( x 0 − h , y 0 − k ) 4 h k − f y x ( x 0 , y 0 ) \frac{f(x_0+h,y_0+k)-f(x_0+h,y_0-k)-f(x_0-h,y_0+k)+f(x_0-h,y_0-k)}{4hk}-f_{yx}(x_0,y_0) 4hkf(x0+h,y0+k)f(x0+h,y0k)f(x0h,y0+k)+f(x0h,y0k)fyx(x0,y0)

    = 1 24 h k ( ( h 3 f x x x ( x 0 + θ 1 h , y 0 + θ 1 k ) + 3 h 2 k f x x y ( x 0 + θ 1 h , y 0 + θ 1 k ) + 3 h k 2 f x y y ( x 0 + θ 1 h , y 0 + θ 1 k ) + k 3 f y y y ( x 0 + θ 1 h , y 0 + θ 1 k ) ) =\frac{1}{24hk}((h^3f_{xxx}(x_0+\theta_1 h,y_0+\theta_1 k)+3h^2kf_{xxy}(x_0+\theta_1 h,y_0+\theta_1 k)+3hk^2f_{xyy}(x_0+\theta_1 h,y_0+\theta_1 k)+k^3f_{yyy}(x_0+\theta_1 h,y_0+\theta_1 k)) =24hk1((h3fxxx(x0+θ1h,y0+θ1k)+3h2kfxxy(x0+θ1h,y0+θ1k)+3hk2fxyy(x0+θ1h,y0+θ1k)+k3fyyy(x0+θ1h,y0+θ1k))

    − ( − h 3 f x x x ( x 0 − θ 2 h , y 0 + θ 2 k ) + 3 h 2 k f x x y ( x 0 − θ 2 h , y 0 + θ 2 k ) − 3 h k 2 f x y y ( x 0 − θ 2 h , y 0 + θ 2 k ) + k 3 f y y y ( x 0 − θ 2 h , y 0 + θ 2 k ) ) -(-h^3f_{xxx}(x_0-\theta_2 h,y_0+\theta_2 k)+3h^2kf_{xxy}(x_0-\theta_2 h,y_0+\theta_2 k)-3hk^2f_{xyy}(x_0-\theta_2 h,y_0+\theta_2 k)+k^3f_{yyy}(x_0-\theta_2 h,y_0+\theta_2 k)) (h3fxxx(x0θ2h,y0+θ2k)+3h2kfxxy(x0θ2h,y0+θ2k)3hk2fxyy(x0θ2h,y0+θ2k)+k3fyyy(x0θ2h,y0+θ2k))

    − ( h 3 f x x x ( x 0 + θ 3 h , y 0 − θ 3 k ) − 3 h 2 k f x x y ( x 0 + θ 3 h , y 0 − θ 3 k ) + 3 h k 2 f x y y ( x 0 + θ 3 h , y 0 − θ 3 k ) − k 3 f y y y ( x 0 + θ 3 h , y 0 − θ 3 k ) ) -(h^3f_{xxx}(x_0+\theta_3 h,y_0-\theta_3 k)-3h^2kf_{xxy}(x_0+\theta_3 h,y_0-\theta_3 k)+3hk^2f_{xyy}(x_0+\theta_3 h,y_0-\theta_3 k)-k^3f_{yyy}(x_0+\theta_3 h,y_0-\theta_3 k)) (h3fxxx(x0+θ3h,y0θ3k)3h2kfxxy(x0+θ3h,y0θ3k)+3hk2fxyy(x0+θ3h,y0θ3k)k3fyyy(x0+θ3h,y0θ3k))

    + ( − h 3 f x x x ( x 0 − θ 4 h , y 0 − θ 4 k ) − 3 h 2 k f x x y ( x 0 − θ 4 h , y 0 − θ 4 k ) − 3 h k 2 f x y y ( x 0 − θ 4 h , y 0 − θ 4 k ) − k 3 f y y y ( x 0 − θ 4 h , y 0 − θ 4 k ) ) ) +(-h^3f_{xxx}(x_0-\theta_4 h,y_0-\theta_4 k)-3h^2kf_{xxy}(x_0-\theta_4 h,y_0-\theta_4 k)-3hk^2f_{xyy}(x_0-\theta_4 h,y_0-\theta_4 k)-k^3f_{yyy}(x_0-\theta_4 h,y_0-\theta_4 k))) +(h3fxxx(x0θ4h,y0θ4k)3h2kfxxy(x0θ4h,y0θ4k)3hk2fxyy(x0θ4h,y0θ4k)k3fyyy(x0θ4h,y0θ4k)))

    将等式右边合并同类项按照 h 3 , h 2 k , h k 2 , k 3 h^3,h^2k,hk^2,k^3 h3,h2k,hk2,k3分成四类考虑

    h 3 h^3 h3的几项为

    h 3 24 h k ( f x x x ( x 0 + θ 1 h , y 0 + θ 1 k ) + f x x x ( x 0 − θ 2 h , y 0 + θ 2 k ) − f x x x ( x 0 + θ 3 h , y 0 − θ 3 k ) − f x x x ( x 0 − θ 4 h , y 0 − θ 4 k ) ) \frac{h^3}{24hk}(f_{xxx}(x_0+\theta_1 h,y_0+\theta_1 k)+f_{xxx}(x_0-\theta_2 h,y_0+\theta_2 k)-f_{xxx}(x_0+\theta_3 h,y_0-\theta_3 k)-f_{xxx}(x_0-\theta_4 h,y_0-\theta_4 k)) 24hkh3(fxxx(x0+θ1h,y0+θ1k)+fxxx(x0θ2h,y0+θ2k)fxxx(x0+θ3h,y0θ3k)fxxx(x0θ4h,y0θ4k))

    G ( θ ) = f x x x ( x 0 + θ h , y 0 + θ k ) , H ( θ ) = f x x x ( x 0 − θ h , y 0 + θ k ) G(\theta)=f_{xxx}(x_0+\theta h,y_0+\theta k),H(\theta)=f_{xxx}(x_0-\theta h,y_0+\theta k) G(θ)=fxxx(x0+θh,y0+θk),H(θ)=fxxx(x0θh,y0+θk)

    则上面几项可以化为 h 2 24 k ( ( G ( θ 1 ) − G ( − θ 4 ) + ( H ( θ 2 ) − H ( − θ 3 ) ) ) \frac{h^2}{24k}((G(\theta_1)-G(-\theta_4)+(H(\theta_2)-H(-\theta_3))) 24kh2((G(θ1)G(θ4)+(H(θ2)H(θ3)))

    = h 2 24 k ( ( θ 1 + θ 4 ) G ′ ( ξ 1 ) + ( θ 2 + θ 3 ) H ′ ( ξ 2 ) ) =\frac{h^2}{24k}((\theta_1+\theta_4)G^{'}(\xi_1)+(\theta_2+\theta_3)H^{'}(\xi_2)) =24kh2((θ1+θ4)G(ξ1)+(θ2+θ3)H(ξ2))

    而用链式法则对 G , H G,H G,H求导,得到

    G ′ ( θ ) = h f x x x x ( x 0 + θ h , y 0 + θ k ) + k f x x x y ( x 0 + θ h , y 0 + θ k ) G^{'}(\theta)=hf_{xxxx}(x_0+\theta h,y_0+\theta k)+kf_{xxxy}(x_0+\theta h,y_0+\theta k) G(θ)=hfxxxx(x0+θh,y0+θk)+kfxxxy(x0+θh,y0+θk)

    H ′ ( θ ) = − h f x x x x ( x 0 − θ h , y 0 + θ k ) + k f x x x y ( x 0 − θ h , y 0 + θ k ) H^{'}(\theta)=-hf_{xxxx}(x_0-\theta h,y_0+\theta k)+kf_{xxxy}(x_0-\theta h,y_0+\theta k) H(θ)=hfxxxx(x0θh,y0+θk)+kfxxxy(x0θh,y0+θk)

    因此,原来几项可以化为

    h 2 24 k ( ( θ 1 + θ 4 ) ( h f x x x x ( x 0 + ξ 1 h , y 0 + ξ 1 k ) + k f x x x y ( x 0 + ξ 1 h , y 0 + ξ 1 k ) ) \frac{h^2}{24k}((\theta_1+\theta_4)(hf_{xxxx}(x_0+\xi_1 h,y_0+\xi_1 k)+kf_{xxxy}(x_0+\xi_1 h,y_0+\xi_1 k)) 24kh2((θ1+θ4)(hfxxxx(x0+ξ1h,y0+ξ1k)+kfxxxy(x0+ξ1h,y0+ξ1k))

    + ( θ 2 + θ 3 ) ( − h f x x x x ( x 0 − ξ 2 h , y 0 + ξ 2 k ) + k f x x x y ( x 0 − ξ 2 h , y 0 + ξ 2 k ) ) ) +(\theta_2+\theta_3)(-hf_{xxxx}(x_0-\xi_2 h,y_0+\xi_2 k)+kf_{xxxy}(x_0-\xi_2 h,y_0+\xi_2 k))) +(θ2+θ3)(hfxxxx(x0ξ2h,y0+ξ2k)+kfxxxy(x0ξ2h,y0+ξ2k)))

    由于 θ 1 + θ 4 \theta_1+\theta_4 θ1+θ4 θ 2 + θ 3 \theta_2+\theta_3 θ2+θ3一般不相等,所以无法用拉格朗日中值定理进一步化简

    因此当 h , k h,k h,k大小接近的时候,若假设上面的四阶偏导数均有界,则有误差阶数为 O ( h 2 ) O(h^2) O(h2)

    类似地对 h 2 k , h k 2 , k 3 h^2k,hk^2,k^3 h2k,hk2,k3讨论,得到在h与k同阶的时候,误差阶数为 O ( h 2 ) O(h^2) O(h2)

    数值实验

    函数一

    f ( x , y ) = x 2 s i n ( y ) + e x y 2 f(x,y)=x^2sin(y)+e^{xy^2} f(x,y)=x2sin(y)+exy2

    f x ( x , y ) = 2 x s i n ( y ) + y 2 e x y 2 f_{x}(x,y)=2xsin(y)+y^2e^{xy^2} fx(x,y)=2xsin(y)+y2exy2

    f y ( x , y ) = x 2 c o s ( y ) + 2 x y e x y 2 f_{y}(x,y)=x^2cos(y)+2xye^{xy^2} fy(x,y)=x2cos(y)+2xyexy2

    f x y ( x , y ) = 2 x c o s ( y ) + 2 y e x y 2 + 2 x y 3 e x y 2 f_{xy}(x,y)=2xcos(y)+2ye^{xy^2}+2xy^3e^{xy^2} fxy(x,y)=2xcos(y)+2yexy2+2xy3exy2

    	import numpy as np
    	def f1(x,y):
    	    return x*x*np.sin(y)+np.exp(x*y*y)
    	def f1xy(x,y):
    	    return 2*x*np.cos(y)+2*y*np.exp(x*y*y)+2*x*y*y*y*np.exp(x*y*y)
    	x=2.5
    	y=1.8
    	h=0.1
    	k=0.1
    	print("(%.4f,%.4f)二阶混合偏导数真实值:%.10f"%(x,y,f2xy(x,y)))
    	print("序号\th,k\t\t近似公式计算值\t\t误差\t\t误差衰减倍数")
    	for i in range(20):
    	    now=(f1(x+h,y+k)-f1(x-h,y+k)-f1(x+h,y-k)+f1(x-h,y-k))*0.25/h/k
    	    print("%d\t%.7f\t%.10f\t%.10f"%(i+1,h,now,now-f1xy(x,y)),end='')
    	    if i>0:
    	        print("\t%.6f"%(las/(now-f1xy(x,y))))
    	    else:
    	        print()
    	    las=now-f1xy(x,y)
    	    h*=0.5
    	    k*=0.5
    

    (2.5000,1.8000)二阶混合偏导数真实值:2.6708851424
    序号 h,k 近似公式计算值 误差 误差衰减倍数
    1 0.1000000 133118.5135877089 25192.8754518838
    2 0.0500000 113820.5496154785 5894.9114796533 4.273665
    3 0.0250000 109375.4104465985 1449.7723107733 4.066095
    4 0.0125000 108286.6028087446 360.9646729195 4.016383
    5 0.0062500 108015.7871949166 90.1490590915 4.004087
    6 0.0031250 107948.1696480652 22.5315122401 4.001021
    7 0.0015625 107931.2706538942 5.6325180690 4.000256
    8 0.0007813 107927.0462427288 1.4081069037 4.000064
    9 0.0003906 107925.9901575744 0.3520217493 4.000057
    10 0.0001953 107925.7261663675 0.0880305424 3.998859
    11 0.0000977 107925.6601095200 0.0219736948 4.006178
    12 0.0000488 107925.6436347961 0.0054989710 3.995965
    13 0.0000244 107925.6391525269 0.0010167017 5.408637
    14 0.0000122 107925.6431579590 0.0050221338 0.202444
    15 0.0000061 107925.5615234375 -0.0766123876 -0.065553
    16 0.0000031 107925.3906250000 -0.2475108251 0.309531
    17 0.0000015 107925.4882812500 -0.1498545751 1.651673
    18 0.0000008 107926.7578125000 1.1196766749 -0.133837
    19 0.0000004 107917.9687500000 -7.6693858251 -0.145993
    20 0.0000002 107887.5000000000 -38.1381358251 0.201095

    函数二

    f ( x , y ) = x 3 2 s i n ( x + y ) f(x,y)=x^{\frac{3}{2}}sin(x+y) f(x,y)=x23sin(x+y)

    f x ( x , y ) = x 3 2 c o s ( x + y ) + 3 2 x 1 2 s i n ( x + y ) f_{x}(x,y)=x^{\frac{3}{2}}cos(x+y)+\frac{3}{2}x^{\frac{1}{2}}sin(x+y) fx(x,y)=x23cos(x+y)+23x21sin(x+y)

    f y ( x , y ) = x 3 2 c o s ( x + y ) f_{y}(x,y)=x^{\frac{3}{2}}cos(x+y) fy(x,y)=x23cos(x+y)

    f x y ( x , y ) = − x 3 2 s i n ( x + y ) + 3 2 x 1 2 c o s ( x + y ) f_{xy}(x,y)=-x^{\frac{3}{2}}sin(x+y)+\frac{3}{2}x^{\frac{1}{2}}cos(x+y) fxy(x,y)=x23sin(x+y)+23x21cos(x+y)

    	import numpy as np
    	def f2(x,y):
    	    return x**1.5*np.sin(x+y)
    	def f2xy(x,y):
    	    return 1.5*(x**0.5)*np.cos(x+y)-x**1.5*np.sin(x+y)
    	x=5
    	y=5
    	h=0.1
    	k=0.1
    	print("(%.4f,%.4f)二阶混合偏导数真实值:%.10f"%(x,y,f2xy(x,y)))
    	print("序号\th,k\t\t近似公式计算值\t\t误差\t\t误差衰减倍数")
    	for i in range(15):
    	    now=(f2(x+h,y+k)-f2(x-h,y+k)-f2(x+h,y-k)+f2(x-h,y-k))*0.25/h/k
    	    print("%d\t%.7f\t%.10f\t%.10f"%(i+1,h,now,now-f2xy(x,y)),end='')
    	    if i>0:
    	        print("\t%.6f"%(las/(now-f2xy(x,y))))
    	    else:
    	        print()
    	    las=now-f2xy(x,y)
    	    h*=0.5
    	    k*=0.5
    

    (5.0000,5.0000)二阶混合偏导数真实值:3.2680094602
    序号 h,k 近似公式计算值 误差 误差衰减倍数
    1 0.1000000 3.2674426586 -0.0005668017
    2 0.0500000 3.2678703460 -0.0001391142 4.074362
    3 0.0250000 3.2679748435 -0.0000346167 4.018704
    4 0.0125000 3.2680008162 -0.0000086441 4.004682
    5 0.0062500 3.2680072998 -0.0000021604 4.001154
    6 0.0031250 3.2680089201 -0.0000005401 4.000008
    7 0.0015625 3.2680093253 -0.0000001350 4.001843
    8 0.0007813 3.2680094264 -0.0000000338 3.989878
    9 0.0003906 3.2680094504 -0.0000000098 3.446221
    10 0.0001953 3.2680094533 -0.0000000069 1.421488
    11 0.0000977 3.2680094242 -0.0000000360 0.191759
    12 0.0000488 3.2680093311 -0.0000001291 0.278833
    13 0.0000244 3.2680094242 -0.0000000360 3.586371
    14 0.0000122 3.2680064440 -0.0000030162 0.011938
    15 0.0000061 3.2679975033 -0.0000119569 0.252259

    由上面几个函数的例子可以看出,h和k减小为原来一半时,误差减小为原来的四分之一,因此验证了误差的阶数为平方级别

    结论

    对于足够光滑的函数 f ( x , y ) f(x,y) f(x,y),有二阶混合偏导数计算式:

    f x y ( x 0 , y 0 ) = f ( x 0 + h , y 0 + k ) − f ( x 0 − h , y 0 + k ) − f ( x 0 + h , y 0 − k ) + f ( x 0 − h , y 0 − k ) 4 h k f_{xy}(x_0,y_0)=\frac{f(x_0+h,y_0+k)-f(x_0-h,y_0+k)-f(x_0+h,y_0-k)+f(x_0-h,y_0-k)}{4hk} fxy(x0,y0)=4hkf(x0+h,y0+k)f(x0h,y0+k)f(x0+h,y0k)+f(x0h,y0k)

    该计算式的误差阶上界数为二阶

    由于作者水平有限,如果推导过程中有错误或考虑不周之处,还望不吝指正。

    更多相关内容
  • 拉普拉斯算子是对图像的二阶微分,是用来求取边缘的, Laplace算子是各项同性的,即具有旋转不变性,在一阶微分里,我们是用|dx|+|dy|来近似一个点的梯度的,当图像旋转一个角度时,这个值就变化了,但对于Laplace...

    前置知识

    边缘检测:图像边缘的强度(边缘线的清晰度)由图像的梯度的强度决定,因为梯度值越强,说明x轴、y轴的像素点变化越快,所以该点处越可能是边缘。边缘和梯度方向是垂直的。举个例子,下图就是用的y方向的偏导核,留下来的就是x方向的边缘
    在这里插入图片描述

    在这里插入图片描述

    散度:散度看是某一点是流入还是流出,所以照样是求三个方向的导数。啊,你这不和梯度一样了么?不一样,梯度计算对象是标量(具体来说是对标量求导,结果是有方向的数),散度计算对象是矢量(具体来说是各分量的求导,结果是一个没有方向的数)。散度计算结果的正负,如果大于零,表示该是发散的即出去的矢量多,如果等于零,表示流过而已,如果小于零,表示该点有吸收汇聚即进来的矢量多

    下面散度的计算公式可以看作哈密顿算子和F向量的点乘:
    在这里插入图片描述
    梯度:梯度的方向是函数值增加最快的方向

    拉普拉斯算子

    拉普拉斯算子是对图像的二阶微分,是用来求取边缘的, Laplace算子是各项同性的,即具有旋转不变性,在一阶微分里,我们是用|dx|+|dy|来近似一个点的梯度的,当图像旋转一个角度时,这个值就变化了,但对于Laplace算子来说不管图像怎么旋转,得到的响应是一样的。然后就是拉普拉斯算子关心的是图像灰度的突变而不强调灰度缓慢变化的区域,对边缘的定位能力更强。
    边缘点对应的位置应该是在过零点处,如下图所示,图中的第一幅小图为图像信号,第二幅小图为图像的一阶微分,第三幅小图为对图像的二阶微分:
    在这里插入图片描述
    然而真正在代码实现时,用拉普拉斯核卷积图像求取边缘时,是直接对图像用拉普拉斯模板卷积后得到响应值,然后对输出的响应值取绝对值就是边缘,这里可以看下图来理解,在连续强度不变的区域响应值为0,在边的一侧响应为正,在边的另一侧响应为负,在边中间的某一点响应值为0。直接对输出的响应值取绝对值得到的边缘其实是在真正边缘的一侧,这样求取的结果只是近似的,想要得到最真正的边缘还是应该求取过零点,但是这样方便编写代码:
    在这里插入图片描述
    下面是关于拉普拉斯算子的推导:
    在这里插入图片描述

    高斯二阶导算子/拉普拉斯高斯算子(LOG)

    高斯拉普拉斯(LOG)算子也称高斯二阶导核d2g/dx2,g为高斯平滑核,如下图所示
    高斯二阶导核只有一个需要调整的参数就是σ,因为窗宽可以由3σ的经验公式得到。这个核相当于可以拆分成两个步骤:首先对原始信号进行高斯平滑,然后对得到的信号求二阶导。由于卷积存在交换律结合律,所以这两个步骤其实也可以先等同于对高斯核求二阶导后再对信号进行卷积。即使原来的边缘是从0到255突变的信号,在过了一遍高斯核后也会存在拐点。边缘就对应二阶导数过零点,二阶过零点代表突变的地方,也就是拐点(二阶导为0的点,且该点的左右邻域是异号
    在这里插入图片描述
    LOG算子是怎么被构想出来的呢?
    在进行Laplacian操作之前通常需要先用高斯平滑滤波器对图像进行平滑处理,以降低Laplacian操作对于噪声的敏感性。事实上由于卷积操作具有结合律,因此我们先将高斯平滑滤波器与拉普拉斯滤波器进行卷积便是LOG算子,然后利用得到的混合滤波器去对图片进行卷积以得到所需的结果。

    值得注意的是高斯二阶导模板/LOG算子不仅有提取图像边缘的功能,还具有尺度选择特性。为什么叫做尺度选择特性呢?举个例子,就是你对着同一个物体拍一张图,对于一些点,不管你图片初始尺寸是多少,我都能调整Blob的半径使这个点在作用后达到级值,在达到极值的尺度下所框出的信息量是一样的。有了尺度选择特性我们便可做到尺度不变性,即对于不同尺度的同一物体,我们有匹配的一个极值点能把它给检测出来。举个反例,对于Harris角点检测算法来说,如下图,右边尺度的图的角点能被检测出来,而将尺度放大后,左边尺度的图的角点不会被检测出来,这样就说明Harris角点检测算法不具有尺度不变性,即随着尺度的变化对同一个东西的检测结果可能会不同。所以我们想要算法具有尺度的不变性!选择尺度可以这样理解:去选择什么半径的圆画上去是和当前这个图像像素点是最匹配的,如下图2所示,而这个圆的半径就是等于更号2倍的σ,而σ就是我们所说的尺度。
    在这里插入图片描述
    图1
    在这里插入图片描述
    图2

    LOG算子用于选择尺度的时候,在不同的尺度空间上查找关键点,其实就是查找的Blob特征(Blob斑点特征通常和关键点(keypoint),兴趣点(intrestpoint)以及特征点(featurepoint)表示同一个概念,通常指与周围有着颜色和灰度区别的区域。Blob特征画出来如上图所示。),对关键点建立尺度空间,检测出不同的尺度,近看远看都能把这个东西找出来。怎么检测呢?对于某一尺度的信号,我们可以通过不断改变高斯二阶导的σ值(相当于窗宽也在变),当某一个σ的高斯二阶导模板能和这一尺度的信号能匹配时,卷积后会产生一个极大值(指绝对值)。

    对于高斯二阶导核选择尺度特征来说,因为高斯二阶导直接用会有信号衰减,原因是由于σ的增大会衰减卷积后的信号。所以我们要对高斯二阶导乘σ的平方把衰减的东西去掉,然后再去比较不同的方差的高斯二阶导核对于信号的响应值,响应的最大值就是匹配上的。高斯偏导核和信号尺度直接的关系就是被测量的信号的半径是等于更号2倍的σ ,就相当于在图上画一个半径为更号2倍σ 的圆就代表这个尺度信号,所以后续的改进就是由于σ越来越大,窗宽也越来越大,卷积操作做起来就会变慢,所以就引出了sift特征,sift算法是用DOG (Difference of Guassian高斯差分核)来代替高斯二阶导核(LOG算子)提速。因为DOG模板可以利用高斯核的可分解的性质,高斯核的勾股弦定理来做,使得模板窗宽变小

    SIFT算法

    Sift算法解读直接参见这两个链接:
    1.https://blog.csdn.net/u014485485/article/details/78681086
    2.https://www.cnblogs.com/ronny/p/4028776.html

    展开全文
  • 注:多元函数的偏数在一点连续是指, 偏数在该点的某个邻域内存在,于是偏数在这个邻域内有定义,而且这个偏函数在该...基于以上两点,推导出了,此函数可但是可微,因为再原点不存在高阶无穷小。 为什么

    注:多元函数的偏导数在一点连续是指, 偏导数在该点的某个邻域内存在,于是偏导数在这个邻域内有定义,而且这个偏导函数在该点连续。理解这一点,才能理解后面的充分条件。

    下面的这一步推导用到了这个条件:

    为什么函数

    f(x,y)=\left\{\begin{matrix} \frac{xy}{\sqrt{x^2+y^2}}, \ \ \ x^2+y^2\neq 0\\ \\ 0, x^2+y^2=0 \end{matrix}\right.

    在原点可导不可微?

    先看一下函数图形,能看出什么特征:

    确实比较怪诞,首先由于两个主曲率面和曲面截线弯曲方向不同,此曲面的高斯曲率一定是负的,类似于马鞍面,所以在原点处一定不可展。

    而证明中极限

    不存在的,我们也看一下它的图形:

    极限不存在是显然的,因为沿着不同的y=kx接近原点,和z轴的交点是不同的。

    基于以上两点,推导出了,此函数可导但是不可微,因为再原点不存在高阶无穷小。

    为什么可导加上导函数连续,函数就变成可微的呢?首先我们看上面的函数确实是可导的,但是不可微一定是不满足导函数连续的条件.

    计算一下:

    \LARGE f_x=\frac{y^3}{x^2\sqrt{x^2+y^2}+y^2\sqrt{x^2+y^2}}

    \LARGE f_y=\frac{x^3}{x^2\sqrt{x^2+y^2}+y^2\sqrt{x^2+y^2}}

     看一下它们的图形:

    可以看到此函数的特征,确实在原点不连续的,有跳跃。


    对于一元函数来说,一元函数可导,在其可导区间内对应的导函数也连续,前提和结论互为充要条件,所以对于一个一元函数直观上可以看出来可不可导,以及导函数是不是连续。比如,出现尖峰就是一元函数不可导的直接证据,因为尖峰左右两边的导数不一样。导函数出现了间断点,不连续。

    但是对于二元函数来说,不可导的特征似乎不那么明显,上面就是一个例子,因为在原点处并没有出现尖峰。结果导函数仍然不连续。看连尖峰这个条件变得不那么必要,但是尖峰条件是否仍然是充分的呢?我们再来看一个函数,它的图形是一个椭圆,我们查看一下椭圆的尖峰处的可导性。

     可以看到,不像一元函数的情况,尖峰不是必要的,但是却是充分的,圆锥的顶部存在尖峰,求导后不连续,尖峰仍然可以说明,此函数在剑锋点不存在偏导数。

    另一方面,在一点处可以求偏导,是二元函数可微的必要条件,这里在尖峰处不存在骗导,直接证明圆锥函数在尖峰处不可微.


    结束! 

    展开全文
  • 牛顿法为什么是二阶

    千次阅读 多人点赞 2019-06-22 16:04:47
    查了很多地方说牛顿法是二阶算法,一直没找到二阶项在哪。花了大半天的时间才弄明白。记录一下。 牛顿法一般应用场景: 求方程的根; 求解最优化方法; 比如要求f(x)=0f(x)=0f(x)=0的根。 首先,选择一个接近函数 ...

    查了很多地方说牛顿法是二阶算法,一直没找到二阶项在哪。花了大半天的时间才弄明白。记录一下。
    牛顿法一般应用场景:

    1. 求方程的根;
    2. 求解最优化方法;

    比如要求 f ( x ) = 0 f(x)=0 f(x)=0的根。
    首先,选择一个接近函数 f ( x ) f(x) f(x)零点的 x 0 x_0 x0,计算相应的 f ( x 0 ) f(x_0) f(x0)和切线斜率 f ′ ( x 0 ) f ' (x_0) f(x0)(这里 f ′ f ' f表示函数 f f f的导数)。然后我们计算穿过点 ( x 0 , f ( x 0 ) ) (x_0, f (x_0)) (x0,f(x0))并且斜率为 f ′ ( x 0 ) f '(x0) f(x0)的直线和 x x x 轴的交点的 x x x坐标,也就是求如下方程的解:
    f ( x 1 ) − f ( x 0 ) = f ′ ( x 0 ) ⋅ ( x 1 − x 0 ) f(x_1)-f(x_0) = f^{\prime}\left(x_{0}\right) \cdot (x_1-x_0) f(x1)f(x0)=f(x0)(x1x0)
    通常x1会比x0更接近方程f (x) = 0的解。因此我们现在可以利用x1开始下一轮迭代。迭代公式可化简为如下所示:
    x n + 1 = x n − f ( x n ) f ′ ( x n ) x_{n+1}=x_{n}-\frac{f\left(x_{n}\right)}{f^{\prime}\left(x_{n}\right)} xn+1=xnf(xn)f(xn)
    已经证明,如果f ’ 是连续的,并且待求的零点x是孤立的,那么在零点x周围存在一个区域,只要初始值x0位于这个邻近区域内,那么牛顿法必定收敛。 并且,如果f ’ (x)不为0, 那么牛顿法将具有平方收敛的性能. 粗略的说,这意味着每迭代一次,牛顿法结果的有效数字将增加一倍。下图为一个牛顿法执行过程的例子。

    由于牛顿法是基于当前位置的切线来确定下一次的位置,所以牛顿法又被很形象地称为是"切线法"。牛顿法的搜索路径(二维情况)如下图所示:

    牛顿法搜索动态示例图:
     牛顿法搜索示意图关于牛顿法和梯度下降法的效率对比:

    从本质上去看,牛顿法是二阶收敛,梯度下降是一阶收敛,所以牛顿法就更快。如果更通俗地说的话,比如你想找一条最短的路径走到一个盆地的最底部,梯度下降法每次只从你当前所处位置选一个坡度最大的方向走一步,牛顿法在选择方向时,不仅会考虑坡度是否够大,还会考虑你走了一步之后,坡度是否会变得更大。所以,可以说牛顿法比梯度下降法看得更远一点,能更快地走到最底部。(牛顿法目光更加长远,所以少走弯路;相对而言,梯度下降法只考虑了局部的最优,没有全局思想。)

    根据wiki上的解释,从几何上说,牛顿法就是用一个二次曲面去拟合你当前所处位置的局部曲面,而梯度下降法是用一个平面去拟合当前的局部曲面,通常情况下,二次曲面的拟合会比平面更好,所以牛顿法选择的下降路径会更符合真实的最优下降路径。
      在这里插入图片描述
      注:红色的牛顿法的迭代路径,绿色的是梯度下降法的迭代路径。

    牛顿法的优缺点总结:
      优点:二阶收敛,收敛速度快;
      缺点:牛顿法是一种迭代算法,每一步都需要求解目标函数的Hessian矩阵的逆矩阵,计算比较复杂。


    当我们将牛顿法用作优化算法的时候,它就是二阶的。
    假设我们有一个凸优化问题
    min ⁡ x f ( x ) \min _{x} f(x) xminf(x)
    也就是说我们要找一个x来最小化f(x)。对于凸优化问题,f(x)的最小值点就是f(x)的极值点,也就是导数为0的点。那么我们上面的优化问题就转换为了如下的求根问题:
    f ′ ( x ) = 0 f^{\prime}(x)=0 f(x)=0
    利用牛顿法求解上面的式子,我们先选取初始点x0,然后进行如下迭代
    x n + 1 = x n − f ′ ( x n ) f ′ ′ ( x n ) x_{n+1}=x_{n}-\frac{f^{\prime}\left(x_{n}\right)}{f^{\prime \prime}\left(x_{n}\right)} xn+1=xnf(xn)f(xn)
    直到 ∣ x n + 1 − x n ∣ &lt; ϵ | x_{n+1}-x_{n} |&lt;\epsilon xn+1xn<ϵ
    综上,牛顿法求根是一阶算法,我们将优化问题转为求根问题需要一阶导数,所以用牛顿法进行最优化是二阶算法。

    参考资料
    http://sofasofa.io/forum_main_post.php?postid=1000966
    https://www.cnblogs.com/shixiangwan/p/7532830.html

    展开全文
  • 我们来看几个例子: 这是 f(x) = sin x + sin {x \2}的函数图像。它的定义域是 R,是连续的。 再看下图这是 f(x) = sin x + sin {x \ 2} 当 x 是 1\2 的整数倍时的图像。是离散的。这样 如果再苛刻一点,定义域是...
  • 二阶微分边缘算子二阶微分边缘算子二阶微分边缘算子基本思想Laplace 算子拉普拉斯表达式图像中的Laplace 算子 二阶微分边缘算子 二阶微分边缘算子基本思想 边缘即是图像的一阶导数局部最大值的地方,那么也意味着...
  • 在多元的情况下,可微可的关系要比在一元情况下复杂,但是只是要复杂一些,如果我们从一元开始去理解,你会发现并困难。这篇文章主要阐述以下三个概念:偏微分偏数全微分全导数这里暂时讲,看名字好像和全...
  • 小波降噪与重构例子 python

    千次阅读 多人点赞 2020-05-26 20:07:00
    代码部分 简单例子,python版 读取数据 import matplotlib.pyplot as plt import matplotlib; matplotlib.use('TkAgg') from pylab import * mpl.rcParams['font.sans-serif'] = ['SimHei'] mpl.rcParams['axes....
  • 最优化中的牛顿法,二阶收敛性

    万次阅读 2016-11-17 02:05:35
    最近偶尔翻阅一本写的不错的最优化理论教材,该书讲得很详细,很透彻。我对非线性规划理论又有了全新的认识,发现牛顿法...适用对象:二阶可微函数 牛顿法的几何意义本质: 在原函数的某一点处用一个二次函数近似
  • 【ML数学知识】极大似然估计

    千次阅读 2018-09-23 18:16:00
    【ML数学知识】极大似然估计 它是建立在极大似然原理的基础上的一个统计方法,极大似然原理的...极大似然原理的直观想法我们用下面例子说明。设甲箱中有99个白球,1个黑球;乙箱中有1个白球.99个黑...
  • 它也逊于L1范数,它有两个美称,在回归里面,有人把有它的回归叫“岭回归”(Ridge Regression),有人也叫它“权值衰减weight decay”。这用的很多吧,因为它的强大功效是改善机器学习里面一个非常重要的问题:过...
  • 刚开始学习计算机图形学,觉得很有趣,我的水平高,代码可供参考。 部分代码 typedef struct { float X; float Y; } PointF; PointF bezier_interpolation_func(float t, ...
  • 多变量微积分笔记1——偏

    千次阅读 2018-01-15 20:34:17
    在一元函数中,我们已经知道导数就是函数的变化率。对于二元函数我们同样要研究它的“变化率”。  在xOy平面内,当动点由P(x0,y0)沿不同方向变化时,函数f(x,y)的变化快慢一般说来是不同的... 偏数的表示符号为...
  • 1.证明可是可微的充要条件 笔记来源于武忠祥全程班 微分(思想:线性增量dydydy近似非线性增量Δy\Delta yΔy) dy≈Δy dy \approx \Delta y ...2.连续是可的充分条件(可必连续、连续一定可) ...
  • 前提是损失函数一阶、二阶都连续可导,而且在这里计算一阶导和二阶导时可以并行计算 ),假设此时我们定义好了树的结构(在后面介绍,和GBDT中直接用残差拟合不同),假设我们的叶节点区域为:    上面式子...
  • 目录 一、边缘简介 1.1 何为边缘 1.2 产生原因 二、边缘检测方法 2.1 一阶微分算子计算原理 ...2.2 噪声对一阶微分算子的...2.4 二阶微分算子计算原理 2.5 常见的二阶微分算子 2.5.1 拉普拉斯(Laplace)算子 2...
  • 很小时,我们只保留二阶导是合理的(gbdt是一阶导,xgboost是二阶导,我们以二阶导为例,一阶导可以自己去推,因为更简单),即: 那么在等式(1)中,我们把  看成是等式(2)中的x, 看成是  ,因此...
  • 高等数学 武忠祥强化班

    万次阅读 2021-04-10 09:19:08
    当出现e的三角函数次方积分时是肯定算出来的,并且又是证明大小关系肯定要用泰勒公式。 用泰勒公式展开成无数项 证明比什么大:取前面几项就能 证明比什么小的话:函数的积分与一个数比较, 对于函数的积分:函数展开...
  • 学习目的:应对博士申请考核中《最优化理论与算法》的...三、一个例子 一、Lagrange 乘数法——求解等式约束优化问题 KKT条件是非线性规划(nonlinear programming)最佳解的必要条件,KKT条件将Lagrange乘数法(..
  • 一、概述 如果图像灰度变化剧烈,进行一阶微分则会...1. 二阶微分关心的是图像灰度的突变而强调灰度缓慢变化的区域,对边缘的定位能力更强。 2. Laplace算子是各项同性的,即具有旋转不变性(后面会证明),...
  • SVM解释:四、线性可分的情况

    万次阅读 多人点赞 2018-07-23 08:41:42
    但是我已经强调过多次,线性可分的情况有相当的局限,所以SVM的终极目标还是要解决数据线性可分的情况。解决这种线性可分的情况基本的思路有两种: 加入松弛变量和惩罚因子,找到“最好”超平面,这里的...
  • 用MATLAB中的ode45函数求解微分方程

    万次阅读 多人点赞 2021-09-09 21:03:07
    方程如下所示: y''-(1-y^2)y'+y=0 y(0)=2,y'(0)=0 t=[0 20] 对于该方程,采用ode45求解的思路为:让y=y(1),y'=dy(1)=y(2),y''=ddy(1)=dy(2),即y的自身为y(1),y的一阶导赋值为y(2),y的二阶导赋值为y(3),从而...
  • 关于用导数法判断函数的单调性问题,教材上所举例子是从数的角度求解函数的正负,从而判断原函数的单调性,所以学生就依葫芦画瓢,碰到这类问题都这样做,但是他会发现在高三中的大多数同类题目都能求解,思路...
  • 深入理解XGBoost,优缺点分析,原理推导及工程实现

    万次阅读 多人点赞 2019-12-26 20:04:00
    作者提出通过按特征进行分块并排序,在块里面保存排序后的特征值及对应样本的引用,以便于获取样本的一阶、二阶导数值。具体方式如图: 通过顺序访问排序后的块遍历样本特征的特征值,方便进行切分点的查找。此外...
  • 普林斯顿微积分读本07第五章--可
  • 统计信号处理-简单看看克拉美罗界

    千次阅读 2021-02-12 11:36:06
    各种研究领域(包括无线定位方向)都会碰到参数...什么是参数估计问题假设一种最简单的情况:一个物理量为,我们使用某种方式去观测它,观测值为,由于存在噪声,此时,为高斯噪声,。这种情况下,我们自然会直接使用...
  • 03导数

    千次阅读 2021-02-28 21:42:29
    文章目录一、导数与微分... 二阶导函数2. n阶导数3.常用公式易错点注意点补充知识点解题技巧区分注意点没有记住的知识点问题常用结论具体方法1. 展开法求fn(0)f^{n}(0)fn(0) 一、导数与微分 1. 导数的概念 定义:f′(x0
  • 优化的主要目标是找到一个方向,参数朝这个方向移动之后使得损失函数的值能够减小,这个方向往往由一阶偏或者二阶各种组合求得。逻辑回归的损失函数是: 随机梯度下降 梯度下降是通过 J(w) 对 w 的一阶导数来...
  • §8.1 多元函数的基本概念 本章将在一元函数微分学的基础上,讨论多元函数的...的偏数都存在,那未这个偏数就是 的函数,称它为函数 对自变量 的 偏函数 ,记作  。 类似地,可以定义函数 对自变量 的偏...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 3,518
精华内容 1,407
热门标签
关键字:

二阶导不存在的例子