（1）离群点
 
如何识别离群点？
 
1、Q-Q图，落在置信区间带外的点即可被认为是离群点。
 
2、一个粗糙的判断准则：标准化残差值大于2或者小于2的点可能是离群
 
 
3、library(car)
    outlierTest(fit)  显示离群点
 
       rstudent unadjusted p-value Bonferonni p
 Nevada 3.542929         0.00095088     0.047544
 
 
（2）高杠杆值点
 
它们是由许多异常的预测变量值组合起来的，与响应变量值没有关系
 
高杠杆值的观测点可通过帽子统计量（hat statistic）判断
 
 
hat.plot <- function(fit){
     p <- length(coefficients(fit))
     n <- length(fitted(fit))
     plot(hatvalues(fit), main = "Index Plot of Hat Values")
     abline(h = c(2, 3) * p/n, col = "red", lty = 2)
     identify(1:n, hatvalues(fit), names(hatvalues(fit)))
 }
 
 
 hat.plot(fit)
 
 

 
 
（3）强影响点
 
强影响点，即对模型参数估计值影响有些比例失衡的点。例如，若移除模型的一个观测点时模型会发生巨大的改变，那么你就需要检测一下数据中是否存在强影响点了
 
 
cutoff <- 4/(nrow(states) - length(fit$coefficients) - 2)
 plot(fit, which = 4, cook.levels = cutoff)
 abline(h = cutoff, lty = 2, col = "red")
 
 

 
 
4、如何对线性模型进行改进？
 
1、删除观测点；
 
删除离群点通常可以提高数据集对于正态假设的拟合度，而强影响点会干扰结果，通常也会被删除。删除最大的离群点或者强影响点后，模型需要重新拟合
 2、变量变换：
 

 
 
Box-Cox正态变换
 
 
library(car)
 summary(powerTransform(states$Murder))
 

 
 
library(car)
 boxTidwell(Murder ~ Population + Illiteracy, data = states)
 3、添加或删除变量；
 4、使用其他回归方法。
 

 
 

 

#窗口大小，可以看出来是5，左边2个右边2个
def _nms_5(data):
    length=len(data)
    ans=[]
    for i in range(2,length-2):
        if data[i]>data[i-1] and data[i]>data[i-2] and data[i]>data[i+1] and data[i]>data[i+2]:
            ans.append(i)
    return ans
        
 

如题，是最优化中的 牛顿迭代法 求解函数极小值点
 

 
 

 
clear all
clc
%Newton迭代法求解极小值点
%090311
%=====================================
%定义函数
disp '函数 f(x) 为:'
syms x1 x2
f=(x1-2)^4+(x1-2)^2*x2^2+(x2+1)^2
disp '初始点的值：'
x0=[1;1]
%=====================================
%求函数的梯度和海色阵
disp '函数f的梯度：'
g=jacobian(f,[x1;x2])
disp '函数f的Hesse矩阵：'
G=jacobian([g(1);g(2)],[x1,x2])
%=====================================
%定义迭代的最大次数
n=10;
%=====================================
%一些初始值的计算
g0=subs(g,{x1,x2},{x0(1),x0(2)})';
G0=subs(G,{x1,x2},{x0(1),x0(2)});
f0=subs(f,{x1,x2},{x0(1),x0(2)});
%=====================================
%迭代点集合 x和函数值F的初始化
x=zeros(2,n);
F=zeros(1,n);
%运用Newton方程解出下一近似值
x(:,1)=x0-inv(G0)*g0; %注：用点乘有误
A=x(:,1);
F(1)=subs(f,{x1,x2},{A(1),A(2)});
%=====================================
%定义误差初始值为10
deta=10;
i=1;
%循环用求出的近似解迭代Newton方程
%求出下一个近似解，并在规定的误差范围内
while deta>=1e-10&i<10
    A=x(:,i);
    gi=subs(g,{x1,x2},{A(1),A(2)})';
    Gi=subs(G,{x1,x2},{A(1),A(2)});
    i=i+1; 
    x(:,i)=x(:,i-1)-inv(Gi)*gi;
    A=x(:,i);
    F(i)=subs(f,{x1,x2},{A(1),A(2)});
    deta=F(i)-F(i-1);
end
k=(1:n+1)';
F=[f0 F]';
x=[x0,x]';
disp '====================================================='
disp '迭代的各步结果如下：'
disp '      k             x(k)         F{x(k)}'
[k          x             F]
%=====================================

 
 

①求函数的二阶导数，将极值点代入，二级导数值>0, 为极小值点，反之为极大值点
 二级导数值=0，有可能不是极值点；
 ②判断极值点左右邻域的导数值的正负：左+右- 为极大值点，左-右+ 为极小值点，左右正负不变，不是极值点。