1、去量纲

指是去除数据单位之间的不统一，将数据统一变换为无单位（统一单位）的数据集，也可以作为指标的权重，进行后续的加权计算。

2、数据归一化

数据分标准化是将数据按比例缩放，使之落入一个小的特定区间，在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。

A、对一维数据的缩放有如下定义：

0-1归一化（normalization）：(Xi-Xmax)/(Xmax-Xmin)

标准化（standardization）:(Xi-均值)/方差

B、0-1归一化和标准化的本质：缩放和平移。线性变化得性质：线性变化不会改变原始数据的数值排序

C、0-1归一化和标准化的区别：

0-1归一化的缩放时拍扁统一到区间（仅由极值决定）；标准化的缩放是更加弹性和动态的，和整体样本的分布有很大的关系。

0-1归一化：缩放仅仅跟最大和最小值得差别有关（输出范围在0-1）

标准化：缩放和每个点都有关系，通过方差体现出来。与归一化对比，标准化中所有数据点都有贡献（通过均值和标准差造成影响）。（输出范围在负无穷到正无穷）

D、0-1归一化和标准化使用情况：

如果对输出数据结果范围有要求，用归一化；

如果数据较为稳定，不存在极端的最大最小值，用归一化；

如果数据存在异常值和较多噪音，用标准化，可以间接通过中心化避免异常值和极端值得影响。

E、归一化的好处：

提升模型的收敛速度；提升模型的精度

F、常见的数据归一化方法

0-1归一化；log函数转换（通过以10为底的log函数转化的方法实现归一化）；atan函数转换（反正切函数）

————————————————

版权声明：本文为CSDN博主「努力努力MT」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。

原文链接：https://blog.csdn.net/ab19920904/article/details/80093549

1、去量纲

指是去除数据单位之间的不统一，将数据统一变换为无单位（统一单位）的数据集，也可以作为指标的权重，进行后续的加权计算。

2、数据归一化

数据分标准化是将数据按比例缩放，使之落入一个小的特定区间，在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。

A、对一维数据的缩放有如下定义：

0-1归一化（normalization）：(Xi-Xmax)/(Xmax-Xmin)

标准化（standardization）:(Xi-均值)/方差

B、0-1归一化和标准化的本质：缩放和平移。线性变化得性质：线性变化不会改变原始数据的数值排序

C、0-1归一化和标准化的区别：

0-1归一化的缩放时拍扁统一到区间（仅由极值决定）；标准化的缩放是更加弹性和动态的，和整体样本的分布有很大的关系。

0-1归一化：缩放仅仅跟最大和最小值得差别有关（输出范围在0-1）

标准化：缩放和每个点都有关系，通过方差体现出来。与归一化对比，标准化中所有数据点都有贡献（通过均值和标准差造成影响）。（输出范围在负无穷到正无穷）

D、0-1归一化和标准化使用情况：

如果对输出数据结果范围有要求，用归一化；

如果数据较为稳定，不存在极端的最大最小值，用归一化；

如果数据存在异常值和较多噪音，用标准化，可以间接通过中心化避免异常值和极端值得影响。

E、归一化的好处：

提升模型的收敛速度；提升模型的精度

F、常见的数据归一化方法

0-1归一化；log函数转换（通过以10为底的log函数转化的方法实现归一化）；atan函数转换（反正切函数）

去量纲：归一化、标准化
1.归一化(Normalization)
1.1 Min-Max Normalization
1.2 非线性Normalization
2.标准化(Standardlization)
2.1 Z-score Normalization
3.标准化在梯度下降算法中的重要性


本博文为葫芦书《百面机器学习》阅读笔记。

去量纲化 可以消除特征之间量纲的影响，将所有特征统一到一个大致相同的数值区间内；以便不同量级的指标能够进行比较和加权处理。
去量纲化的好处：

(1).使得不同量纲之间的特征具有可比性，消除量纲引起的特征数值量级对分析结果的影响；
(2).未归一化的特征数值太大，将引起数值计算问题；
(3).利用梯度下降算法求解的模型，输入特征数据通常需要归一化处理（线性回归，逻辑回归，支持向量机，神经网络模型）,可以加速算法的收敛过程。
去量纲化的方法：

两类常用的方法：归一化、标准化
1.归一化(Normalization)
1.1 Min-Max Normalization
$x'=\frac{x-X_{min}}{X_{max}-X_{min}}$
作用： 将原始特征数据线性映射到[0,1]

优点： 线性变换，对数据进行处理，不会改变原有数据的性质

缺点： 新数据加入，$X_{min},X_{max}$可能会发生变化，所有数据需要重新进行归一化处理。
1.2 非线性Normalization
对数变换：$x'=\log x$

反正切变换：$x'=\frac{2}{\pi}\arctan x$

适用情况：用于数据分化较大的场景，有些数据很大，有些数据很小 。需要依据数据分布情况，决定使用的非线性函数。
2.标准化(Standardlization)
2.1 Z-score Normalization
零均值标准化

$x'=\frac{x-\mu}{\sigma}$

其中：$\mu$ 原始数据均值，$\sigma$原始数据标准差 (数据量很大的情况下，这两个统计量对 加入新数据 不敏感，故可以处理新添加数据的情况)；$x-\mu$ 为数据中心化，将数据中心平移到原点。
适用情况： 原始数据分布接近正态分布，将原始数据 标准化 为均值为0 ，方差为1 的分布。

优点： 线性变换，对数据进行处理，不会改变原有数据的性质
3.标准化在梯度下降算法中的重要性
参考博文：通俗易懂理解特征归一化对梯度下降算法的重要性https://blog.csdn.net/feijie7788/article/details/89812737
涉及数学知识：

1.一个三维曲面$z=f(x,y)$被一系列平面$z=c$所截得到一系列等值线。
2.曲面上某点P　梯度方向 定义：函数在该点增长最快的方向。

通过方向导数与$f_x$和$f_y$的关系得出函数在P点增长最快的方向为：$(f_x,f_y)$,即为梯度方向。
3.等值线上 P点法线方向，垂直于P点切线方向。P点切线方向$(dx,dy)$，斜率为$\frac{dy}{dx}$, 由隐函数求导规则可得$\frac{dy}{dx}=-\frac{f_x}{f_y}$. 则法线斜率为$\frac{f_y}{f_x}$,即，法线方向为$(f_x,f_y)$ .所以曲线上某点的梯度方向，与过该点的等值线的法线方向相同。
4.c=f(x,y)隐函数求导：(两边同时对x求导)

$0=\frac{\partial f}{\partial x}+\frac{\partial f}{\partial y}\frac{dy}{d x}=>\frac{dy}{d x}=-\frac{f_x}{f_y}$
5.相互垂直两个向量$a=(x_1,y_1),b=(x_2,y_2)$,夹角$\theta$

内积定义垂直关系：$|a||b|\cos \theta=0$

坐标垂直关系:$x_1x_2+y_1y_2=0$(带入$a=x_1i+y_1j,b=x_2i+y_2j,a*b计算$)

两向量与x轴夹角正玄值关系：$-1=\frac{y_2}{x_2} \frac{y_1}{x_1}$
参考博文：

1.梯度方向与等高线方向垂直的理解：https://blog.csdn.net/bitcarmanlee/article/details/85275016

2.等值线与梯度的几何意义：https://jingyan.baidu.com/article/da1091fb475551027849d6b7.html

3.一文读懂梯度下降算法(各种导数)：https://www.cnblogs.com/hithink/p/7380838.html

4.据预处理之中心化（零均值化）与标准化（归一化）：https://www.cnblogs.com/wangqiang9/p/9285594.html

5.归一化 （Normalization）、标准化 （Standardization）和中心化/零均值化 （Zero-centered）(简书):https://www.jianshu.com/p/95a8f035c86c

https://blog.csdn.net/qq_45315982/article/details/103289412

https://www.cnblogs.com/aabbcc/p/9719383.html

https://blog.csdn.net/cindy407/article/details/92002448