通过将属性值按比例缩放，使之落入一个小的特定区间，如0.0～1.0，对属性规范化。对于涉及神经网络或距离度量的分类算法（如最近邻分类）和聚类，规范化特别有用。如果使用神经网络后向传播算法进行分类挖掘（见第6章），对于训练元组中量度每个属性的输入值规范化将有助于加快学习阶段的速度。对于基于距离的方法，规范化可以帮助防止具有较大初始值域的属性（如income）与具有较小初始值域的属性（如二元属性）相比权重过大。有许多数据规范化的方法，我们将学习三种：最小-最大规范化、z-score规范化和按小数定标规范化。

最小-最大规范化对原始数据进行线性变换。假定minA和maxA分别为属性A的最小值和最大值。最小-最大规范化通过计算

 

将A的值v映射到区间[new_minA, new_maxA]中的v'。

最小-最大规范化保持原始数据值之间的联系。如果今后的输入落在A的原始数据值域之

外，该方法将面临“越界”错误。

例2-2 最小-最大规范化。假定属性income的最小与最大值分别为12 000美元和98 000美

元。我们想把income映射到区间[0.0, 0.1]。根据最小最大规范化，income值73 600美元将变换

为：

在z-score规范化（或零均值规范化）中，属性A的值基于A的均值和标准差规范化。A的

值v规范化为v'，由下式计算： 

其中，A 和σA分别为属性A的均值和标准差。当属性A的实际最大和最小值未知，或离群点左

右了最大-最小规范化时，该方法是有用的。

例2-3 z-score规范化。假定属性income的均值和标准差分别为54 000美元和16 000美元。

使用z-score规范化，值73 600美元转换为 

小数定标规范化通过移动属性A的小数点位置进行规范化。小数点的移动位数依赖于A的

最大绝对值。A的值v规范化为v'，由下式计算：

是使得Max(| v' |) < 1的最小整数。

例2-4 小数定标。假定A的取值由-986～917。A的最大绝对值为986。使用小数定标规范化，用1 000（即j = 3）除每个值，这样，－986规范化为－0.986，而917被规范化为0.917。

注意，规范化将原来的数据改变，特别是上面的后两种方法。有必要保留规范化参数（如均值和标准差，如果使用z-score规范化），以便将来的数据可以用一致的方式规范化。

属性构造是由给定的属性构造和添加新的属性，帮助提高准确率和对高维数据结构的理解。例如，我们可能希望根据属性height和width添加属性area。通过组合属性，属性构造可在机器学习界，属性构造称作特征构造。

以发现关于数据属性间联系的丢失信息，这对知识发现是有用的。

这篇总结了哪些东西：
1. 数据变换

2. 数据规范化方法

归一化（Min-max规范化）

标准化（Z-score标准化）

小数定标规范化
4. 规范化的作用

3. 数据挖掘算法中是否都需要进行规范化呢？

4. 标准化有什么注意事项？
具体写在了我的笔记里：

常用的三种数据规范化处理方法:
  常用的数据规范化处理主要有Min-max规范化、Z-Score规范化和小数定标规范化。下面简要介绍下三种数据规范化方法，并用python的机器学习库SciKit-Learn来实现数据变化。
Min-max 规范化
  Min-max 规范化方法是将原始数据变换到[0,1]的空间中用公式表示就是：
新数值 =（原数值 - 极小值）/（极大值 - 极小值）。
  sciKit-Learn中的MinMaxScaler函数可以将原始数据投射到指定空间[min,max],默认情况下[min,max]是[0,1].运行代码：
from sklearn import preprocessing
import numpy as np
# 初始化数据，每一行表示一个样本，每一列表示一个特征
x = np.array([[ 0., -3.,  1.],
              [ 3.,  1.,  2.],
              [ 0.,  1., -1.]])
# 将数据进行[0,1]规范化
min_max_scaler = preprocessing.MinMaxScaler()
minmax_x = min_max_scaler.fit_transform(x)
print (minmax_x)

运行结果:

[[0.         0.         0.66666667]
 [1.         1.         1.        ]
 [0.         1.         0.        ]]

Z-Score 规范化
  Z-Score规范化可以直接将数据转化为正态分布。

Z-Score ：
新数值 =（原数值 - 均值）/ 标准差。
  Z-Score 的优点是算法简单，不受数据量级影响，结果易于比较。不足在于，它需要数据整体的平均值和方差，而且结果没有实际意义，只是用于比较。
  SciKit-Learn库中的preprocessing.scale()函数可以直接将给定的数据进行Z-Score规范化。运行代码:
from sklearn import preprocessing
import numpy as np
# 初始化数据
x = np.array([[ 0., -3.,  1.],
              [ 3.,  1.,  2.],
              [ 0.,  1., -1.]])
# 将数据进行Z-Score规范化
scaled_x = preprocessing.scale(x)
print (scaled_x)

运行结果:
[[-0.70710678 -1.41421356  0.26726124]
 [ 1.41421356  0.70710678  1.06904497]
 [-0.70710678  0.70710678 -1.33630621]]

小数定标规范化
  小数定标规范化就是通过移动小数点的位置来进行规范化。小数点移动多少位取决于属性 A 的取值中的最大绝对值。

  比如属性 A 的取值范围是 -999 到 88，那么最大绝对值为 999，小数点就会移动 3 位，即新数值 = 原数值 /1000。那么 A 的取值范围就被规范化为 -0.999 到 0.088。
 通过NumPy库计算小数点位数。运行代码：
from sklearn import preprocessing
import numpy as np
# 初始化数据
x = np.array([[ 0., -3.,  1.],
              [ 3.,  1.,  2.],
              [ 0.,  1., -1.]])
# 小数定标规范化
j = np.ceil(np.log10(np.max(abs(x))))
scaled_x = x/(10**j)
print (scaled_x)

运行结果:

[[ 0.  -0.3  0.1]
 [ 0.3  0.1  0.2]
 [ 0.   0.1 -0.1]]

数据规范化处理
在拿到数据进行建模之前，我们需要将数据进行初步处理，例如通过据平滑、数据聚集、数据概化和规范化等方式将数据转换成适用于数据挖掘的形式。本文只介绍min-max标准化、Z-score标准化方法。
1. Min-max 规范化
定义：
Min-max 也叫离差标准化，是对原始数据的线性变换，使结果落到[0,1]区间。

用公式表示就是：

1、其中max为样本数据的最大值，min为样本数据的最小值。

2、这种方法有一个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。


代码：
Python中在 SciKit-Learn 里有个函数 MinMaxScaler 是专门做这个的
#引入库
from sklearn import preprocessing
import numpy as np
# 初始化数据，每一行表示一个样本，每一列表示一个特征
x = np.array([[ 0., -3.,  1.],
              [ 3.,  1.,  2.],
              [ 0.,  1., -1.]])
# 将数据进行[0,1]规范化
min_max_scaler = preprocessing.MinMaxScaler()
minmax_x = min_max_scaler.fit_transform(x)
print minmax_x
2、Z-Score 规范化
定义：
最常见的标准化方法就是Z标准化；也是SPSS中最为常用的标准化方法，也叫标准差标准化。

Z-Score 的优点是算法简单，不受数据量级影响，结果易于比较。不足在于，它需要数据整体的平均值和方差，而且结果没有实际意义，只是用于比较。



步骤如下：

1、求出各变量（指标）的算术平均值（数学期望）xi和标准差si ；

2、进行标准化处理：

zij=（xij－xi）/si

其中：zij为标准化后的变量值；xij为实际变量值。

3.将逆指标前的正负号对调。准化后的变量值围绕0上下波动，大于0说明高于平均水平，小于0说明低于平均水平。

如何改变文本的样式

代码：
在 SciKit-Learn 库中使用 preprocessing.scale() 函数，可以直接将给定数据进行 Z-Score 规范化。
from sklearn import preprocessing
import numpy as np
# 初始化数据
x = np.array([[ 0., -3.,  1.],
              [ 3.,  1.,  2.],
              [ 0.,  1., -1.]])
# 将数据进行Z-Score规范化
scaled_x = preprocessing.scale(x)
print scaled_x