机器学习中的数据预处理中的标准化（sklearn preprocessing）

转自：http://blog.csdn.net/csmqq/article/details/51461696
Standardization即标准化，尽量将数据转化为均值为零，方差为一的数据，形如标准正态分布（高斯分布）。实际中我们会忽略数据的分布情况，仅仅是通过改变均值来集中数据，然后将非连续特征除以他们的标准差。sklearn中 scale函数提供了简单快速的singlearray-like数据集操作。
一、标准化，均值去除和按方差比例缩放（Standardization, or mean removal and variance scaling）
　　数据集的标准化：当个体特征太过或明显不遵从高斯正态分布时，标准化表现的效果较差。实际操作中，经常忽略特征数据的分布形状，移除每个特征均值，划分离散特征的标准差，从而等级化，进而实现数据中心化。

1. scale 零均值单位方差

[html] view
plain copy

from sklearn import preprocessing   

import numpy as np    

X = np.array([[1., -1., 2.], [2., 0., 0.], [0., 1., -1.]])    

X_scaled = preprocessing.scale(X)   

#output :X_scaled = [[ 0.         -1.22474487  1.33630621]  

                 [ 1.22474487  0.         -0.26726124]  

                 [-1.22474487  1.22474487 -1.06904497]]  

＃scaled之后的数据零均值，单位方差  

X_scaled.mean(axis=0)  # column mean: array([ 0.,  0.,  0.])    

X_scaled.std(axis=0)  #column standard deviation: array([ 1.,  1.,  1.])  

2.StandardScaler计算训练集的平均值和标准差，以便测试数据集使用相同的变换。

[python] view
plain copy

scaler = preprocessing.StandardScaler().fit(X) #out: StandardScaler(copy=True, with_mean=True, with_std=True)  

scaler.mean_  #out: array([ 1.,  0. ,  0.33333333])    

scaler.std_ #out: array([ 0.81649658,  0.81649658,  1.24721913])   

#测试将该scaler用于输入数据，变换之后得到的结果同上  

scaler.transform(X) #out: array([[ 0., -1.22474487,  1.33630621],        [ 1.22474487, 0. , -0.26726124],  [-1.22474487,1.22474487, -1.06904497]])    

scaler.transform([[-1., 1., 0.]])  #scale the new data, out: array([[-2.44948974,  1.22474487, -0.26726124]])  

注 ：1）若设置with_mean=False 或者 with_std=False，则不做centering 或者scaling处理。

2）scale和StandardScaler可以用于回归模型中的目标值处理。

二、将数据特征缩放至某一范围(scalingfeatures to a range)
另外一种标准化方法是将数据缩放至给定的最小值与最大值之间，通常是０与１之间，可用MinMaxScaler实现。或者将最大的绝对值缩放至单位大小，可用MaxAbsScaler实现。
使用这种标准化方法的原因是，有时数据集的标准差非常非常小，有时数据中有很多很多零（稀疏数据）需要保存住０元素。
1. MinMaxScaler(最小最大值标准化)
公式：X_std = (X - X.min(axis=0)) / (X.max(axis=0) - X.min(axis=0)) ;
X_scaler = X_std/ (max - min) + min

[python] view
plain copy

#例子：将数据缩放至[0, 1]间。训练过程: fit_transform()  

X_train = np.array([[1., -1., 2.], [2., 0., 0.], [0., 1., -1.]])  

min_max_scaler = preprocessing.MinMaxScaler()   

X_train_minmax = min_max_scaler.fit_transform(X_train)    

#out: array([[ 0.5       ,  0.        ,  1.        ],   

[ 1.        ,  0.5       ,  0.33333333],          

[ 0.        ,  1.        ,  0.        ]])  

#将上述得到的scale参数应用至测试数据  

X_test = np.array([[ -3., -1., 4.]])    

X_test_minmax = min_max_scaler.transform(X_test) #out: array([[-1.5 ,  0. , 1.66666667]])  

#可以用以下方法查看scaler的属性  

min_max_scaler.scale_        #out: array([ 0.5 ,  0.5,  0.33...])  

min_max_scaler.min_         #out: array([ 0.,  0.5,  0.33...])  

2. MaxAbsScaler（绝对值最大标准化）
与上述标准化方法相似，但是它通过除以最大值将训练集缩放至[-1,1]。这意味着数据已经以０为中心或者是含有非常非常多０的稀疏数据。

[html] view
plain copy

X_train = np.array([[ 1., -1.,  2.],  

                     [ 2.,  0.,  0.],  

                    [ 0.,  1., -1.]])  

max_abs_scaler = preprocessing.MaxAbsScaler()  

X_train_maxabs = max_abs_scaler.fit_transform(X_train)  

# doctest +NORMALIZE_WHITESPACE^, out: array([[ 0.5, -1.,  1. ], [ 1. , 0. ,  0. ],       [ 0. ,  1. , -0.5]])  

X_test = np.array([[ -3., -1.,  4.]])  

X_test_maxabs = max_abs_scaler.transform(X_test) #out: array([[-1.5, -1. ,  2. ]])  

max_abs_scaler.scale_  #out: array([ 2.,  1.,  2.])  

更多的数据预处理方法参考官方文档：http://scikit-learn.org/stable/modules/preprocessing.html#standardization-or-mean-removal-and-variance-scaling
参考官方文档：http://scikit-learn.org/stable/modules/preprocessing.html

官网：http://scikit-learn.org/stable/