1. 什么是特征预处理

1.1 特征预处理定义

通过⼀些转换函数将特征数据转换成更加适合算法模型的特征数据过程

• 为什么我们要进⾏归⼀化/标准化？
  特征的单位或者⼤⼩相差较⼤，或者某特征的⽅差相⽐其他的特征要⼤出⼏个数量级，容易影响（⽀配）⽬标 结果，使得⼀些算法⽆法学习到其它的特征

1.2 包含内容(数值型数据的⽆量纲化)

• 归⼀化
• 标准化

1.3 特征预处理API

sklearn.preprocessing

2 归⼀化

2.1 定义

通过对原始数据进⾏变换把数据映射到(默认为[0,1])之间

2.2 公式

作⽤于每⼀列，max为⼀列的最⼤值，min为⼀列的最⼩值,那么X’’为最终结果，mx，mi分别为指定区间值默认 mx为1,mi为0

2.3 API

sklearn.preprocessing.MinMaxScaler (feature_range=(0,1)… )

• MinMaxScalar.fit_transform(X)
  ------X:numpy array格式的数据[n_samples,n_features]
• 返回值：转换后的形状相同的array

2.4 数据计算

我们对以下数据进⾏运算，在dating.txt中。保存的就是之前的约会对象数据

milage,Liters,Consumtime,target
40920,8.326976,0.953952,3
14488,7.153469,1.673904,2
26052,1.441871,0.805124,1
75136,13.147394,0.428964,1
38344,1.669788,0.134296,1

1、实例化MinMaxScalar
2、通过fit_transform转换

import pandas as pd
from sklearn.preprocessing import MinMaxScaler,StandardScaler

def minmax_demo():
    '''
    归一化演示
    :return:
    '''
    data=pd.read_csv("./data/dating.txt")
   # print(data)
    # 1. 实例化
    transfer=MinMaxScaler(feature_range=(3,5))
    # 2. 进行转换，调用fit_transform
    ret_data=transfer.fit_transform(data[["milage","Liters","Consumtime"]])
    print("归一化处理后的结果\n",ret_data)

归一化的结果：

问题：如果数据中异常点较多，会有什么影响？

2.5 归⼀化总结

注意最⼤值最⼩值是变化的，另外，最⼤值与最⼩值⾮常容易受异常点影响，所以这种⽅法鲁棒性较差，只适合传统精 确⼩数据场景。

3 标准化

3.1 定义

通过对原始数据进⾏变换把数据变换到均值为0,标准差为1范围内

3.2 公式

作⽤于每⼀列，mean为平均值，σ为标准差

• 对于归⼀化来说：如果出现异常点，影响了最⼤值和最⼩值，那么结果显然会发⽣改变
• 对于标准化来说：如果出现异常点，由于具有⼀定数据量，少量的异常点对于平均值的影响并不⼤，从⽽⽅差改变 较⼩

3.3 API

sklearn.preprocessing.StandardScaler( )

• 处理之后每列来说所有数据都聚集在均值0附近标准差差为1
• StandardScaler.fit_transform(X)
  ----- X:numpy array格式的数据[n_samples,n_features]
• 返回值：转换后的形状相同的array

3.4 数据计算

同样对上⾯的数据进⾏处理
分析

1. 实例化StandardScaler
2. 通过fit_transform转换

import pandas as pd
from sklearn.preprocessing import MinMaxScaler,StandardScaler

def stand_demo():
    '''
    标准化演示
    :return:
    '''
    data=pd.read_csv("./data/dating.txt")
   # print(data)
    # 1. 实例化
    transfer=StandardScaler()
    # 2. 进行转换，调用fit_transform
    ret_data=transfer.fit_transform(data[["milage","Liters","Consumtime"]])
    print("标准化处理后的结果\n",ret_data)
    print("每一列的方差为：\n",transfer.var_)
    print("每一列的均值：\n",transfer.mean_)

3.5 标准化总结

在已有样本⾜够多的情况下⽐较稳定，适合现代嘈杂⼤数据场景。

4 总结