Python数据分析之使用scikit-learn构建模型

sklearn提供了model_selection模型选择模块、preprocessing数据预处理模块、decompisition特征分解模块，通过这三个模块能够实现数据的预处理和模型构建前的数据标准化、二值化、数据集的分割、交叉验证和PCA降维处理等工作。

sklearn库的datasets模块集成了部分数据分析的经典数据集，可以选用进行数据预处理、建模的操作。

常见的数据集加载函数（器）：

加载后的数据集可以看成是一个字典，几乎所有的sklearn数据集均可以使用data、target、feature_names、DESCR分别获取数据集的数据、标签、特征名称、描述信息。

以load_breast_cancer为例：

在数据分析的过程中，为了保证模型在实际系统中能够起到预期的作用，一般需要将样本分成独立的三部分：训练集（train set）、验证集（validation set）、测试集（test set）。
训练集—50%：用于估计模型
验证集—25%：用于确定网络结构或控制模型复杂程度的参数
测试集—25%：用于检验最优模型的性能

当数据总量较少的时候，使用上述方法划分就不合适。常用的方法是留少部分做测试集，然后对其余N个样本采用K折交叉验证法：
将样本打乱，并均匀分成K份，轮流选择其中K-1份做训练，剩余一份做检验，计算预测误差平方和，最后把K次的预测误差平方和的均值作为选择最优模型结构的依据。

该函数分别将传入的数据划分为训练集和测试集。如果传入的是一组数据，那么生成的就是这一组数据随机划分后的训练集和测试集，总共两组；如果传入的是两组数据，那么生成的训练集和测试集分别两组，总共四组。train_test_split方法仅是最常用的数据划分方法，在model_selection模块中还有其他的划分函数，例如PredefinedSplit、ShuffleSplit等。

sklearn将相关的功能封装为转换器，转换器主要包含有3个方法：fit、transform、fit_trainsform:

目前利用sklearn能够实现对传入的numpy数组进行标准化处理、归一化处理、、二值化处理和PCA降维处理。前面基于pandas库介绍的标准化处理在日常数据分析过程中，各类特征处理相关的操作都需要对训练集和测试集分开进行，需要将训练集中的操作规则、权重系数等应用到测试集中，利用pandas会使得过程繁琐，而sklearn转换器可以轻松实现。
除了上面展示的离差标准化函数MinMaxScaler外，还提供了一系列的数据预处理函数：

PCA降维处理：

聚类分析是在没有给定划分类别的情况下，根据数据相似度进行样本分组的一种方法。

聚类的输入是一组未被标记的样本，聚类根据数据自身的距离或相似度将它们划分为若干组，划分的原则是：组内距离最小化，组间距离最大化。

sklearn常用的聚类算法模块cluster提供的聚类算法：

聚类算法的实现需要sklearn估计器（Estimnator）,其拥有fit和predict两个方法：

以iris数据为例，使用sklearn估计器构建K-Means聚类模型：

聚类完成后可以通过sklearn的manifold模块中的TXNE函数实现多维数据的可视化展现。

聚类评价的标准是组内的对象相互之间是相似的，而不同组间的对象是不同的，即组内相似性越大，组间差别性越大，聚类效果越好。

注意：

1.前四种方法需要真实值的配合才能够评价聚类算法的优劣，更具有说服力，并且在实际操作中，有真实值参考下，聚类方法的评价可以等同于分类算法的评价。

2.除了轮廓系数评价法以外的评价方法，在不考虑业务场景的情况下都是分数越高越好，最高分为1，而轮廓系数评价法需要判断不同类别数目情况下的轮廓系数的走势，寻找最优的聚类数目。

FMI评价法

from sklearn.datasets import load_irisiris = load_iris() # 加载iris数据集iris_data = iris['data'] # 提取数据集特征 iris_target = iris['target'] # 提取数据集标签 from sklearn.metrics import fowlkes_mallows_score from sklearn.cluster import KMeans for i in range(2,7): # 构建并训练模型 kmeans = KMeans(n_clusters=i,random_state=123).fit(iris_data) score = fowlkes_mallows_score(iris_target,kmeans.labels_) print('iris数据聚%d类FMI评价分值为：%f'%(i,score)) iris数据聚2类FMI评价分值为：0.750473 iris数据聚3类FMI评价分值为：0.820808 iris数据聚4类FMI评价分值为：0.756593 iris数据聚5类FMI评价分值为：0.725483 iris数据聚6类FMI评价分值为：0.614345

通过结果可以看出来，当聚类为3时FMI评价分最高，所以当聚类3的时候，K-Means模型最好。

轮廓系数评价法

from sklearn.datasets import load_irisiris = load_iris() # 加载iris数据集iris_data = iris['data'] # 提取数据集特征 iris_target = iris['target'] # 提取数据集标签 from sklearn.metrics import silhouette_score from sklearn.cluster import KMeans import matplotlib.pyplot as plt silhouettteScore = [] for i in range(2,15): ##构建并训练模型 kmeans = KMeans(n_clusters = i,random_state=123).fit(iris_data) score = silhouette_score(iris_data,kmeans.labels_) silhouettteScore.append(score) plt.figure(figsize=(10,6)) plt.plot(range(2,15),silhouettteScore,linewidth=1.5, linestyle="-") plt.show()

从图形可以看出，聚类数目为2、3和5、6时平均畸变程度最大。由于iris数据本身就是3种鸢尾花的花瓣、花萼长度和宽度的数据，侧面说明了聚类数目为3的时候效果最佳。

Calinski_Harabasz指数评价法

from sklearn.datasets import load_irisiris = load_iris() # 加载iris数据集iris_data = iris['data'] # 提取数据集特征 iris_target = iris['target'] # 提取数据集标签 from sklearn.metrics import silhouette_score from sklearn.cluster import KMeans from sklearn.metrics import calinski_harabasz_score for i in range(2,7): ##构建并训练模型 kmeans = KMeans(n_clusters = i,random_state=123).fit(iris_data) score = calinski_harabasz_score(iris_data,kmeans.labels_) print('iris数据聚%d类calinski_harabaz指数为：%f'%(i,score)) iris数据聚2类calinski_harabaz指数为：513.924546 iris数据聚3类calinski_harabaz指数为：561.627757 iris数据聚4类calinski_harabaz指数为：530.765808 iris数据聚5类calinski_harabaz指数为：495.541488 iris数据聚6类calinski_harabaz指数为：469.836633

同样可以看出在聚类为3时，K-Means模型为最优。综合以上评价方法的使用，在有真实值参考时，几种方法都能有效的展示评估聚合模型；在没有真实值参考时，可以将轮廓系数评价与Calinski_Harabasz指数评价相结合使用。

分类是指构造一个分类模型，输入样本的特征值，输出对应类别，将每个样本映射到预先定义好的类别。分类模型是建立在自己已有类标记的数据集上，属于有监督学习。在实际应用场景中，分类算法被应用在行为分析、物品识别、图像检测等。

以breast_cancer数据集为例，使用sklearn估计器构建支持向量机（SVM）模型：

分类模型对测试集进行预测而得出的准确率并不能很好地反映模型的性能，为了有效判断一个预测模型的性能表现，需要结合真实值计算出精确率、召回率、F1值、Cohen’s Kappa系数等指标来衡量。

使用单一评价指标（Precision、Recall、F1值、Cohen’s Kappa系数）

from sklearn.metrics import accuracy_score,precision_score,recall_score,f1_score,cohen_kappa_scoreprint('使用SVM预测breast_cancer数据的准确率为：', accuracy_score(cancer_target_test,cancer_target_pred)) print('使用SVM预测breast_cancer数据的精确率为：', precision_score(cancer_target_test,cancer_target_pred)) print('使用SVM预测breast_cancer数据的召回率为：', recall_score(cancer_target_test,cancer_target_pred)) print('使用SVM预测breast_cancer数据的F1值为：', f1_score(cancer_target_test,cancer_target_pred)) print('使用SVM预测breast_cancer数据的Cohen’s Kappa系数为：', cohen_kappa_score(cancer_target_test,cancer_target_pred)) 使用SVM预测breast_cancer数据的准确率为： 0.9736842105263158 使用SVM预测breast_cancer数据的精确率为： 0.9594594594594594 使用SVM预测breast_cancer数据的召回率为： 1.0 使用SVM预测breast_cancer数据的F1值为：0.9793103448275862 使用SVM预测breast_cancer数据的Cohen’s Kappa系数为： 0.9432082364662903

sklearn模块除了提供了Precision等单一评价指标外，还提供了一个能够输出分类模型评价报告的函数classification_report：​​ ​​​python sklearn.metrics.classification_report(y_true, y_pred, *, labels=None, target_names=None, sample_weight=None, digits=2, output_dict=False, zero_division='warn')​​

print('使用SVM预测iris数据的分类报告为：\n', classification_report(cancer_target_test,cancer_target_pred))#使用SVM预测iris数据的分类报告为： precision recall f1-score support 0 1.00 0.93 0.96 43 1 0.96 1.00 0.98 71 accuracy 0.97 114 macro avg 0.98 0.97 0.97 114 weighted avg 0.97 0.97 0.97 114

绘制ROC曲线

from sklearn.metrics import roc_curve import matplotlib.pyplot as plt## 求出ROC曲线的x轴和y轴 fpr, tpr, thresholds = roc_curve(cancer_target_test,cancer_target_pred) # 设置画布 plt.figure(figsize=(10,6)) plt.xlim(0,1) ##设定x轴的范围 plt.ylim(0.0,1.1) ## 设定y轴的范围 plt.xlabel('FalsePostive Rate') plt.ylabel('True Postive Rate') x = [0,0.2,0.4,0.6,0.8,1] y = [0,0.2,0.4,0.6,0.8,1] # 绘图 plt.plot(x,y,linestyle='-.',color='green') plt.plot(fpr,tpr,linewidth=2, linestyle="-",color='red') # 展示 plt.show()

ROC曲线横纵坐标范围是[0,1],通常情况下，ROC曲线与x轴形成的面积越大，表示模型性能越好。当ROC曲线如虚线所示时，表明模型的计算结果基本都是随机得来的，此时模型起到的作用几乎为0.

回归算法的实现过程与分类算法相似，原理相差不大。分类和回归的主要区别在于，分类算法的标签是离散的，但是回归算法的标签是连续的。回归算法在交通、物流、社交、网络等领域发挥作用巨大。

在回归模型中，自变量和因变量具有相关关系，自变量的值是已知的，因变量的值是要预测的。回归算法的实现步骤和分类算法基本相同，分为学习和预测两个步骤。
学习：通过训练样本来拟合回归方程
预测：利用学习过程中拟合出的方程，将测试数据放入方程中求出预测值。

回归结果可视化

回归模型的性能评价不同于分类模型，虽然都是对照真实值进行评价，但是由于回归模型的预测结果和真实值都是连续地，所以不能够用之前的精确率、召回率、F1值进行评价。

使用explained_variance_score, mean_absolute_error, mean_squared_error, r2_score, median_absolute_error进行回归评价

from sklearn.metrics import explained_variance_score,mean_absolute_error,mean_squared_error,\median_absolute_error,r2_score print('Boston数据线性回归模型的平均绝对误差为：', mean_absolute_error(y_test,y_pred)) print('Boston数据线性回归模型的均方误差为：', mean_squared_error(y_test,y_pred)) print('Boston数据线性回归模型的中值绝对误差为：', median_absolute_error(y_test,y_pred)) print('Boston数据线性回归模型的可解释方差值为：', explained_variance_score(y_test,y_pred)) print('Boston数据线性回归模型的R方值为：', r2_score(y_test,y_pred)) #Boston数据线性回归模型的平均绝对误差为： 3.3775517360082032 #Boston数据线性回归模型的均方误差为： 31.15051739031563 #Boston数据线性回归模型的中值绝对误差为： 1.7788996425420773 #Boston数据线性回归模型的可解释方差值为： 0.710547565009666 #Boston数据线性回归模型的R方值为： 0.7068961686076838

到此这篇关于Python数据分析之使用scikit-learn构建模型的文章就介绍到这了,更多相关Python  scikit-learn构建模型内容请搜索易知道(ezd.cc)以前的文章或继续浏览下面的相关文章希望大家以后多多支持易知道(ezd.cc)！