对python中数据集划分函数StratifiedShuffleSplit的使用详解
文章开始先讲下交叉验证，这个概念同样适用于这个划分函数
1.交叉验证(Cross-validation)
交叉验证是指在给定的建模样本中，拿出其中的大部分样本进行模型训练，生成模型，留小部分样本用刚建立的模型进行预测，并求这小部分样本的预测误差，记录它们的平方加和。这个过程一直进行，直到所有的样本都被预测了一次而且仅被预测一次，比较每组的预测误差，选取误差最小的那一组作为训练模型。
下图所示
2.StratifiedShuffleSplit函数的使用
用法：
from sklearn.model_selection import StratifiedShuffleSplit StratifiedShuffleSplit(n_splits=10,test_size=None,train_size=None, random_state=None)
2.1 参数说明
参数 n_splits是将训练数据分成train/test对的组数，可根据需要进行设置，默认为10
参数test_size和train_size是用来设置train/test对中train和test所占的比例。例如：
1.提供10个数据num进行训练和测试集划分
2.设置train_size=0.8 test_size=0.2
3.train_num=num*train_size=8 test_num=num*test_size=2
4.即10个数据，进行划分以后8个是训练数据，2个是测试数据
注*：train_num≥2，test_num≥2 ;test_size+train_size可以小于1*
参数 random_state控制是将样本随机打乱
2.2 函数作用描述
1.其产生指定数量的独立的train/test数据集划分数据集划分成n组。
2.首先将样本随机打乱，然后根据设置参数划分出train/test对。
3.其创建的每一组划分将保证每组类比比例相同。即第一组训练数据类别比例为2:1，则后面每组类别都满足这个比例
2.3 具体实现
from sklearn.model_selection import StratifiedShuffleSplit
import numpy as np
X = np.array([[1, 2], [3, 4], [1, 2], [3, 4],
[1, 2],[3, 4], [1, 2], [3, 4]])#训练数据集8*2
y = np.array([0, 0, 1, 1,0,0,1,1])#类别数据集8*1
ss=StratifiedShuffleSplit(n_splits=5,test_size=0.25,train_size=0.75,random_state=0)#分成5组，测试比例为0.25，训练比例是0.75
for train_index, test_index in ss.split(X, y):
print("TRAIN:", train_index, "TEST:", test_index)#获得索引值
X_train, X_test = X[train_index], X[test_index]#训练集对应的值
y_train, y_test = y[train_index], y[test_index]#类别集对应的值
运行结果：
从结果看出，1.训练集是6个，测试集是2，与设置的所对应；2.五组中每组对应的类别比例相同
以上这篇对python中数据集划分函数StratifiedShuffleSplit的使用详解就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
详解python opencv、scikit-image和PIL图像处理库比较
这篇文章主要介绍了详解python opencv、scikit-image和PIL图像处理库比较，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-12-12
这篇文章主要介绍了如何使用repr调试python程序,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了分享Python中四个不常见的小技巧，文章围绕主题展开详细的内容介绍，具有一定的参考价值，需要的小伙伴可以参考一下2022-08-08
python geopandas读取、创建shapefile文件的方法
shapefile是GIS中非常重要的一种数据类型，在ArcGIS中被称为要素类(Feature Class)，主要包括点(point)、线(polyline)和多边形(polygon)，本文重点给大家介绍python geopandas读取、创建shapefile文件的方法，需要的朋友参考下吧2021-06-06
这篇文章主要介绍了我们为什么要减少Python中循环的使用，我将阐述 Python 提供的一些简单但是非常有用的结构，一些小技巧以及一些我在数据科学工作中遇到的案例。我将讨论 Python 中的 for 循环，以及如何尽量避免使用它们,需要的朋友可以参考下2019-07-07
Joblib是用于高效并行计算的Python开源库,其提供了简单易用的内存映射和并行计算的工具,以将任务分发到多个工作进程中,这篇文章主要介绍了Python并行计算库Joblib使用指北,需要的朋友可以参考下2024-08-08
周末小闲在家研究了下django的 cookie 和 session，所以下面这篇文章主要给大家深入地介绍了关于Django中Session与Cookie的相关资料，文中通过示例代码介绍的非常详细，需要的朋友们下面跟着小编来一起看看吧。2017-07-07
这篇文章主要介绍了python 中的9个实用技巧，帮助大家提高python开发时的效率，感兴趣的朋友可以了解下2020-08-08
在 Python 中,有多种方法可以实现数据合并,无论是合并列表、合并字典、合并字符串、合并CSV文件还是合并多个文件夹中的文件,都可以使用简单而强大的Python技巧来实现,通过合并数据,可以更方便地进行数据处理和分析2024-03-03
我们都知道，正则表达式可以很方便地对字符串进行匹配、查找、分割等操作，下面这篇文章主要给大家介绍了关于python中如何使用正则表达式的集合字符的相关资料，文中通过实例代码介绍的非常详细，需要的朋友可以参考下。2017-10-10
最新评论