python使用dabl几行代码实现数据处理分析及ML自动化

 更新时间:2021年11月22日 10:48:06   作者:Python学习与数据挖掘  
这篇文章主要为大家分享一个名为 dabl 的开源 Python 工具包,它可以自动化机器学习模型开发,包括数据预处理、特征可视化和分析、建模

数据科学模型开发涉及各种组件,包括数据收集、数据处理、探索性数据分析、建模和部署。在训练机器学习或深度学习模型之前,必须清洗数据集并使其适合训练。通常这些过程是重复的,且占用了大部时间。

为了克服这个问题,今天我分享一个名为 dabl 的开源 Python 工具包,它可以自动化机器学习模型开发,包括数据预处理、特征可视化和分析、建模。欢迎收藏学习,喜欢点赞支持。

dabl

dabl 是一个数据分析基线库,可以让机器学习建模更容易,它包括各种特性,我们只需几行 Python 代码就可以处理、分析和建模。

安装

pip install dabl

1、数据预处理

dabl 在几行 Python 代码中自动执行数据预处理管道。dabl执行的预处理步骤包括识别缺失值、删除冗余特征以及理解特征的数据类型以进一步执行特征工程。

dabl检测到的特征类型列表包括:

continuous

categorical

date

Dirty_float

Low_card_int

free_string

Useless

dabl 使用一行 Python 代码将所有数据集特征自动归类为上述数据类型。

df_clean = dabl.clean(df, verbose=1)

原始 Titanic 数据集有12个特征,dabl 会自动将它们分类为上述数据类型,以便进行进一步的特征工程。dabl还提供了根据需求更改任何特性的数据类型的功能。

db_clean = dabl.clean(db, type_hints={"Cabin": "categorical"})

可以使用 detect_types() 函数查看为每个特征分配的数据类型。

2、探索性数据分析

EDA 是数据科学模型开发生命周期的重要组成部分。Seaborn、Matplotlib 等是执行各种分析以更好地理解数据集的可视化库。dabl 使 EDA 变得非常简单且节省大量时间。

dabl.plot(df_clean, target_col="Survived")

dabl 中 plot()函数可以通过绘制各种图来实现可视化,包括:

  • 目标分布的条形图
  • 散点对图
  • 线性判别分析

dabl 自动对数据集执行 PCA,并显示数据集中所有特征的判别 PCA 图。

3、建模

dabl 在训练数据上训练各种基线机器学习算法来加速建模工作流程,并返回性能最佳的模型。dabl 做出简单的假设并为基线模型生成指标。

可以使用 dabl 中 SimpleClassifier() 函数进行建模,它很快就可以返回最佳模型。

结论

Dabl 是一个方便的工具,它使机器学习更易于容易和快速,你只需几行 Python 代码就可以完成数据清理、特征可视化和基线模型的开发。

如果你想了解更多,可以查看GitHub:  https://github.com/amueller/dabl

以上就是python使用dabl几行代码实现数据处理分析及ML自动化的详细内容,更多关于dabl数据处理分析及ML自动化的资料请关注脚本之家其它相关文章!

相关文章

  • 解决python 读取excel时 日期变成数字并加.0的问题

    解决python 读取excel时 日期变成数字并加.0的问题

    这篇文章主要介绍了python 读取excel时, 日期变成数字并加.0的问题,本文给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-10-10
  • Windows下Anaconda下载安装与配置教程分享

    Windows下Anaconda下载安装与配置教程分享

    这篇文章主要介绍了Windows下Anaconda下载安装与配置教程,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-12-12
  • Python中文纠错的简单实现

    Python中文纠错的简单实现

    这篇文章主要是用 Python 实现了简单的中文分词的同音字纠错,目前的案例中只允许错一个字,感兴趣的小伙伴们可以参考一下
    2021-07-07
  • python 3.6.2 安装配置方法图文教程

    python 3.6.2 安装配置方法图文教程

    这篇文章主要为大家详细介绍了python 3.6.2 安装配置方法图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-09-09
  • Python中尝试多线程编程的一个简明例子

    Python中尝试多线程编程的一个简明例子

    这篇文章主要介绍了Python中尝试多线程编程的一个简明例子,由于GIL的存在,Python中的多线程编程一个是热点和难点问题,需要的朋友可以参考下
    2015-04-04
  • Python实现树莓派摄像头持续录像并传送到主机的步骤

    Python实现树莓派摄像头持续录像并传送到主机的步骤

    这篇文章主要介绍了Python实现树莓派摄像头持续录像并传送到主机的步骤,帮助大家更好的理解和学习python,感兴趣的朋友可以了解下
    2020-11-11
  • python多进程和多线程究竟谁更快(详解)

    python多进程和多线程究竟谁更快(详解)

    下面小编就为大家带来一篇python多进程和多线程究竟谁更快(详解)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-05-05
  • Python3实时操作处理日志文件的实现

    Python3实时操作处理日志文件的实现

    本文主要介绍了Python3实时操作处理日志文件的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-03-03
  • python爬虫之模拟登陆csdn的实例代码

    python爬虫之模拟登陆csdn的实例代码

    今天小编就为大家分享一篇python爬虫之模拟登陆csdn的实例代码,具有很好的参考价值希望对大家有所帮助。一起跟随小编过来看看吧
    2018-05-05
  • TensorFlow低版本代码自动升级为1.0版本

    TensorFlow低版本代码自动升级为1.0版本

    这篇文章主要介绍了TensorFlow低版本代码自动升级为1.0版本,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-02-02

最新评论