Python通过四大 AutoEDA 工具包快速产出完美数据报告

 更新时间:2021年11月03日 16:25:53   作者:Python学习与数据挖掘  
在三年前,我们做数据竞赛或者数据建模类的项目时,前期我们会耗费较多的时间去分析数据,但现在非常多擅长数据分析的大师们已经将我们平时常看的数据方式进行了集成,开发了很多AutoEDA的工具包。可以帮助我们节省大量时间

AutoEDA工具包对于刚刚学习数据分析的小伙伴可以带来非常大的帮助。

本篇文章我们介绍目前最流行的四大AutoEDA工具包。

  • D-tale
  • Pandas-Profiling
  • Sweetviz
  • AutoViz

这几个工具包可以以短短三五行代码帮新手节省将近一天时间去写代码分析,非常建议大家收藏学习,喜欢点赞支持,文末提供技术交流群,尽情畅聊。

介绍

01 D-Tale

图片

D-Tale是Flask后端和React前端组合的产物,也是一个开源的Python自动可视化库,可以为我们提供查看和分析Pandas DataFrame的方法,帮助我们获得非常数据的详细EDA。

目前D-Tale支持DataFrame、Series、MultiIndex、DatetimeIndex 和 RangeIndex 等 Pandas 对象。

Github 链接

https://github.com/man-group/dtale

# pip install dtale
import dtale
import pandas as pd
df = pd.read_csv('./data/titanic.csv')
d = dtale.show(df)
d.open_browser()

图片

02 Pandas-Profiling

图片

Pandas-Profiling可以对Pandas DataFrame生成report报告。其中:

  • pandas_profiling的df.profile_report()扩展了pandas DataFrame以方便进行快速数据分析。

Pandas-Profiling对于每一列特征,特征的统计信息(如果与列类型相关)会显示在交互式 HTML的report中:

  • Type:检测数据列类型;
  • Essentials:类型、unique值、缺失值
  • 分位数统计,如最小值、Q1、中位数、Q3、最大值、范围、四分位距
  • 描述性统计数据,如均值、众数、标准差、总和、中值绝对偏差、变异系数、峰态、偏度
  • 出现最多的值
  • 直方图
  • 高度相关变量、Spearman、Pearson 和 Kendall 矩阵的相关性突出显示
  • 缺失值矩阵、计数、热图和缺失值树状图

Github 链接

https://github.com/pandas-profiling/pandas-profiling/

from pandas_profiling import ProfileReport
profile = ProfileReport(df, title="Pandas Profiling Report")
profile

2021-10-30 22:50:43,584 - INFO - Pandas backend loaded 1.2.5
2021-10-30 22:50:43,597 - INFO - Numpy backend loaded 1.19.2
2021-10-30 22:50:43,599 - INFO - Pyspark backend NOT loaded
2021-10-30 22:50:43,600 - INFO - Python backend loaded

一个特征的案例

图片

03 Sweetviz

图片

Sweetviz也是一个开源Python库,Sweetviz可以用简短几行代码生成美观、高密度的可视化文件,只需两行代码即可开启探索性数据分析并输出一个完全独立的 HTML 应用程序。Sweetviz主要包含下面的分析:

  • 数据集概述
  • 变量属性
  • 类别的关联性
  • 数值关联性
  • 数值特征最频繁值、最小、最大值

Github 链接

https://github.com/fbdesignpro/sweetviz

# pip install sweetviz
import sweetviz as sv 
sweetviz_report = sv.analyze(df)
sweetviz_report.show_html() 

04 AutoViz

图片

AutoViz可以使用一行自动显示任何数据集。给出任何输入文件(CSV、txt或json),AutoViz都可以对其进行可视化。AutoViz的结果会以非常多的图片都形式存在文件夹下方。

Github 链接

https://github.com/AutoViML/AutoViz

# pip install autoviz
from autoviz.AutoViz_Class import AutoViz_Class
AV = AutoViz_Class()

sep = ';'
dft = AV.AutoViz(filename="",sep=sep, depVar='Pclass', dfte=df, header=0, verbose=2, 
                 lowess=False, chart_format='png', max_rows_analyzed=150000, max_cols_analyzed=30)

诸多文件全都在当前文件夹下方

图片

我们打开其中一个效果如下:

图片

适用问题

适用于所有的数据分析问题。

技术交流

欢迎转载、收藏、有所收获点赞支持一下!

在这里插入图片描述

到此这篇关于Python通过四大 AutoEDA 工具包快速产出完美数据报告的文章就介绍到这了,更多相关Python AutoEDA工具包内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Python实现的可可爱爱的小粽子详解

    Python实现的可可爱爱的小粽子详解

    我突发奇想做一个关于粽子的小游戏,基本原理:操控粽子吃掉爱心,即可增加分数,经过朋友game多测尝试最终完成小游戏
    2022-06-06
  • python切片复制列表的知识点详解

    python切片复制列表的知识点详解

    在本篇文章里小编给大家整理的是一篇关于python切片复制列表的知识点相关内容,有兴趣的朋友们可以跟着学习下。
    2021-10-10
  • Python为什么要保留显式的self

    Python为什么要保留显式的self

    本文主要介绍了Python为什么要保留显式的self,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-06-06
  • 使用Python的pygame库实现下雪效果的示例代码

    使用Python的pygame库实现下雪效果的示例代码

    这篇文章给大家介绍了如何使用Python的pygame库实现下雪的效果,文中通过代码示例介绍的非常详细,对大家的学习或工作有一定的的帮助,需要的朋友可以参考下
    2024-01-01
  • Python实现对大量表格文件数据处理的方法详解

    Python实现对大量表格文件数据处理的方法详解

    这篇文章主要为大家介绍了如何基于Python语言实现对大量表格文件加以数据截取、逐行求差、跨文件合并等处理,感兴趣的小伙伴可以跟随小编一起学习一下
    2023-05-05
  • Python词频统计的两种方法详解

    Python词频统计的两种方法详解

    这篇文章主要为大家介绍了Python词频统计,具有一定的参考价值,感兴趣的小伙伴们可以参考一下,希望能够给你带来帮助
    2021-12-12
  • Python 多进程原理及实现

    Python 多进程原理及实现

    这篇文章主要介绍了Python 多进程原理及实现,帮助大家更好的理解和使用python,感兴趣的朋友可以了解下
    2020-12-12
  • 详解Python的三种拷贝方式

    详解Python的三种拷贝方式

    Python中有三种拷贝方式分别是浅拷贝、深拷贝和赋值拷贝,这篇文章通过实例代码给大家介绍了Python的三种拷贝方式,需要的朋友可以参考下
    2020-02-02
  • 详解Python中的format格式化函数的使用方法

    详解Python中的format格式化函数的使用方法

    这篇文章主要介绍了详解Python中的format格式化函数的使用方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-11-11
  • OpenCV灰度化之后图片为绿色的解决

    OpenCV灰度化之后图片为绿色的解决

    这篇文章主要介绍了OpenCV灰度化之后图片为绿色的解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-12-12

最新评论