Python DataFrame实现固定周期内统计每列的非零值

 更新时间:2024年09月12日 07:37:09   作者:南洲.  
在数据处理中,使用DataFrame统计固定周期内每列的非零值数量是一种常见需求,通过将数据分组并使用计数函数,可以方便地实现此目标,具体方法包括首先计算每列的0值个数,然后通过总数减去0值个数得到非零值的数量

DataFrame实现固定周期内统计每列的非零值

1、概述

最近做一个数值统计,统计固定周期内(比如100行统一次)每列的非零值,实现不难,先统计0值个数,再计算非零值个数,主要是有些关于dataframe的操作技巧可以作为以后的参考。

data.csv文件数据示例格式如下:

想要得到的结果为:

2、代码

import pandas as pd

def non_zeros_count(df):
    s = 0
    calc_interval = 5   # 统计周期数
    new_columns = []
    for i in range(len(df.columns)):
        new_columns.append(df.columns[i]+'_non_zero_count') # 重新组织列名
    non_zeros_count = pd.DataFrame(columns=df.columns[1:])  # 新建dataframe 储存最后统计结果(没有计算第一列“时间”)

    # 对所有数据按照每 “calc_interval” 计算每个字段中的非0个数
    while s + calc_interval <= df.shape[0]:
        data_piece = df.iloc[s:s + calc_interval, 1:]
        count_zero = data_piece.apply(lambda x: x.value_counts().get(0.0, 0.0))  # 0值个数
        # np.count_nonzero(data_piece,axis = 0)   #这种方法也可以得到,但是得到的是类型是ndarray
        non_zeros = calc_interval - count_zero  # 非零值个数(每列计算周期内的总数-每列的0值数)
        non_zeros_to_frame = non_zeros.to_frame()  # series转dataframe
        non_zeros_transp = pd.DataFrame(non_zeros_to_frame.values.T,
                                        index=non_zeros_to_frame.columns,
                                        columns=non_zeros_to_frame.index)  # 取转置
        non_zeros_count = pd.concat([non_zeros_count, non_zeros_transp])  # 数据合并
        s = s + calc_interval

    non_zeros_count.index = [i for i in range(non_zeros_count.shape[0])]
    # non_zeros_count.values.reshape(30,24) # dataframe
    non_zeros_count.columns = new_columns[1:] # 重新修改列名
    non_zeros_count.to_csv('./non_zeros_count.csv',encoding= 'utf-8')

if __name__=='__main__':

    sv_data = pd.read_csv('data.csv',encoding='utf-8')
    non_zeros_count(sv_data)

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Python GUI学习之登录系统界面篇

    Python GUI学习之登录系统界面篇

    这篇文章主要介绍了Python GUI学习之登录系统界面篇,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-08-08
  • python实现朴素贝叶斯分类器

    python实现朴素贝叶斯分类器

    这篇文章主要为大家详细介绍了python实现朴素贝叶斯分类器,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-03-03
  • 对Tensorflow中Device实例的生成和管理详解

    对Tensorflow中Device实例的生成和管理详解

    今天小编就为大家分享一篇对Tensorflow中Device实例的生成和管理详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • python创建列表和向列表添加元素的实现方法

    python创建列表和向列表添加元素的实现方法

    下面小编就为大家分享一篇python创建列表和向列表添加元素的实现方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2017-12-12
  • python中的取反操作符(~)

    python中的取反操作符(~)

    这篇文章主要介绍了python中的取反操作符(~),具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-03-03
  • Python 中使用 argparse 解析命令行参数

    Python 中使用 argparse 解析命令行参数

    这篇文章主要介绍了Python 中使用 argparse 解析命令行参数,argparse 模块是一个强大的命令行参数解析器,还有很多功能没能在这里介绍。下面文化在哪个详细介绍该内容,需要的朋友可以参考一下
    2021-11-11
  • Python如何使用PIL Image制作GIF图片

    Python如何使用PIL Image制作GIF图片

    这篇文章主要介绍了Python如何使用PIL Image制作GIF图片,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-05-05
  • 深入学习python的yield和generator

    深入学习python的yield和generator

    这篇文章主要为大家详细介绍了python的yield和generator,针对python的生成器和yield关键字进行深入学习,感兴趣的小伙伴们可以参考一下
    2016-03-03
  • Pytorch:Conv2d卷积前后尺寸详解

    Pytorch:Conv2d卷积前后尺寸详解

    这篇文章主要介绍了Pytorch:Conv2d卷积前后尺寸,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-02-02
  • python使用super()出现错误解决办法

    python使用super()出现错误解决办法

    这篇文章主要介绍了python使用super()出现错误解决办法的相关资料,对于TypeError: must be type, not classobj的错误进行处理,需要的朋友可以参考下
    2017-08-08

最新评论