脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → python使用pandas实现数据分割

python使用pandas实现数据分割实例代码

 更新时间：2018年01月25日 09:48:36   作者：llwang_10  
这篇文章主要介绍了python使用pandas实现数据分割实例代码，介绍了使用pandas实现对dataframe格式的数据分割成时间跨度相等的数据块，分享了相关代码示例，小编觉得还是挺不错的，具有一定借鉴价值，需要的朋友可以参考下

本文研究的主要是Python编程通过pandas将数据分割成时间跨度相等的数据块的相关内容，具体如下。

先上数据，有如下dataframe格式的数据，列名分别为date、ip，我需要统计每5s内出现的ip，以及这些ip出现的频数。

 ip   date
0 127.0.0.21 15/Jul/2017:18:22:16
1 127.0.0.13 15/Jul/2017:18:22:16
2 127.0.0.11 15/Jul/2017:18:22:17
3 127.0.0.11 15/Jul/2017:18:22:20
4 127.0.0.21 15/Jul/2017:18:22:21
5 127.0.0.13 15/Jul/2017:18:22:22
6 127.0.0.14 15/Jul/2017:18:26:36
7 127.0.0.16 15/Jul/2017:18:32:15
8 127.0.0.11 15/Jul/2017:18:36:03

在网上找了很久但是没看到python的相关答案，但在stackoverflow找到了R语言的解法，有兴趣可以看看。

受它的启发，我用不太优雅的方式实现了我的需求，有更好解决方法的请不吝赐教：

step1: 将数据中日期格式变为标准格式

#date_ip为我的dataframe数据
date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')

step2: 将数据的开始时间、结束时间，按5s分割（由于时间段可能不是恰好是5s的倍数，为避免最后一个时间丢失，因此在最后加上5s）

frequency = 5
time_range = pd.date_range(date_ip['date'][0],
    date_ip['date'][date_ip.shape[0]-1]
    +frequency*Second(), freq='%sS'%frequency)

step3: 将date变为索引

date_ip = date_ip.set_index('date')

step4: 对每个时间段内的数据进行频数计算（由于通过标签切片时会包含头、尾数据，为避免重复计算，因此在尾部减1s）

for i in xrange(0,len(time_range)-1):
 print get_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])

完整的代码

import pandas as pd
from pandas.tseries.offsets import Second
def get_frequency(date_ip):
 ip_frequency = {}
 for i in xrange(0,date_ip.shape[0]):
 ip_frequency[date_ip['ip'][i]] = ip_frequency.get(date_ip['ip'][i], 0) + 1
 return ip_frequency,date_ip.shape[0]

if __name__ == '__main__': 
 date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')

 frequency = 5
 time_range = pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1]
    +frequency*Second(), freq='%sS'%frequency) 
 date_ip = date_ip.set_index('date')
 for i in xrange(0, len(time_range) - 1):
 print get_frequency(date_ip.loc[time_range[i]:time_range[i + 1]-1*Second()])

文章开头数据运行结果：

({'127.0.0.21' : 1, '127.0.0.13' : 1, '127.0.0.11' : 2}, 4)
({'127.0.0.21': 1, '127.0.0.13': 1}, 2)
({'127.0.0.14': 1}, 1)
({'127.0.0.16': 1}, 1)
({'127.0.0.11': 1}, 1)

总结

以上就是本文关于python使用pandas实现数据分割实例代码的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题，如有不足之处，欢迎留言指出。感谢朋友们对本站的支持！

您可能感兴趣的文章:

相关文章

  • Python实现的Kmeans++算法实例

    Python实现的Kmeans++算法实例

    这篇文章主要介绍了Kmeans和kmeans++算法,讲解了Kmeans算法的缺点和kmeans++算法的实现思路,以及Python和matlab中实现的Kmeans++算法,需要的朋友可以参考下
    2014-04-04
  • Python基于正则表达式实现检查文件内容的方法【文件检索】

    Python基于正则表达式实现检查文件内容的方法【文件检索】

    这篇文章主要介绍了Python基于正则表达式实现检查文件内容的方法,可实现针对文件中import强制依赖的文件关系检索,涉及Python文件目录的遍历及正则匹配相关操作技巧,需要的朋友可以参考下
    2017-08-08
  • python实现的发邮件功能示例

    python实现的发邮件功能示例

    这篇文章主要介绍了python实现的发邮件功能,结合实例形式分析了Python使用网易邮箱发送邮件的相关操作技巧,需要的朋友可以参考下
    2019-09-09
  • 使用tkinter实现三子棋游戏

    使用tkinter实现三子棋游戏

    这篇文章主要为大家详细介绍了使用tkinter实现三子棋游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2021-02-02
  • python-docx如何缩进两个字符

    python-docx如何缩进两个字符

    笔者遇到这样的需求要求正文内容每段首行顶两格，也就是向右缩进两个字符，怎么操作呢？下面小编给大家带来了python-docx的缩进问题——如何缩进两个字符,需要的朋友可以参考下
    2022-11-11
  • 初次部署django+gunicorn+nginx的方法步骤

    初次部署django+gunicorn+nginx的方法步骤

    这篇文章主要介绍了初次部署django+gunicorn+nginx的方法步骤，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-09-09
  • Python基于爬虫实现全网搜索并下载音乐

    Python基于爬虫实现全网搜索并下载音乐

    这篇文章主要介绍了Python基于爬虫实现全网搜索并下载音乐的方法，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下
    2021-02-02
  • python如何将两个txt文件内容合并

    python如何将两个txt文件内容合并

    这篇文章主要为大家详细介绍了python如何将两个txt文件内容合并，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2019-10-10
  • 基于pytorch实现运动鞋品牌识别功能

    基于pytorch实现运动鞋品牌识别功能

    这篇文章主要给大家介绍了关于如何基于pytorch实现运动鞋品牌识别功能,文中通过图文以及实例代码介绍的非常详细,对大家学习或者使用PyTorch具有一定的参考学习价值,需要的朋友可以参考下
    2024-02-02
  • Python3.5运算符操作实例详解

    Python3.5运算符操作实例详解

    这篇文章主要介绍了Python3.5运算符操作,结合实例形式详细分析了Python3.5各种运算符与常见使用技巧,需要的朋友可以参考下
    2019-04-04

最新评论