Pandas数据填充的具体实现
更新时间：2024年07月26日 10:00:43 作者：量化回测和PA交易
在数据分析与预处理过程中,脏数据几乎不可避免,本文主要介绍了Pandas数据填充的具体实现,也称为缺失值处理,使数据清洗工作更加高效,感兴趣的可以了解一下
前言
在数据分析与预处理过程中，脏数据几乎不可避免，这直接影响到后续分析的准确性和可靠性。清洗数据中最常见的就是处理空值。Pandas DF的数据填充功能非常强大。本文介绍Pandas中常用的几种数据填充（也称为缺失值处理）方法，使数据清洗工作更加高效。
填充
fillna()是Pandas中最基础也是最灵活的填充缺失值方法。它允许你用特定的值、Series、DataFrame或前一个/后一个非空值来填充缺失值（NaN）。
常数填充
In [1]: import pandas as pd
In [2]: import numpy as np
In [3]: data = {'A': [1, 2, np.nan], 'B': [5, np.nan, np.nan], 'C': [1, 2, 3]}
In [4]: df = pd.DataFrame(data)
In [5]: df
Out[5]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 NaN NaN 3
In [6]: df.fillna(0)
Out[6]:
A B C
0 1.0 5.0 1
1 2.0 0.0 2
2 0.0 0.0 3Series填充
可以使用一个Series对不同列使用不同的值进行填充, 具体如下:
fill_values = pd.Series([10, 20, 30], index=['A', 'B', 'C'])
In [12]: df
Out[12]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 NaN NaN 3
In [13]: df.fillna(fill_values)
Out[13]:
A B C
0 1.0 5.0 1
1 2.0 20.0 2
2 10.0 20.0 3附近值填充
前向填充: 使用上一行的值
In [18]: df
Out[18]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 NaN NaN 3
In [19]: df.ffill()
Out[19]:
A B C
0 1.0 5.0 1
1 2.0 5.0 2
2 2.0 5.0 3后向填充: 使用后一行的值
In [22]: data = {'A': [1, 2, np.nan], 'B': [5, np.nan, 88], 'C': [1, 2, 3]}
In [23]: df = pd.DataFrame(data)
In [24]: df
Out[24]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 NaN 88.0 3
In [25]: df.bfill()
Out[25]:
A B C
0 1.0 5.0 1
1 2.0 88.0 2
2 NaN 88.0 3同一行中指定列值进行填充
In [28]: df
Out[28]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 NaN 88.0 3
In [29]: df['A']=df.apply(lambda row: row['C'] if pd.isnull(row['A']) else row['A'], axis=1)
In [30]: df
Out[30]:
A B C
0 1.0 5.0 1
1 2.0 NaN 2
2 3.0 88.0 3
插值
插值法是一个非常有用的功能，通过插值进行填充可以保证一些时序数值相对合理和连续。这特别能够避免一些因为数据丢失原因产生的跳空出现。
线性插值
In [2]: data = {'A': [1, 2, np.nan, 4], 'B': [np.nan, 5, np.nan, 8]}
In [3]: df = pd.DataFrame(data)
In [4]: df
Out[4]:
A B
0 1.0 NaN
1 2.0 5.0
2 NaN NaN
3 4.0 8.0
In [5]: df.interpolate()
Out[5]:
A B
0 1.0 NaN
1 2.0 5.0
2 3.0 6.5
3 4.0 8.0时间序列插值
当df使用datetime作为索引时，支持基于时间的插值，如下代码给出了示例：
In [11]: date_index = pd.date_range(start='2024-06-25', periods=7, freq='D')
In [12]: dates_to_remove = pd.to_datetime(['2024-06-26', '2024-06-30'])
In [13]: date_index = date_index[~date_index.isin(dates_to_remove)]
In [14]: date_index
Out[14]:
DatetimeIndex(['2024-06-25', '2024-06-27', '2024-06-28', '2024-06-29',
'2024-07-01'],
dtype='datetime64[ns]', freq=None)
In [15]: data_ts = {'Value': [1, 2, np.nan, np.nan, 8]}
In [16]: pd.DataFrame(data_ts, index=date_index)
Out[16]:
Value
2024-06-25 1.0
2024-06-27 2.0
2024-06-28 NaN
2024-06-29 NaN
2024-07-01 8.0
# 对比普通线性插值和时间序列插值
In [17]: pd.DataFrame(data_ts, index=date_index).interpolate()
Out[17]:
Value
2024-06-25 1.0
2024-06-27 2.0
2024-06-28 4.0
2024-06-29 6.0
2024-07-01 8.0
In [18]: pd.DataFrame(data_ts, index=date_index).interpolate(method='time')
Out[18]:
Value
2024-06-25 1.0
2024-06-27 2.0
2024-06-28 3.5
2024-06-29 5.0
2024-07-01 8.0Pandas的插值函数基于scipy.interpolate.interp1d — SciPy v1.13.1 Manual, 同时也支持SciPy的几个‘zero’, ‘slinear’, ‘quadratic’, ‘cubic’, ‘barycentric’, ‘polynomial等不同的插值类型。具体不同插值类型可以在遇到需要的时候，深入阅读文档研究，本文不在重复赘述。
到此这篇关于Pandas数据填充的具体实现的文章就介绍到这了,更多相关Pandas数据填充内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
Python要求字符串必须使用引号括起来,使用单引号也行,使用双引号也行,只要两边的引号能配对即可,这篇文章主要给大家介绍了关于Python中字符串的基本使用,需要的朋友可以参考下2021-12-12
pymeter 是一个 Python 库,它可以以编程方式创建和运行 JMeter 测试计划,下面就跟随小编一起来看看Python如何使用pymeter操作JMeter的吧2024-01-01
地标景点识别是一种基于计算机视觉技术的应用,旨在通过对图像进行分析和处理,自动识别出图片中的地标景点,本文将介绍地标景点识别的背景和原理,并使用Python编程语言来实现一个简单的地标景点识别系统,感兴趣的朋友可以参考下2024-01-01
这篇文章主要介绍了Python获取时间戳代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-09-09
下面小编就为大家分享一篇在python win系统下 打开TXT文件的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
这篇文章主要为大家介绍了使用python百行代码来实现汉服圈的图片爬取，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步2021-11-11
这篇文章主要给大家介绍了关于如何利用Python制作PPT的相关资料,主要利用的是python-pptx库,我们可以通过写脚本,来定时执行更新ppt内容,需要的朋友可以参考下2021-09-09
本文给大家介绍三种判断文件或文件夹是否存在的方法，分别使用os模块、Try语句、pathlib模块。感兴趣的朋友一起看看吧2017-07-07
Altair被称为是统计可视化库，因为它可以通过分类汇总、数据变换、数据交互、图形复合等。本文和大家聊一下Python当中的altair可视化模块，并且通过调用该模块来绘制一些常见的图表，感兴趣的可以了解一下2022-07-07
这篇文章主要介绍了如何使用Python进行PDF图片识别OCR，帮助大家更好的理解和使用python，感兴趣的朋友可以了解下2021-01-01
最新评论