熊猫数据框按日期时间月分组

考虑一个 csv 文件:

string,date,number
a string,2/5/11 9:16am,1.0
a string,3/5/11 10:44pm,2.0
a string,4/22/11 12:07pm,3.0
a string,4/22/11 12:10pm,4.0
a string,4/29/11 11:59am,1.0
a string,5/2/11 1:41pm,2.0
a string,5/2/11 2:02pm,3.0
a string,5/2/11 2:56pm,4.0
a string,5/2/11 3:00pm,5.0
a string,5/2/14 3:02pm,6.0
a string,5/2/14 3:18pm,7.0

我可以读取它,并将日期列重新格式化为日期时间格式:

b=pd.read_csv('b.dat')
b['date']=pd.to_datetime(b['date'],format='%m/%d/%y %I:%M%p')

我一直试图按月份对数据进行分组。似乎应该有一个显而易见的方式来访问该月份,并按此进行分组。但我似乎做不到。有人知道怎么做吗?

我目前正在尝试按日期重新编制索引:

b.index=b['date']

我可以这样进入这个月:

b.index.month

然而,我似乎不能找到一个功能,一起按月。

265358 次浏览

设法做到了:

b = pd.read_csv('b.dat')
b.index = pd.to_datetime(b['date'],format='%m/%d/%y %I:%M%p')
b.groupby(by=[b.index.month, b.index.year])

或者

b.groupby(pd.Grouper(freq='M'))  # update for v0.21+

(更新日期: 2018)

请注意,pd.Timegrouper已折旧并将被删除。请使用:

 df.groupby(pd.Grouper(freq='M'))

避免 MultiIndex 的一个解决方案是创建一个新的 datetime列,设置 day = 1。然后按此列分组。

把每个月的日子正常化

df = pd.DataFrame({'Date': pd.to_datetime(['2017-10-05', '2017-10-20', '2017-10-01', '2017-09-01']),
'Values': [5, 10, 15, 20]})


# normalize day to beginning of month, 4 alternative methods below
df['YearMonth'] = df['Date'] + pd.offsets.MonthEnd(-1) + pd.offsets.Day(1)
df['YearMonth'] = df['Date'] - pd.to_timedelta(df['Date'].dt.day-1, unit='D')
df['YearMonth'] = df['Date'].map(lambda dt: dt.replace(day=1))
df['YearMonth'] = df['Date'].dt.normalize().map(pd.tseries.offsets.MonthBegin().rollback)

然后像往常一样使用 groupby:

g = df.groupby('YearMonth')


res = g['Values'].sum()


# YearMonth
# 2017-09-01    20
# 2017-10-01    30
# Name: Values, dtype: int64

pd.Grouper的比较

这种解决方案的微妙好处是,不同于 pd.Grouper,石斑鱼指数是标准化的 开始的每个月,而不是结束,因此你可以很容易地提取组通过 get_group:

some_group = g.get_group('2017-10-01')

计算十月的最后一天稍微有点麻烦。从 v0.23开始,pd.Grouper确实支持 convention参数,但这只适用于 PeriodIndex石斑鱼。

与字符串转换的比较

上述方法的另一种替代方法是转换为字符串,例如,将 datetime 2017-10-XX转换为 string '2017-10'。但是,不建议这样做,因为与 object系列字符串(以指针数组的形式存储)相比,datetime系列(在内部以数字数据的形式存储在连续内存块中)失去了所有的效率优势。

与@jpp 稍有不同的解决方案,但输出一个 YearMonth字符串:

df['YearMonth'] = pd.to_datetime(df['Date']).apply(lambda x: '{year}-{month}'.format(year=x.year, month=x.month))


res = df.groupby('YearMonth')['Values'].sum()

可以使用 resample方法对时间序列数据进行分组。例如,按月分组:

df.resample(rule='M', on='date')['Values'].sum()

带有偏移量别名的列表可以找到 给你