摘要：问题描述：我正在从 csv 创建 DataFrame，如下所示：stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True) DataFrame 有一个日期列。有没有办法创建一个新的 DataFrame（或直接覆盖现有的 ...

问题描述：

我正在从 csv 创建 DataFrame，如下所示：

stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)

DataFrame 有一个日期列。有没有办法创建一个新的 DataFrame（或直接覆盖现有的 DataFrame），其中只包含日期值在指定日期范围内或两个指定日期值之间的行？

解决方案 1：

有两种可能的解决方案：

使用布尔掩码，然后使用df.loc[mask]
将日期列设置为 DatetimeIndex，然后使用df[start_date : end_date]

使用布尔掩码：

确保df['date']是具有 dtype 的系列datetime64[ns]：

df['date'] = pd.to_datetime(df['date'])

制作布尔掩码。start_date可以end_date是datetime.datetimes、
np.datetime64s、pd.Timestamps，甚至是日期时间字符串：

#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)

选择子DataFrame：

df.loc[mask]

或重新分配给df

df = df.loc[mask]

例如，

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])

产量

            0         1         2       date
153  0.208875  0.727656  0.037787 2000-06-02
154  0.750800  0.776498  0.237716 2000-06-03
155  0.812008  0.127338  0.397240 2000-06-04
156  0.639937  0.207359  0.533527 2000-06-05
157  0.416998  0.845658  0.872826 2000-06-06
158  0.440069  0.338690  0.847545 2000-06-07
159  0.202354  0.624833  0.740254 2000-06-08
160  0.465746  0.080888  0.155452 2000-06-09
161  0.858232  0.190321  0.432574 2000-06-10

使用DatetimeIndex：

如果您要按日期进行大量选择，则
date先将列设置为索引可能会更快。然后您可以使用按日期选择行
df.loc[start_date:end_date]。

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])

产量

                   0         1         2
date                                    
2000-06-01  0.040457  0.326594  0.492136    # <- includes start_date
2000-06-02  0.279323  0.877446  0.464523
2000-06-03  0.328068  0.837669  0.608559
2000-06-04  0.107959  0.678297  0.517435
2000-06-05  0.131555  0.418380  0.025725
2000-06-06  0.999961  0.619517  0.206108
2000-06-07  0.129270  0.024533  0.154769
2000-06-08  0.441010  0.741781  0.470402
2000-06-09  0.682101  0.375660  0.009916
2000-06-10  0.754488  0.352293  0.339337

与 Python 列表索引（例如seq[start:end]包含start但不end）相反，如果两个端点都在索引中，Pandas 会将它们都df.loc[start_date : end_date]包含在结果中。但是和都不必在索引中。start_date`end_date`

另请注意，pd.read_csv有一个parse_dates参数，您可以使用它将date列解析为datetime64s。因此，如果您使用parse_dates，则无需使用df['date'] = pd.to_datetime(df['date'])。

解决方案 2：

我觉得最好的选择是使用直接检查而不是使用 loc 函数：

df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]

它对我有用。

带有切片的 loc 函数的主要问题是，限制应该存在于实际值中，否则将导致 KeyError。

解决方案 3：

您还可以使用between：

df[df.some_date.between(start_date, end_date)]

解决方案 4：

您可以像这样在列
isin上使用该方法date`df[df["date"].isin(pd.date_range(start_date, end_date))]`

注意：这仅适用于日期（如问题所问），而不适用于时间戳。

例子：

import numpy as np   
import pandas as pd

# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]

print(in_range_df)  # print result

由此得出

           0         1         2       date
14  0.960974  0.144271  0.839593 2017-01-15
15  0.814376  0.723757  0.047840 2017-01-16
16  0.911854  0.123130  0.120995 2017-01-17
17  0.505804  0.416935  0.928514 2017-01-18
18  0.204869  0.708258  0.170792 2017-01-19
19  0.014389  0.214510  0.045201 2017-01-20

解决方案 5：

pandas0.22 有一个between()函数。使回答这个问题更容易，代码也更易读。

# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})

假设你想要获取 2018 年 11 月 27 日至 2019 年 1 月 15 日之间的日期：

# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)

0    False
1    False
2    False
3    False
4    False

# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]

    dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02

注意这个inclusive参数。当你想要明确说明你的范围时非常有用。注意，当设置为 True 时，我们也会返回 2018 年 11 月 27 日：

df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]

    dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01

该方法也比前面提到的方法更快isin：

%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)


%%timeit -n 5

df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

但是，仅当掩码已经创建时，它才会比 unutbu 提供的当前接受的答案更快。但如果掩码是动态的并且需要一遍又一遍地重新分配，我的方法可能会更有效：

# already create the mask THEN time the function

start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)

%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

解决方案 6：

为了保持解决方案简单且符合 Python 风格，我建议您尝试一下。

如果您要经常这样做，最好的解决方案是首先将日期列设置为索引，这将转换 DateTimeIndex 中的列并使用以下条件来切分任何日期范围。

import pandas as pd

data_frame = data_frame.set_index('date')

df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]

解决方案 7：

另一种实现方法是使用pandas.DataFrame.query()方法。让我在以下名为的数据框中向您展示一个示例df。

>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
      col_1       date
0  0.015198 2020-01-01
1  0.638600 2020-01-02
2  0.348485 2020-01-03
3  0.247583 2020-01-04
4  0.581835 2020-01-05

作为参数，使用条件进行过滤，如下所示：

>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
      col_1       date
1  0.244104 2020-01-02
2  0.374775 2020-01-03
3  0.510053 2020-01-04

如果您不想包含边界，只需更改条件如下：

>>> print(df.query('date > @start_date and date < @end_date'))
      col_1       date
2  0.374775 2020-01-03

解决方案 8：

强烈建议将日期列转换为索引。这样做将带来很多便利。一种是轻松选择两个日期之间的行，您可以看到以下示例：

import numpy as np   
import pandas as pd

# Dataframe with monthly data between 2016 - 2020
df = pd.DataFrame(np.random.random((60, 3)))
df['date'] = pd.date_range('2016-1-1', periods=60, freq='M')

2017-01-01要选择和之间的行2019-01-01，您只需将date列转换为index：

df.set_index('date', inplace=True)

然后只切片：

df.loc['2017':'2019']

您可以直接读取 csv 文件时选择日期列作为索引，而不是df.set_index()：

df = pd.read_csv('file_name.csv',index_col='date')

解决方案 9：

import pandas as pd

technologies = ({
    'Courses':["Spark","PySpark","Hadoop","Python","Pandas","Hadoop","Spark"],
    'Fee' :[22000,25000,23000,24000,26000,25000,25000],
    'Duration':['30days','50days','55days','40days','60days','35days','55days'],
    'Discount':[1000,2300,1000,1200,2500,1300,1400],
    'InsertedDates':["2021-11-14","2021-11-15","2021-11-16","2021-11-17","2021-11-18","2021-11-19","2021-11-20"]
               })
df = pd.DataFrame(technologies)
print(df)

使用 pandas.DataFrame.loc 按日期过滤行

方法 1：

    mask = (df['InsertedDates'] > start_date) & (df['InsertedDates'] <= end_date)

    df2 = df.loc[mask]
    print(df2)

方法 2：

    start_date = '2021-11-15'
    end_date = '2021-11-19'
    after_start_date = df["InsertedDates"] >= start_date
    before_end_date = df["InsertedDates"] <= end_date
    between_two_dates = after_start_date & before_end_date


    df2 = df.loc[between_two_dates]
    print(df2)

使用 pandas.DataFrame.query() 选择 DataFrame 行

start_date = '2021-11-15'
end_date   = '2021-11-18'
df2 = df.query('InsertedDates >= @start_date and InsertedDates <= @end_date')
print(df2)

使用 DataFrame.query() 选择两个日期之间的行

start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates > @start_date and InsertedDates < @end_date')
print(df2)

pandas.Series.between() 函数使用两个日期

df2 = df.loc[df["InsertedDates"].between("2021-11-16", "2021-11-18")]
print(df2)

使用 DataFrame.isin() 选择两个日期之间的 DataFrame 行

df2 = df[df["InsertedDates"].isin(pd.date_range("2021-11-15", "2021-11-17"))]
print(df2)

解决方案 10：

您可以使用方法truncate：

dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})

            A
2016-01-01  1
2016-01-02  1
2016-01-03  1
2016-01-04  1
2016-01-05  1
2016-01-06  1

选择两个日期之间的数据：

df.truncate(before='2016-01-02', after='2016-01-4')

输出：

            A
2016-01-02  1
2016-01-03  1
2016-01-04  1

解决方案 11：

我宁愿不改变df。

一种选择是检索和index日期：start`end`

import numpy as np   
import pandas as pd

#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]

#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]

结果是：

     0   1   2       date
6  0.5 0.8 0.8 2017-01-07
7  0.0 0.7 0.3 2017-01-08
8  0.8 0.9 0.0 2017-01-09
9  0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14

解决方案 12：

灵感来自 unutbu

print(df.dtypes)                                 #Make sure the format is 'object'. Rerunning this after index will not show values.
columnName = 'YourColumnName'
df[columnName+'index'] = df[columnName]          #Create a new column for index
df.set_index(columnName+'index', inplace=True)   #To build index on the timestamp/dates
df.loc['2020-09-03 01:00':'2020-09-06']          #Select range from the index. This is your new Dataframe.

解决方案 13：

我只想指出，从 pandas 2.1.0 开始，query()可以使用得更简洁。基本上，&您无需使用链接两个条件，而是可以将其简化为单个表达式：

df = pd.DataFrame({'date': pd.date_range('2000-1-1', None, 200), 'col': range(200)})
# rows between 2000-6-1 and 2000-6-10
df1 = df.query("'2000-6-1' <= date <= '2000-6-10'")


# using local variable
start, end = '2000-6-1', '2000-6-10'                 # using string
df1 = df.query("@start <= date <= @end")


from datetime import datetime
start, end = datetime(2000,6,1), datetime(2000,6,10) # using datetime/pd.Timestamp
df1 = df.query("@start <= index <= @end")

如果索引是日期时间，那么我们可以使用

df = pd.DataFrame({'col': range(200)}, index=pd.date_range('2000-1-1', None, 200))
df1 = df.query("'2000-6-1' <= index <= '2000-6-10'")

再次，在这种情况下，loc切片可能更具可读性：

df1 = df.loc['2000-6-1':'2000-6-10']
df1 = df.loc[datetime(2000,6,1): datetime(2000,6,10)]

需要注意的是，这些方法（事实上，本页上的所有方法）仅在 datetime 列或 datetime 索引为 datetime64[ns] dtype 时才有效。如果是其他类型，例如datetime.date或object等，则必须先转换为datetime64[ns]使用pd.to_datetime()：

df['date'] = pd.to_datetime(df['date'])

# if it's the index:
df.index = pd.to_datetime(df.index)

如果数据是从 CSV 文件读取的，就像 OP 中一样，则可以传递 kwarg parse_dates。例如，如果 datetime 列应该是dateCSV 中的列，则可以使用：

df = pd.read_csv("my_data.csv", parse_dates=['date'])

如果你想从 CSV 中读取日期时间作为索引，那么使用

df = pd.read_csv("my_data.csv", parse_dates=['date'], index_col=['date'])

解决方案 14：

您可以使用 pd.date_range() 和 Timestamp 来实现。假设您使用 parse_dates 选项读取了带有日期列的 csv 文件：

df = pd.read_csv('my_file.csv', parse_dates=['my_date_col'])

然后您可以定义日期范围索引：

rge = pd.date_range(end='15/6/2020', periods=2)

然后通过地图按日期过滤您的值：

df.loc[df['my_date_col'].map(lambda row: row.date() in rge)]