如果列中的值在一组值列表中,则过滤数据框行[重复]
- 2024-12-05 08:38:00
- admin 原创
- 147
问题描述:
我有一个 Python pandas DataFrame rpt
:
rpt
<class 'pandas.core.frame.DataFrame'>
MultiIndex: 47518 entries, ('000002', '20120331') to ('603366', '20091231')
Data columns:
STK_ID 47518 non-null values
STK_Name 47518 non-null values
RPT_Date 47518 non-null values
sales 47518 non-null values
我可以过滤库存 ID 如下的行'600809'
:rpt[rpt['STK_ID'] == '600809']
<class 'pandas.core.frame.DataFrame'>
MultiIndex: 25 entries, ('600809', '20120331') to ('600809', '20060331')
Data columns:
STK_ID 25 non-null values
STK_Name 25 non-null values
RPT_Date 25 non-null values
sales 25 non-null values
我想要将某些股票的所有行放在一起,例如['600809','600141','600329']
。这意味着我需要这样的语法:
stk_list = ['600809','600141','600329']
rst = rpt[rpt['STK_ID'] in stk_list] # this does not works in pandas
既然pandas不接受上述命令,如何实现目标呢?
解决方案 1:
使用isin
方法:
rpt[rpt['STK_ID'].isin(stk_list)]
解决方案 2:
isin()
如果您有一个完全匹配的列表,则是理想的选择,但如果您有一个要查找的部分匹配或子字符串的列表,则可以使用str.contains
方法和正则表达式进行过滤。
例如,如果我们想要返回一个 DataFrame,其中所有股票 ID 都以 开头'600'
,然后跟任意三位数字:
>>> rpt[rpt['STK_ID'].str.contains(r'^600[0-9]{3}$')] # ^ means start of string
... STK_ID ... # [0-9]{3} means any three digits
... '600809' ... # $ means end of string
... '600141' ...
... '600329' ...
... ... ...
假设现在我们有一个字符串列表,我们希望其中的值以此'STK_ID'
字符串结尾,例如
endstrings = ['01$', '02$', '05$']
我们可以使用正则表达式的“或”字符连接这些字符串|
,并将字符串传递给str.contains
过滤 DataFrame:
>>> rpt[rpt['STK_ID'].str.contains('|'.join(endstrings)]
... STK_ID ...
... '155905' ...
... '633101' ...
... '210302' ...
... ... ...
最后,contains
可以忽略大小写(通过设置case=False
),使您在指定想要匹配的字符串时更加通用。
例如,
str.contains('pandas', case=False)
将匹配PANDAS
、PanDAs
、paNdAs123
等等。
解决方案 3:
您还可以直接查询DataFrame 来获取此信息。
rpt.query('STK_ID in (600809,600141,600329)')
或者类似地搜索范围:
rpt.query('60000 < STK_ID < 70000')
解决方案 4:
您还可以使用以下方式使用范围:
b = df[(df['a'] > 1) & (df['a'] < 5)]
解决方案 5:
使用 Pandas 切分数据
给定一个这样的数据框:
RPT_Date STK_ID STK_Name sales
0 1980-01-01 0 Arthur 0
1 1980-01-02 1 Beate 4
2 1980-01-03 2 Cecil 2
3 1980-01-04 3 Dana 8
4 1980-01-05 4 Eric 4
5 1980-01-06 5 Fidel 5
6 1980-01-07 6 George 4
7 1980-01-08 7 Hans 7
8 1980-01-09 8 Ingrid 7
9 1980-01-10 9 Jones 4
有多种选择或切分数据的方法。
使用 .isin
最明显的是.isin
功能。您可以创建一个掩码,为您提供一系列True
/False
语句,这些语句可以像这样应用于数据框:
mask = df['STK_ID'].isin([4, 2, 6])
mask
0 False
1 False
2 True
3 False
4 True
5 False
6 True
7 False
8 False
9 False
Name: STK_ID, dtype: bool
df[mask]
RPT_Date STK_ID STK_Name sales
2 1980-01-03 2 Cecil 2
4 1980-01-05 4 Eric 4
6 1980-01-07 6 George 4
掩蔽是该问题的临时解决方案,但在速度和内存方面并不总是表现良好。
带索引
通过将索引设置为STK_ID
列,我们可以使用 pandas 内置切片对象.loc
df.set_index('STK_ID', inplace=True)
RPT_Date STK_Name sales
STK_ID
0 1980-01-01 Arthur 0
1 1980-01-02 Beate 4
2 1980-01-03 Cecil 2
3 1980-01-04 Dana 8
4 1980-01-05 Eric 4
5 1980-01-06 Fidel 5
6 1980-01-07 George 4
7 1980-01-08 Hans 7
8 1980-01-09 Ingrid 7
9 1980-01-10 Jones 4
df.loc[[4, 2, 6]]
RPT_Date STK_Name sales
STK_ID
4 1980-01-05 Eric 4
2 1980-01-03 Cecil 2
6 1980-01-07 George 4
这是一种快捷的方法,即使索引可能需要一点时间,但如果您想执行这样的多个查询,它可以节省时间。
合并数据框
这也可以通过合并数据框来实现。这更适合于拥有比这些示例多得多数据的场景。
stkid_df = pd.DataFrame({"STK_ID": [4,2,6]})
df.merge(stkid_df, on='STK_ID')
STK_ID RPT_Date STK_Name sales
0 2 1980-01-03 Cecil 2
1 4 1980-01-05 Eric 4
2 6 1980-01-07 George 4
笔记
即使有多行具有相同的'STK_ID'
解决方案 6:
您还可以使用“query”和@获得类似的结果:
例如:
df = pd.DataFrame({'A': [1, 2, 3], 'B': ['a', 'b', 'f']})
df = pd.DataFrame({'A' : [5,6,3,4], 'B' : [1,2,3, 5]})
list_of_values = [3,6]
result= df.query("A in @list_of_values")
result
A B
1 6 2
2 3 3
解决方案 7:
您可以使用query
,即:
b = df.query('a > 1 & a < 5')