Python Pandas：获取列与特定值匹配的行的索引
- 2025-02-25 09:07:00
- admin 原创
- 20
问题描述：
给定一个带有“BoolCol”列的 DataFrame，我们想要找到“BoolCol”值 == True 的 DataFrame 的索引
我目前有迭代的方法来实现它，效果很好：
for i in range(100,3000):
if df.iloc[i]['BoolCol']== True:
print i,df.iloc[i]['BoolCol']
但这不是正确的 pandas 做法。经过一番研究，我目前使用以下代码：
df[df['BoolCol'] == True].index.tolist()
这个给了我一个索引列表，但是当我通过执行以下操作检查它们时，它们不匹配：
df.iloc[i]['BoolCol']
结果居然是False！！
哪种熊猫方法才是正确的？
解决方案 1：
df.iloc[i]返回ith的行df。i不引用索引标签，i是一个基于 0 的索引。
相反，该属性index返回实际的索引标签，而不是数字行索引：
df.index[df['BoolCol'] == True].tolist()
或者等价地，
df.index[df['BoolCol']].tolist()
通过使用具有非默认索引（不等于行的数字位置）的 DataFrame，您可以清楚地看到差异：
df = pd.DataFrame({'BoolCol': [True, False, False, True, True]},
index=[10,20,30,40,50])
In [53]: df
Out[53]:
BoolCol
10 True
20 False
30 False
40 True
50 True
[5 rows x 1 columns]
In [54]: df.index[df['BoolCol']].tolist()
Out[54]: [10, 40, 50]
如果你想使用索引，
In [56]: idx = df.index[df['BoolCol']]
In [57]: idx
Out[57]: Int64Index([10, 40, 50], dtype='int64')
loc然后您可以使用而不是来选择行iloc：
In [58]: df.loc[idx]
Out[58]:
BoolCol
10 True
40 True
50 True
[3 rows x 1 columns]
请注意，loc也可以接受布尔数组：
In [55]: df.loc[df['BoolCol']]
Out[55]:
BoolCol
10 True
40 True
50 True
[3 rows x 1 columns]
如果您有一个布尔数组，mask并且需要序数索引值，则可以使用来计算它们np.flatnonzero：
In [110]: np.flatnonzero(df['BoolCol'])
Out[112]: array([0, 3, 4])
用于df.iloc按序数索引选择行：
In [113]: df.iloc[np.flatnonzero(df['BoolCol'])]
Out[113]:
BoolCol
10 True
40 True
50 True
解决方案 2：
可以使用 numpy where() 函数完成：
import pandas as pd
import numpy as np
In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
index=list("abcde"))
In [717]: df
Out[717]:
BoolCol gene_name
a False SLC45A1
b True NECAP2
c False CLIC4
d True ADC
e True AGBL4
In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)
In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])
In [720]: df.iloc[select_indices]
Out[720]:
BoolCol gene_name
b True NECAP2
d True ADC
e True AGBL4
虽然您并不总是需要匹配索引，但如果您需要：
In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')
In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']
解决方案 3：
如果您只想使用数据框对象一次，请使用：
df['BoolCol'].loc[lambda x: x==True].index
解决方案 4：
简单的方法是在过滤之前重置 DataFrame 的索引：
df_reset = df.reset_index()
df_reset[df_reset['BoolCol']].index.tolist()
有点奇怪，但是很快！
解决方案 5：
首先你可以检查query目标列的类型bool （PS：如何使用请查看链接）
df.query('BoolCol')
Out[123]:
BoolCol
10 True
40 True
50 True
通过布尔列过滤原始 df 后，我们就可以选择索引。
df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')
另外，熊猫有nonzero，我们只需选择行的位置True并使用它来切片DataFrame或index
df.index[df.BoolCol.values.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')
解决方案 6：
另一种方法是使用来管道化的pipe()索引BoolCol。就性能而言，它与使用 的规范索引一样高效[]。1
df['BoolCol'].pipe(lambda x: x.index[x])
BoolCol如果实际上是多次比较的结果并且您想使用方法链接将所有方法放入管道中，则这特别有用。
例如，如果您想要获取NumCol值大于 0.5、BoolCol值为 True 并且NumCol和BoolCol值的乘积大于 0 的行索引，则可以通过计算表达式eval()并调用pipe()结果来执行索引的索引。2
df.eval("NumCol > 0.5 and BoolCol and NumCol * BoolCol >0").pipe(lambda x: x.index[x])
1：以下基准测试使用了一个包含 2000 万行的数据框（平均过滤了一半的行）并检索了它们的索引。pipe()与其他高效选项相比，通过链接的方法效果非常好。
n = 20_000_000
df = pd.DataFrame({'NumCol': np.random.rand(n).astype('float16'),
'BoolCol': np.random.default_rng().choice([True, False], size=n)})
%timeit df.index[df['BoolCol']]
# 181 ms ± 2.47 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
%timeit df['BoolCol'].pipe(lambda x: x.index[x])
# 181 ms ± 1.08 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
%timeit df['BoolCol'].loc[lambda x: x].index
# 297 ms ± 7.15 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
2 ：对于按照1 )中相同的方式构建的 20 mil 行数据框，您会发现此处提出的方法是最快的选项。它的性能优于按位运算符链接，因为根据设计，它对eval()大型数据框执行多个操作的速度比矢量化 Python 操作更快，并且它比更节省内存，query()因为与 不同query()，eval().pipe(...)它不需要创建切片数据框的副本来获取其索引。
解决方案 7：
我扩展了这个问题，即如何获取所有匹配项的row和column值？value
这是解决方案：
import pandas as pd
import numpy as np
def search_coordinate(df_data: pd.DataFrame, search_set: set) -> list:
nda_values = df_data.values
tuple_index = np.where(np.isin(nda_values, [e for e in search_set]))
return [(row, col, nda_values[row][col]) for row, col in zip(tuple_index[0], tuple_index[1])]
if __name__ == '__main__':
test_datas = [['cat', 'dog', ''],
['goldfish', '', 'kitten'],
['Puppy', 'hamster', 'mouse']
]
df_data = pd.DataFrame(test_datas)
print(df_data)
result_list = search_coordinate(df_data, {'dog', 'Puppy'})
print(f"
{'row':<4} {'col':<4} {'name':>10}")
[print(f"{row:<4} {col:<4} {name:>10}") for row, col, name in result_list]
输出：
0 1 2
0 cat dog
1 goldfish kitten
2 Puppy hamster mouse
row col name
0 1 dog
2 0 Puppy
解决方案 8：
对于我们感兴趣的已知索引候选，可以通过不检查整个列的更快方法完成，如下所示：
np.array(index_slice)[np.where(df.loc[index_slice]['column_name'] >= threshold)[0]]
全面比较：
import pandas as pd
import numpy as np
index_slice = list(range(50,150)) # know index location for our inteterest
data = np.zeros(10000)
data[(index_slice)] = np.random.random(len(index_slice))
df = pd.DataFrame(
{'column_name': data},
)
threshold = 0.5
%%timeit
np.array(index_slice)[np.where(df.loc[index_slice]['column_name'] >= threshold)[0]]
# 600 µs ± 1.21 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
%%timeit
[i for i in index_slice if i in df.index[df['column_name'] >= threshold].tolist()]
# 22.5 ms ± 29.1 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
它的工作方式如下：
# generate Boolean satisfy condition only in sliced column
df.loc[index_slice]['column_name'] >= threshold
# convert Boolean to index, but start from 0 and increment by 1
np.where(...)[0]
# list of index to be sliced
np.array(index_slice)[...]
注意：需要注意的是，由于索引，np.array(index_slice)不能用 代替，但你可以做类似 的事情。我认为如果你只用少量行做一次，那么这是不值得的。df.index`np.where(...)[0]start from 0 and increment by 1df.index[index_slice]`
