如何向现有 DataFrame 添加新列
- 2024-11-29 08:41:00
- admin 原创
- 179
问题描述：
我有以下索引 DataFrame，其中命名的列和行不是连续的数字：
a b c d
2 0.671399 0.101208 -0.181532 0.241273
3 0.446172 -0.243316 0.051767 1.577318
5 0.614758 0.075793 -0.451460 -0.012493
我想'e'向现有数据框添加一个新列，但不想更改数据框中的任何内容（即，新列的长度始终与 DataFrame 相同）。
0 -0.335485
1 -1.166658
2 -0.385571
dtype: float64
如何e向上述示例中添加列？
解决方案 1：
编辑2017
正如评论和@Alexander所指出的，目前将Series的值添加为DataFrame的新列的最佳方法是使用assign：
df1 = df1.assign(e=pd.Series(np.random.randn(sLength)).values)
编辑 2015
有人报告使用此代码获取了SettingWithCopyWarning。
但是，该代码仍可在当前 pandas 版本 0.16.1 上完美运行。
>>> sLength = len(df1['a'])
>>> df1
a b c d
6 -0.269221 -0.026476 0.997517 1.294385
8 0.917438 0.847941 0.034235 -0.448948
>>> df1['e'] = pd.Series(np.random.randn(sLength), index=df1.index)
>>> df1
a b c d e
6 -0.269221 -0.026476 0.997517 1.294385 1.757167
8 0.917438 0.847941 0.034235 -0.448948 2.228131
>>> pd.version.short_version
'0.16.1'
目的SettingWithCopyWarning是告知 Dataframe 副本上可能存在无效分配。它不一定表示您做错了（它可能触发误报），但从 0.13.0 开始，它会让您知道有更多适合相同目的的方法。然后，如果您收到警告，只需按照其建议操作：尝试使用 .loc[row_index,col_indexer] = value
>>> df1.loc[:,'f'] = pd.Series(np.random.randn(sLength), index=df1.index)
>>> df1
a b c d e f
6 -0.269221 -0.026476 0.997517 1.294385 1.757167 -0.050927
8 0.917438 0.847941 0.034235 -0.448948 2.228131 0.006109
>>>
事实上，这是目前更有效的方法，如pandas 文档中所述
原始答案：
使用原始 df1 索引创建系列：
df1['e'] = pd.Series(np.random.randn(sLength), index=df1.index)
解决方案 2：
这是添加新列的简单方法：df['e'] = e
解决方案 3：
我想向现有数据框添加新列“e”，但不更改数据框中的任何内容。（该系列的长度始终与数据框的长度相同。）
我假设 中的索引值与e中的索引值相匹配df1。
最简单的方法是启动一个名为 的新列e，并为其分配来自您的系列的值e：
df['e'] = e.values
分配（Pandas 0.16.0+）
从 Pandas 0.16.0 开始，您还可以使用assign，它将新列分配给 DataFrame，并返回一个新对象（副本），其中包含新列和所有原始列。
df1 = df1.assign(e=e.values)
根据此示例（其中还包括函数的源代码assign），您还可以包含多个列：
df = pd.DataFrame({'a': [1, 2], 'b': [3, 4]})
>>> df.assign(mean_a=df.a.mean(), mean_b=df.b.mean())
a b mean_a mean_b
0 1 3 1.5 3.5
1 2 4 1.5 3.5
结合您举的例子：
np.random.seed(0)
df1 = pd.DataFrame(np.random.randn(10, 4), columns=['a', 'b', 'c', 'd'])
mask = df1.applymap(lambda x: x <-0.7)
df1 = df1[-mask.any(axis=1)]
sLength = len(df1['a'])
e = pd.Series(np.random.randn(sLength))
>>> df1
a b c d
0 1.764052 0.400157 0.978738 2.240893
2 -0.103219 0.410599 0.144044 1.454274
3 0.761038 0.121675 0.443863 0.333674
7 1.532779 1.469359 0.154947 0.378163
9 1.230291 1.202380 -0.387327 -0.302303
>>> e
0 -1.048553
1 -1.420018
2 -1.706270
3 1.950775
4 -0.509652
dtype: float64
df1 = df1.assign(e=e.values)
>>> df1
a b c d e
0 1.764052 0.400157 0.978738 2.240893 -1.048553
2 -0.103219 0.410599 0.144044 1.454274 -1.420018
3 0.761038 0.121675 0.443863 0.333674 -1.706270
7 1.532779 1.469359 0.154947 0.378163 1.950775
9 1.230291 1.202380 -0.387327 -0.302303 -0.509652
此新功能首次推出时的描述可在此处找到。
解决方案 4：
超级简单的列分配
Pandas 数据框以列的有序字典形式实现。
这意味着__getitem__ []不仅可以用来获取某个列，还__setitem__ [] =可以用来分配新列。
[]例如，只需使用访问器即可向此数据框添加一列
size name color
0 big rose red
1 small violet blue
2 small tulip red
3 small harebell blue
df['protected'] = ['no', 'no', 'no', 'yes']
size name color protected
0 big rose red no
1 small violet blue no
2 small tulip red no
3 small harebell blue yes
请注意，即使数据框的索引关闭，这仍然有效。
df.index = [3,2,1,0]
df['protected'] = ['no', 'no', 'no', 'yes']
size name color protected
3 big rose red no
2 small violet blue no
1 small tulip red no
0 small harebell blue yes
[]= 是正确的做法，但是要小心！
但是，如果您有一个pd.Series并尝试将其分配给索引关闭的数据框，那么您将遇到麻烦。参见示例：
df['protected'] = pd.Series(['no', 'no', 'no', 'yes'])
size name color protected
3 big rose red yes
2 small violet blue no
1 small tulip red no
0 small harebell blue no
这是因为 apd.Series默认有一个从 0 到 n 的索引。而 pandas[] =方法试图 变得“聪明”
到底发生了什么事？
当您使用该[] =方法时，pandas 会使用左侧数据框的索引和右侧系列的索引悄悄地执行外连接或外合并。df['column'] = series
附注
这很快就会引起认知失调，因为该[]=方法试图根据输入做很多不同的事情，除非你知道Pandas 的工作原理，否则无法预测结果。因此，我建议不要[]=在代码库中使用，但在笔记本中探索数据时，这样做是可以的。
绕过问题
如果您有一个pd.Series并且希望从上到下分配它，或者您正在编写生产代码并且不确定索引顺序，那么值得保护这种问题。
您可以将 将 向下转换pd.Series为 anp.ndarray或 a list，这样就可以了。
df['protected'] = pd.Series(['no', 'no', 'no', 'yes']).values
或者
df['protected'] = list(pd.Series(['no', 'no', 'no', 'yes']))
但这不太明确。
一些程序员可能会说“嘿，这看起来是多余的，我会对其进行优化”。
显式方式
将 的索引设置为 的pd.Series索引df是明确的。
df['protected'] = pd.Series(['no', 'no', 'no', 'yes'], index=df.index)
或者更现实一点，你可能pd.Series已经有一个了。
protected_series = pd.Series(['no', 'no', 'no', 'yes'])
protected_series.index = df.index
3 no
2 no
1 no
0 yes
现在可以分配
df['protected'] = protected_series
size name color protected
3 big rose red no
2 small violet blue no
1 small tulip red no
0 small harebell blue yes
替代方法df.reset_index()
由于索引不一致是个问题，如果您觉得数据框的索引不应该决定事情，您可以简单地删除索引，这应该更快，但它不是很干净，因为您的函数现在可能做两件事。
df.reset_index(drop=True)
protected_series.reset_index(drop=True)
df['protected'] = protected_series
size name color protected
0 big rose red no
1 small violet blue no
2 small tulip red no
3 small harebell blue yes
注意df.assign
虽然df.assign可以更明确地说明你在做什么，但实际上它存在与上述相同的问题[]=
df.assign(protected=pd.Series(['no', 'no', 'no', 'yes']))
size name color protected
3 big rose red yes
2 small violet blue no
1 small tulip red no
0 small harebell blue no
请注意，df.assign不要调用您的列self。这会导致错误。这会产生df.assign 问题，因为函数中存在此类伪像。
df.assign(self=pd.Series(['no', 'no', 'no', 'yes'])
TypeError: assign() got multiple values for keyword argument 'self'
你可能会说，“好吧，我就不用了self”。但谁知道这个函数将来会如何变化来支持新的参数呢。也许你的列名将成为 pandas 新更新中的一个参数，从而导致升级出现问题。
解决方案 5：
似乎在最近的 Pandas 版本中，要使用的方法是使用df.assign：
df1 = df1.assign(e=np.random.randn(sLength))
它不生产SettingWithCopyWarning。
解决方案 6：
直接通过NumPy执行此操作将是最有效的：
df1['e'] = np.random.randn(sLength)
请注意，我最初的（非常古老的）建议是使用map（速度慢得多）：
df1['e'] = df1['a'].map(lambda x: np.random.random())
解决方案 7：
最简单的方法：-
data['new_col'] = list_of_values
data.loc[ : , 'new_col'] = list_of_values
这样，在 pandas 对象中设置新值时，就可以避免所谓的链式索引。单击此处以了解更多信息。
解决方案 8：
如果要将整个新列设置为初始基值（例如None），您可以这样做：df1['e'] = None
这实际上会将“对象”类型分配给单元格。因此稍后您可以自由地将复杂数据类型（如列表）放入各个单元格中。
解决方案 9：
我遇到了可怕的问题SettingWithCopyWarning，并且无法使用 iloc 语法进行修复。我的 DataFrame 是由 read_sql 从 ODBC 源创建的。使用上面 lowtech 的建议，以下方法对我有用：
df.insert(len(df.columns), 'e', pd.Series(np.random.randn(sLength), index=df.index))
这对于在末尾插入列很有效。我不知道这是否是最有效的，但我不喜欢警告信息。我认为有更好的解决方案，但我找不到它，我认为这取决于索引的某些方面。
注意。这只能工作一次，如果试图覆盖现有列，将会给出错误消息。
注意如上所述，从 0.16.0 开始分配是最好的解决方案。请参阅文档http://pandas.pydata.org/pandas-docs/stable/generated/pandas.DataFrame.assign.html#pandas.DataFrame.assign
适用于不会覆盖中间值的数据流类型。
解决方案 10：
list_of_e首先创建一个包含相关数据的python 。使用这个：
df['e'] = list_of_e
解决方案 11：
创建空列
df['i'] = None
解决方案 12：
如果您尝试添加的列是系列变量，那么只需：
df["new_columns_name"]=series_variable_name #this will do it for you
即使您要替换现有的列，这也能很好地工作。只需输入与要替换的列相同的新列名称。它只会用新的系列数据覆盖现有的列数据。
解决方案 13：
如果数据框和 Series 对象具有相同的索引，pandas.concat则这里也可以起作用：
import pandas as pd
df
# a b c d
#0 0.671399 0.101208 -0.181532 0.241273
#1 0.446172 -0.243316 0.051767 1.577318
#2 0.614758 0.075793 -0.451460 -0.012493
e = pd.Series([-0.335485, -1.166658, -0.385571])
e
#0 -0.335485
#1 -1.166658
#2 -0.385571
#dtype: float64
# here we need to give the series object a name which converts to the new column name
# in the result
df = pd.concat([df, e.rename("e")], axis=1)
df
# a b c d e
#0 0.671399 0.101208 -0.181532 0.241273 -0.335485
#1 0.446172 -0.243316 0.051767 1.577318 -1.166658
#2 0.614758 0.075793 -0.451460 -0.012493 -0.385571
如果它们没有相同的索引：
e.index = df.index
df = pd.concat([df, e.rename("e")], axis=1)
解决方案 14：
万无一失：
df.loc[:, 'NewCol'] = 'New_Val'
例子：
df = pd.DataFrame(data=np.random.randn(20, 4), columns=['A', 'B', 'C', 'D'])
df
A B C D
0 -0.761269 0.477348 1.170614 0.752714
1 1.217250 -0.930860 -0.769324 -0.408642
2 -0.619679 -1.227659 -0.259135 1.700294
3 -0.147354 0.778707 0.479145 2.284143
4 -0.529529 0.000571 0.913779 1.395894
5 2.592400 0.637253 1.441096 -0.631468
6 0.757178 0.240012 -0.553820 1.177202
7 -0.986128 -1.313843 0.788589 -0.707836
8 0.606985 -2.232903 -1.358107 -2.855494
9 -0.692013 0.671866 1.179466 -1.180351
10 -1.093707 -0.530600 0.182926 -1.296494
11 -0.143273 -0.503199 -1.328728 0.610552
12 -0.923110 -1.365890 -1.366202 -1.185999
13 -2.026832 0.273593 -0.440426 -0.627423
14 -0.054503 -0.788866 -0.228088 -0.404783
15 0.955298 -1.430019 1.434071 -0.088215
16 -0.227946 0.047462 0.373573 -0.111675
17 1.627912 0.043611 1.743403 -0.012714
18 0.693458 0.144327 0.329500 -0.655045
19 0.104425 0.037412 0.450598 -0.923387
df.drop([3, 5, 8, 10, 18], inplace=True)
df
A B C D
0 -0.761269 0.477348 1.170614 0.752714
1 1.217250 -0.930860 -0.769324 -0.408642
2 -0.619679 -1.227659 -0.259135 1.700294
4 -0.529529 0.000571 0.913779 1.395894
6 0.757178 0.240012 -0.553820 1.177202
7 -0.986128 -1.313843 0.788589 -0.707836
9 -0.692013 0.671866 1.179466 -1.180351
11 -0.143273 -0.503199 -1.328728 0.610552
12 -0.923110 -1.365890 -1.366202 -1.185999
13 -2.026832 0.273593 -0.440426 -0.627423
14 -0.054503 -0.788866 -0.228088 -0.404783
15 0.955298 -1.430019 1.434071 -0.088215
16 -0.227946 0.047462 0.373573 -0.111675
17 1.627912 0.043611 1.743403 -0.012714
19 0.104425 0.037412 0.450598 -0.923387
df.loc[:, 'NewCol'] = 0
df
A B C D NewCol
0 -0.761269 0.477348 1.170614 0.752714 0
1 1.217250 -0.930860 -0.769324 -0.408642 0
2 -0.619679 -1.227659 -0.259135 1.700294 0
4 -0.529529 0.000571 0.913779 1.395894 0
6 0.757178 0.240012 -0.553820 1.177202 0
7 -0.986128 -1.313843 0.788589 -0.707836 0
9 -0.692013 0.671866 1.179466 -1.180351 0
11 -0.143273 -0.503199 -1.328728 0.610552 0
12 -0.923110 -1.365890 -1.366202 -1.185999 0
13 -2.026832 0.273593 -0.440426 -0.627423 0
14 -0.054503 -0.788866 -0.228088 -0.404783 0
15 0.955298 -1.430019 1.434071 -0.088215 0
16 -0.227946 0.047462 0.373573 -0.111675 0
17 1.627912 0.043611 1.743403 -0.012714 0
19 0.104425 0.037412 0.450598 -0.923387 0
解决方案 15：
不过，有一点需要注意的是，如果你这样做
df1['e'] = Series(np.random.randn(sLength), index=df1.index)
这实际上是df1.index 上的左连接。因此，如果您想要获得外连接效果，我可能不完美的解决方案是创建一个数据框，其中索引值覆盖数据的范围，然后使用上面的代码。例如，
data = pd.DataFrame(index=all_possible_values)
df1['e'] = Series(np.random.randn(sLength), index=df1.index)
解决方案 16：
要在数据框中的给定位置（0 <= 位置 <= 列数）插入新列，只需使用 Dataframe.insert：
DataFrame.insert(loc, column, value)
因此，如果您想在名为df 的数据框末尾添加e列，则可以使用：
e = [-0.335485, -1.166658, -0.385571]
DataFrame.insert(loc=len(df.columns), column='e', value=e)
值可以是 Series、整数（此时所有单元格都用这个值填充）或类似数组的结构
https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.insert.html
解决方案 17：
我只想补充一点，就像hum3一样，.loc没有解决SettingWithCopyWarning，我不得不求助于df.insert()。 在我的情况下，假阳性是由“假”链索引生成的 dict['a']['e']，其中'e'是新列，并且dict['a']是来自字典的 DataFrame。
另请注意，如果您知道自己在做什么，则可以使用切换警告pd.options.mode.chained_assignment = None
，然后使用此处提供的其他解决方案之一。
解决方案 18：
在分配新列之前，如果您有索引数据，则需要对索引进行排序。至少在我的情况下，我必须：
data.set_index(['index_column'], inplace=True)
"if index is unsorted, assignment of a new column will fail"
data.sort_index(inplace = True)
data.loc['index_value1', 'column_y'] = np.random.randn(data.loc['index_value1', 'column_x'].shape[0])
解决方案 19：
有四种方法可以向 pandas DataFrame 插入新列：
简单赋值
插入（）
分配（）
连接()
让我们考虑以下例子：
import pandas as pd
df = pd.DataFrame({
'col_a':[True, False, False],
'col_b': [1, 2, 3],
})
print(df)
col_a col_b
0 True 1
1 False 2
2 False 3
使用简单赋值
ser = pd.Series(['a', 'b', 'c'], index=[0, 1, 2])
print(ser)
0 a
1 b
2 c
dtype: object
df['col_c'] = pd.Series(['a', 'b', 'c'], index=[1, 2, 3])
print(df)
col_a col_b col_c
0 True 1 NaN
1 False 2 a
2 False 3 b
使用assign()
e = pd.Series([1.0, 3.0, 2.0], index=[0, 2, 1])
ser = pd.Series(['a', 'b', 'c'], index=[0, 1, 2])
df.assign(colC=s.values, colB=e.values)
col_a col_b col_c
0 True 1.0 a
1 False 3.0 b
2 False 2.0 c
使用 insert()
df.insert(len(df.columns), 'col_c', ser.values)
print(df)
col_a col_b col_c
0 True 1 a
1 False 2 b
2 False 3 c
使用 concat()
ser = pd.Series(['a', 'b', 'c'], index=[10, 20, 30])
df = pd.concat([df, ser.rename('colC')], axis=1)
print(df)
col_a col_b col_c
0 True 1.0 NaN
1 False 2.0 NaN
2 False 3.0 NaN
10 NaN NaN a
20 NaN NaN b
30 NaN NaN c
解决方案 20：
向现有数据框添加新列“e”
df1.loc[:,'e'] = Series(np.random.randn(sLength))
解决方案 21：
我正在寻找一种通用的方法，将一列numpy.nans 添加到数据框中，而不会变得愚蠢SettingWithCopyWarning。
从以下内容：
答案在这里
关于将变量作为关键字参数传递的问题
此方法用于生成
numpyNaN 数组
我想到了这个：
col = 'column_name'
df = df.assign(**{col:numpy.full(len(df), numpy.nan)})
解决方案 22：
为了完整性——还有另一种使用DataFrame.eval()方法的解决方案：
数据：
In [44]: e
Out[44]:
0 1.225506
1 -1.033944
2 -0.498953
3 -0.373332
4 0.615030
5 -0.622436
dtype: float64
In [45]: df1
Out[45]:
a b c d
0 -0.634222 -0.103264 0.745069 0.801288
4 0.782387 -0.090279 0.757662 -0.602408
5 -0.117456 2.124496 1.057301 0.765466
7 0.767532 0.104304 -0.586850 1.051297
8 -0.103272 0.958334 1.163092 1.182315
9 -0.616254 0.296678 -0.112027 0.679112
解决方案：
In [46]: df1.eval("e = @e.values", inplace=True)
In [47]: df1
Out[47]:
a b c d e
0 -0.634222 -0.103264 0.745069 0.801288 1.225506
4 0.782387 -0.090279 0.757662 -0.602408 -1.033944
5 -0.117456 2.124496 1.057301 0.765466 -0.498953
7 0.767532 0.104304 -0.586850 1.051297 -0.373332
8 -0.103272 0.958334 1.163092 1.182315 0.615030
9 -0.616254 0.296678 -0.112027 0.679112 -0.622436
解决方案 23：
如果您只需要创建一个新的空列，那么最短的解决方案是：
df.loc[:, 'e'] = pd.Series()
解决方案 24：
以下是我所做的...但我对 pandas 和 Python 还很陌生，所以不能保证。
df = pd.DataFrame([[1, 2], [3, 4], [5,6]], columns=list('AB'))
newCol = [3,5,7]
newName = 'C'
values = np.insert(df.values,df.shape[1],newCol,axis=1)
header = df.columns.values.tolist()
header.append(newName)
df = pd.DataFrame(values,columns=header)
解决方案 25：
如果我们想要为 df 中新列的所有行分配一个缩放值（例如：10）：
df = df.assign(new_col=lambda x:10) # x is each row passed in to the lambda func
df 现在将在所有行中拥有新列“new_col”，其值为 10。
解决方案 26：
如果您得到了SettingWithCopyWarning，一个简单的解决方法就是复制您尝试添加列的 DataFrame。
df = df.copy()
df['col_name'] = values
解决方案 27：
x=pd.DataFrame([1,2,3,4,5])
y=pd.DataFrame([5,4,3,2,1])
z=pd.concat([x,y],axis=1)
解决方案 28：
这是向 pandas 数据框添加新列的特殊情况。在这里，我根据数据框的现有列数据添加新特征/列。
因此，让我们的数据框具有列“feature_1”，“feature_2”，“probability_score”，并且我们必须根据列“probability_score”中的数据添加一个新的列“predicted_class”。
我将使用 python 中的 map() 函数，并定义我自己的函数，该函数将实现如何为 dataFrame 中的每一行赋予特定 class_label 的逻辑。
data = pd.read_csv('data.csv')
def myFunction(x):
//implement your logic here
if so and so:
return a
return b
variable_1 = data['probability_score']
predicted_class = variable_1.map(myFunction)
data['predicted_class'] = predicted_class
// check dataFrame, new column is included based on an existing column data for each row
data.head()
解决方案 29：
每当您将 Series 对象作为新列添加到现有 DF 时，您需要确保它们都具有相同的索引。然后将其添加到 DF
e_series = pd.Series([-0.335485, -1.166658,-0.385571])
print(e_series)
e_series.index = d_f.index
d_f['e'] = e_series
d_f
解决方案 30：
import pandas as pd
# Define a dictionary containing data
data = {'a': [0,0,0.671399,0.446172,0,0.614758],
'b': [0,0,0.101208,-0.243316,0,0.075793],
'c': [0,0,-0.181532,0.051767,0,-0.451460],
'd': [0,0,0.241273,1.577318,0,-0.012493]}
# Convert the dictionary into DataFrame
df = pd.DataFrame(data)
# Declare a list that is to be converted into a column
col_e = [-0.335485,-1.166658,-0.385571,0,0,0]
df['e'] = col_e
# add column 'e'
df['e'] = col_e
# Observe the result
df
