Объединить два кадра данных по индексу

160

Привет у меня есть следующие датафреймы:

> df1
  id begin conditional confidence discoveryTechnique  
0 278    56       false        0.0                  1   
1 421    18       false        0.0                  1 

> df2
   concept 
0  A  
1  B

Как мне слить по индексам, чтобы получить:

  id begin conditional confidence discoveryTechnique   concept 
0 278    56       false        0.0                  1  A 
1 421    18       false        0.0                  1  B

Я спрашиваю, потому что, как я понимаю, то merge()есть df1.merge(df2)использует столбцы для сопоставления. Фактически, делая это, я получаю:

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/usr/local/lib/python2.7/dist-packages/pandas/core/frame.py", line 4618, in merge
    copy=copy, indicator=indicator)
  File "/usr/local/lib/python2.7/dist-packages/pandas/tools/merge.py", line 58, in merge
    copy=copy, indicator=indicator)
  File "/usr/local/lib/python2.7/dist-packages/pandas/tools/merge.py", line 491, in __init__
    self._validate_specification()
  File "/usr/local/lib/python2.7/dist-packages/pandas/tools/merge.py", line 812, in _validate_specification
    raise MergeError('No common columns to perform merge on')
pandas.tools.merge.MergeError: No common columns to perform merge on

Это плохая практика для слияния по индексу? Это невозможно? Если это так, как я могу переместить индекс в новый столбец под названием «индекс»?

Спасибо

— brucezepplin
источник

3

попробуйте это:df1.join(df2)

— MaxU

Что делать, если вы хотите объединить по индексу одного кадра данных и столбцу второго кадра данных. (У моего второго информационного кадра есть столбец, который совпадает с индексом в первом df.)

— Микки

321

Используйте merge, который является внутренним соединением по умолчанию:

pd.merge(df1, df2, left_index=True, right_index=True)

Или join, который оставлен присоединиться по умолчанию:

df1.join(df2)

Или concat, который является внешним соединением по умолчанию:

pd.concat([df1, df2], axis=1)

Образцы :

df1 = pd.DataFrame({'a':range(6),
                    'b':[5,3,6,9,2,4]}, index=list('abcdef'))

print (df1)
   a  b
a  0  5
b  1  3
c  2  6
d  3  9
e  4  2
f  5  4

df2 = pd.DataFrame({'c':range(4),
                    'd':[10,20,30, 40]}, index=list('abhi'))

print (df2)
   c   d
a  0  10
b  1  20
h  2  30
i  3  40

#default inner join
df3 = pd.merge(df1, df2, left_index=True, right_index=True)
print (df3)
   a  b  c   d
a  0  5  0  10
b  1  3  1  20

#default left join
df4 = df1.join(df2)
print (df4)
   a  b    c     d
a  0  5  0.0  10.0
b  1  3  1.0  20.0
c  2  6  NaN   NaN
d  3  9  NaN   NaN
e  4  2  NaN   NaN
f  5  4  NaN   NaN

#default outer join
df5 = pd.concat([df1, df2], axis=1)
print (df5)
     a    b    c     d
a  0.0  5.0  0.0  10.0
b  1.0  3.0  1.0  20.0
c  2.0  6.0  NaN   NaN
d  3.0  9.0  NaN   NaN
e  4.0  2.0  NaN   NaN
f  5.0  4.0  NaN   NaN
h  NaN  NaN  2.0  30.0
i  NaN  NaN  3.0  40.0

— jezrael
источник

2

отлично. для других, читающих это, если это не работает, посмотрите, нужен ли вам .transpose()один из ваших dfs для синхронизации индексов - это было моей проблемой

— Jona

2

Большое спасибо. Отличный ответ. Но почему concatнужно заключать df в скобки, joinа mergeне делать?

— Боуэн Лю

@Bowen Liu По моему мнению, для возможного согласования нескольких DataFrames в списке, как dfs = [df1, df2, df3,... dfn]и затемdf = pd. concat(dfs)

— Jezrael

@jezrael Не могли бы вы проверить мой новый вопрос на stackoverflow.com/questions/57133848/…

— Msquare

29

Вы можете использовать concat ([df1, df2, ...], axis = 1) для объединения двух или более DF, выровненных по индексам:

pd.concat([df1, df2, df3, ...], axis=1)

или объединить для объединения по настраиваемым полям / индексам:

# join by _common_ columns: `col1`, `col3`
pd.merge(df1, df2, on=['col1','col3'])

# join by: `df1.col1 == df2.index`
pd.merge(df1, df2, left_on='col1' right_index=True)

или присоединиться для присоединения по индексу:

 df1.join(df2)

— MaxU
источник

6

По умолчанию:
joinлевое соединение
pd.mergeпо столбцам. Внутреннее соединение по столбцам.
pd.concatВнешнее соединение по строкам.

pd.concat:
принимает итерируемые аргументы. Таким образом, он не может принимать DataFrames напрямую (использовать [df,df2])
Размеры DataFrame должны совпадать по оси

Joinи pd.merge:
может принимать аргументы DataFrame

— vicpal
источник

5

Глупая ошибка, которая меня достала: объединения не состоялись, потому что индекс dtypesотличался. Это не было очевидно, поскольку обе таблицы были сводными таблицами одной и той же исходной таблицы. После reset_indexэтого индексы в Jupyter выглядели одинаково. Выявилась только при сохранении в Excel ...

Исправлено с помощью: df1[['key']] = df1[['key']].apply(pd.to_numeric)

Надеюсь, это сэкономит кому-то час!

— Стивен Моррелл
источник

4

Если вы хотите объединить два кадра данных в пандах, вы можете просто использовать доступные атрибуты, такие как mergeили concatenate. Например, если у меня есть два кадра данных, df1и df2я могу присоединиться к ним:

newdataframe=merge(df1,df2,left_index=True,right_index=True)

— виньеш бабу
источник