Предупреждение пользователя Python Pandas: сортировка, поскольку ось без объединения не выровнена

93

Я делаю некоторую практику кода и применяю слияние фреймов данных при этом, получая предупреждение пользователя

/usr/lib64/python2.7/site-packages/pandas/core/frame.py:6201: FutureWarning: Сортировка, поскольку ось без конкатенации не выровнена. В будущей версии pandas по умолчанию будет отключена сортировка. Чтобы принять будущее поведение, передайте sort = True. Чтобы сохранить текущее поведение и отключить предупреждение, передайте sort = False

В этих строках кода: Не могли бы вы помочь решить это предупреждение.

placement_video = [self.read_sql_vdx_summary, self.read_sql_video_km]
placement_video_summary = reduce(lambda left, right: pd.merge(left, right, on='PLACEMENT', sort=False), placement_video)


placement_by_video = placement_video_summary.loc[:, ["PLACEMENT", "PLACEMENT_NAME", "COST_TYPE", "PRODUCT",
                                                     "VIDEONAME", "VIEW0", "VIEW25", "VIEW50", "VIEW75",
                                                     "VIEW100",
                                                     "ENG0", "ENG25", "ENG50", "ENG75", "ENG100", "DPE0",
                                                     "DPE25",
                                                     "DPE50", "DPE75", "DPE100"]]

# print (placement_by_video)

placement_by_video["Placement# Name"] = placement_by_video[["PLACEMENT",
                                                            "PLACEMENT_NAME"]].apply(lambda x: ".".join(x),
                                                                                     axis=1)

placement_by_video_new = placement_by_video.loc[:,
                         ["PLACEMENT", "Placement# Name", "COST_TYPE", "PRODUCT", "VIDEONAME",
                          "VIEW0", "VIEW25", "VIEW50", "VIEW75", "VIEW100",
                          "ENG0", "ENG25", "ENG50", "ENG75", "ENG100", "DPE0", "DPE25",
                          "DPE50", "DPE75", "DPE100"]]

placement_by_km_video = [placement_by_video_new, self.read_sql_km_for_video]
placement_by_km_video_summary = reduce(lambda left, right: pd.merge(left, right, on=['PLACEMENT', 'PRODUCT'], sort=False),
                                       placement_by_km_video)

#print (list(placement_by_km_video_summary))
#print(placement_by_km_video_summary)
#exit()
# print(placement_by_video_new)
"""Conditions for 25%view"""
mask17 = placement_by_km_video_summary["PRODUCT"].isin(['Display', 'Mobile'])
mask18 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPCV"])
mask19 = placement_by_km_video_summary["PRODUCT"].isin(["InStream"])
mask20 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPE+", "CPCV"])
mask_video_video_completions = placement_by_km_video_summary["COST_TYPE"].isin(["CPCV"])
mask21 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE+"])
mask22 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM"])
mask23 = placement_by_km_video_summary["PRODUCT"].isin(['Display', 'Mobile', 'InStream'])
mask24 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPE+"])

choice25video_eng = placement_by_km_video_summary["ENG25"]
choice25video_vwr = placement_by_km_video_summary["VIEW25"]
choice25video_deep = placement_by_km_video_summary["DPE25"]

placement_by_km_video_summary["25_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice25video_eng, choice25video_vwr, choice25video_deep])


"""Conditions for 50%view"""
choice50video_eng = placement_by_km_video_summary["ENG50"]
choice50video_vwr = placement_by_km_video_summary["VIEW50"]
choice50video_deep = placement_by_km_video_summary["DPE50"]

placement_by_km_video_summary["50_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice50video_eng,
                                                   choice50video_vwr, choice50video_deep])

"""Conditions for 75%view"""

choice75video_eng = placement_by_km_video_summary["ENG75"]
choice75video_vwr = placement_by_km_video_summary["VIEW75"]
choice75video_deep = placement_by_km_video_summary["DPE75"]

placement_by_km_video_summary["75_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice75video_eng,
                                                   choice75video_vwr,
                                                   choice75video_deep])

"""Conditions for 100%view"""

choice100video_eng = placement_by_km_video_summary["ENG100"]
choice100video_vwr = placement_by_km_video_summary["VIEW100"]
choice100video_deep = placement_by_km_video_summary["DPE100"]
choicecompletions = placement_by_km_video_summary['COMPLETIONS']

placement_by_km_video_summary["100_pc_video"] = np.select([mask17 & mask22, mask19 & mask24, mask17 & mask21, mask23 & mask_video_video_completions],
                                                          [choice100video_eng, choice100video_vwr, choice100video_deep, choicecompletions])



"""conditions for 0%view"""

choice0video_eng = placement_by_km_video_summary["ENG0"]
choice0video_vwr = placement_by_km_video_summary["VIEW0"]
choice0video_deep = placement_by_km_video_summary["DPE0"]

placement_by_km_video_summary["Views"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                   [choice0video_eng,
                                                    choice0video_vwr,
                                                    choice0video_deep])


#print (placement_by_km_video_summary)
#exit()

#final Table

placement_by_video_summary = placement_by_km_video_summary.loc[:,
                             ["PLACEMENT", "Placement# Name", "PRODUCT", "VIDEONAME", "COST_TYPE",
                              "Views", "25_pc_video", "50_pc_video", "75_pc_video","100_pc_video",
                              "ENGAGEMENTS","IMPRESSIONS", "DPEENGAMENTS"]]

#placement_by_km_video = [placement_by_video_summary, self.read_sql_km_for_video]
#placement_by_km_video_summary = reduce(lambda left, right: pd.merge(left, right, on=['PLACEMENT', 'PRODUCT']),
                                       #placement_by_km_video)


#print(placement_by_video_summary)
#exit()
# dup_col =["IMPRESSIONS","ENGAGEMENTS","DPEENGAMENTS"]

# placement_by_video_summary.loc[placement_by_video_summary.duplicated(dup_col),dup_col] = np.nan

# print ("Dhar",placement_by_video_summary)

'''adding views based on conditions'''
#filter maximum value from videos

placement_by_video_summary_new = placement_by_km_video_summary.loc[
    placement_by_km_video_summary.reset_index().groupby(['PLACEMENT', 'PRODUCT'])['Views'].idxmax()]
#print (placement_by_video_summary_new)
#exit()
# print (placement_by_video_summary_new)
# mask22 = (placement_by_video_summary_new.PRODUCT.str.upper ()=='DISPLAY') & (placement_by_video_summary_new.COST_TYPE=='CPE')

placement_by_video_summary_new.loc[mask17 & mask18, 'Views'] = placement_by_video_summary_new['ENGAGEMENTS']
placement_by_video_summary_new.loc[mask19 & mask20, 'Views'] = placement_by_video_summary_new['IMPRESSIONS']
placement_by_video_summary_new.loc[mask17 & mask21, 'Views'] = placement_by_video_summary_new['DPEENGAMENTS']

#print (placement_by_video_summary_new)
#exit()
placement_by_video_summary = placement_by_video_summary.drop(placement_by_video_summary_new.index).append(
    placement_by_video_summary_new).sort_index()

placement_by_video_summary["Video Completion Rate"] = placement_by_video_summary["100_pc_video"] / \
                                                      placement_by_video_summary["Views"]

placement_by_video_final = placement_by_video_summary.loc[:,
                           ["Placement# Name", "PRODUCT", "VIDEONAME", "Views",
                            "25_pc_video", "50_pc_video", "75_pc_video", "100_pc_video",
                            "Video Completion Rate"]]
python  pandas 
— МишД
источник

Ответы:

136

tl; dr:

concatи в appendнастоящее время сортирует индекс без объединения (например, столбцы, если вы добавляете строки), если столбцы не совпадают. В pandas 0.23 это начало генерировать предупреждение; передайте параметр, sort=Trueчтобы отключить его. В дальнейшем по умолчанию изменится не сортировать, так что лучше указать либо sort=Trueили Falseсейчас, или еще лучше убедиться , что индексы не-конкатенации совпадают.

Предупреждение новое в pandas 0.23.0 :

В версии будущего панд pandas.concat()и DataFrame.append()больше не будет своего рода ось без конкатенации , когда она уже не выровнены. Текущее поведение такое же, как и предыдущее (сортировка), но теперь выдается предупреждение, если сортировка не указана и ось без объединения не выровнена, link .

Дополнительная информация из связанной очень старой проблемы с github, комментарий smcinerney :

При объединении DataFrames имена столбцов сортируются в алфавитно-цифровом порядке, если между ними есть какие-либо различия. Если они идентичны в DataFrames, они не сортируются.

Этот вид недокументирован и нежелателен. Конечно, поведение по умолчанию не должно быть сортировкой.

Через некоторое время параметр sortбыл реализован в pandas.concatи DataFrame.append:

sort : boolean, по умолчанию Нет

Сортировка оси без объединения, если она еще не выровнена, когда соединение является «внешним». Текущая сортировка по умолчанию устарела и будет изменена на отсутствие сортировки в будущей версии pandas.

Явно передайте sort = True, чтобы отключить предупреждение и выполнить сортировку. Явно передайте sort = False, чтобы отключить предупреждение, а не сортировать.

Это не действует, когда join = 'inner' уже сохраняет порядок оси неконкатенации.

Поэтому, если оба DataFrames имеют одинаковые столбцы в одинаковом порядке, предупреждения и сортировки нет:

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['a', 'b'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['a', 'b'])

print (pd.concat([df1, df2]))
   a  b
0  1  0
1  2  8
0  4  7
1  5  3

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['b', 'a'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['b', 'a'])

print (pd.concat([df1, df2]))
   b  a
0  0  1
1  8  2
0  7  4
1  3  5

Но если DataFrames имеют разные столбцы или одни и те же столбцы в другом порядке, pandas возвращает предупреждение, если sortявно не задан ни один параметр ( sort=Noneэто значение по умолчанию):

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['b', 'a'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['a', 'b'])

print (pd.concat([df1, df2]))

FutureWarning: сортировка, поскольку ось без объединения не выровнена.

   a  b
0  1  0
1  2  8
0  4  7
1  5  3

print (pd.concat([df1, df2], sort=True))
   a  b
0  1  0
1  2  8
0  4  7
1  5  3

print (pd.concat([df1, df2], sort=False))
   b  a
0  0  1
1  8  2
0  7  4
1  3  5

Если DataFrames имеют разные столбцы, но первые столбцы выровнены - они будут правильно назначены друг другу (столбцы aи bиз df1с aи bиз df2в примере ниже), потому что они существуют в обоих. Для других столбцов, которые существуют в одном, но не в обоих DataFrames, создаются отсутствующие значения.

Наконец, если вы пройдете sort=True, столбцы будут отсортированы по алфавиту. Если sort=Falseи во втором DafaFrame есть столбцы, которых нет в первом, они добавляются в конец без сортировки:

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8], 'e':[5, 0]}, 
                    columns=['b', 'a','e'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3], 'c':[2, 8], 'd':[7, 0]}, 
                    columns=['c','b','a','d'])

print (pd.concat([df1, df2]))

FutureWarning: сортировка, поскольку ось без объединения не выровнена.

   a  b    c    d    e
0  1  0  NaN  NaN  5.0
1  2  8  NaN  NaN  0.0
0  4  7  2.0  7.0  NaN
1  5  3  8.0  0.0  NaN

print (pd.concat([df1, df2], sort=True))
   a  b    c    d    e
0  1  0  NaN  NaN  5.0
1  2  8  NaN  NaN  0.0
0  4  7  2.0  7.0  NaN
1  5  3  8.0  0.0  NaN

print (pd.concat([df1, df2], sort=False))

   b  a    e    c    d
0  0  1  5.0  NaN  NaN
1  8  2  0.0  NaN  NaN
0  7  4  NaN  2.0  7.0
1  3  5  NaN  8.0  0.0

В вашем коде:

placement_by_video_summary = placement_by_video_summary.drop(placement_by_video_summary_new.index)
                                                       .append(placement_by_video_summary_new, sort=True)
                                                       .sort_index()
— Jezrael
источник
21
Я не совсем понимаю: In a future version of pandas pandas.concat() and DataFrame.append() will no longer sort the non-concatenation axis when it is not already aligned. что такое non-concatenation axisи как будет выглядеть результат? столбец a и столбец b не совпадают? или просто порядок столбцов другой?
— предложение нельзя отказаться
9
Непонятно, что is not alignedзначит - не могли бы вы это прокомментировать?
— Mr_and_Mrs_D 03
1
Я считаю, alignedчто это означает, что уровни на оси одинаковы: если есть какая-либо разница, они больше не alignedбудут и будут вызывать такое поведение (например, если уровни на оси ['c','b','a']и ['a'])
— Роберт Муил
3
@RobertMuil Я думаю, что использование этого термина levelздесь потенциально сбивает с толку, поскольку levelимеет особое значение для фреймов данных pandas, когда есть MultiIndex. Насколько я понимаю, alignedв этом контексте имеется в виду упорядочение индекса строки / столбца. Таким образом, если порядок индекса оси без конкатенации отличается для ваших двух кадров, вы можете указать, следует ли сохранить порядок в первом переданном кадре и отсортировать второй кадр для соответствия или отсортировать индекс ОБЕИХ кадров перед объединением. Это тоже меня сбивает с толку, поэтому исправления приветствуются!
— ac24
Столбцы выравниваются, когда tuple(df1.columns) == tuple(df2.columns). Ось отсутствия конкатенации - это ось (строк или столбцов), параллельная швам, по которым сшиваются кадры данных.
— BallpointBen
107

Джезраэль ответил хорошо, но не ответил на мой вопрос: не испортит ли неправильный флаг «сортировка» мои данные? Ответ явно "нет", в любом случае у вас все в порядке.

from pandas import DataFrame, concat

a = DataFrame([{'a':1,      'c':2,'d':3      }])
b = DataFrame([{'a':4,'b':5,      'd':6,'e':7}])

>>> concat([a,b],sort=False)
   a    c  d    b    e
0  1  2.0  3  NaN  NaN
0  4  NaN  6  5.0  7.0

>>> concat([a,b],sort=True)
   a    b    c  d    e
0  1  NaN  2.0  3  NaN
0  4  5.0  NaN  6  7.0
— RLC
источник
что именно отсортировано или не отсортировано?
— Бен
2
@Ben предупреждение появляется, когда порядок столбцов в разных фреймах данных отличается. Как видите, если sort = True, столбцы после объединения сортируются в алфавитном порядке
— MP23,
В этом примере это не так, но если вы объедините несколько Series или DataFrames с DatetimeIndex, строки больше не будут в хронологическом порядке. Технически данные не испорчены, но ваш результат может быть труднее прочитать.
— hugovdberg
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.