Принятое решение будет очень медленным для большого количества данных. Решение с наибольшим количеством голосов является немного сложным для чтения, а также медленным с числовыми данными. Если бы каждый новый столбец можно было вычислить независимо от других, я бы просто назначил каждый из них напрямую, не используяapply
.
Пример с поддельными символами
Создать 100 000 строк в DataFrame
df = pd.DataFrame(np.random.choice(['he jumped', 'she ran', 'they hiked'],
size=100000, replace=True),
columns=['words'])
df.head()
words
0 she ran
1 she ran
2 they hiked
3 they hiked
4 they hiked
Допустим, мы хотели извлечь некоторые текстовые функции, как было сделано в исходном вопросе. Например, давайте извлечем первый символ, посчитаем вхождение буквы «е» и заглавную фразу.
df['first'] = df['words'].str[0]
df['count_e'] = df['words'].str.count('e')
df['cap'] = df['words'].str.capitalize()
df.head()
words first count_e cap
0 she ran s 1 She ran
1 she ran s 1 She ran
2 they hiked t 2 They hiked
3 they hiked t 2 They hiked
4 they hiked t 2 They hiked
Задержки
%%timeit
df['first'] = df['words'].str[0]
df['count_e'] = df['words'].str.count('e')
df['cap'] = df['words'].str.capitalize()
127 ms ± 585 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
def extract_text_features(x):
return x[0], x.count('e'), x.capitalize()
%timeit df['first'], df['count_e'], df['cap'] = zip(*df['words'].apply(extract_text_features))
101 ms ± 2.96 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
Удивительно, но вы можете повысить производительность, просматривая каждое значение
%%timeit
a,b,c = [], [], []
for s in df['words']:
a.append(s[0]), b.append(s.count('e')), c.append(s.capitalize())
df['first'] = a
df['count_e'] = b
df['cap'] = c
79.1 ms ± 294 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
Еще один пример с поддельными числовыми данными
Создайте 1 миллион случайных чисел и протестируйте powers
функцию сверху.
df = pd.DataFrame(np.random.rand(1000000), columns=['num'])
def powers(x):
return x, x**2, x**3, x**4, x**5, x**6
%%timeit
df['p1'], df['p2'], df['p3'], df['p4'], df['p5'], df['p6'] = \
zip(*df['num'].map(powers))
1.35 s ± 83.6 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
Назначение каждого столбца в 25 раз быстрее и очень читабельно:
%%timeit
df['p1'] = df['num'] ** 1
df['p2'] = df['num'] ** 2
df['p3'] = df['num'] ** 3
df['p4'] = df['num'] ** 4
df['p5'] = df['num'] ** 5
df['p6'] = df['num'] ** 6
51.6 ms ± 1.9 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
Я сделал аналогичный ответ с более подробной информацией о том, почему, apply
как правило, это не тот путь.
df.ix[: ,10:16]
. Я думаю, что вы будете использоватьmerge
ваши функции в наборе данных.