Я сравнил несколько возможных для этого методов, включая pandas, несколько методов numpy и метод понимания списка.
Во-первых, давайте начнем с базовой линии:
>>> import numpy as np
>>> import operator
>>> import pandas as pd
>>> x = [1, 2, 1, 2]
>>> %time count = np.sum(np.equal(1, x))
>>> print("Count {} using numpy equal with ints".format(count))
CPU times: user 52 µs, sys: 0 ns, total: 52 µs
Wall time: 56 µs
Count 2 using numpy equal with ints
Итак, наша исходная позиция - подсчет должен быть правильным 2
, и мы должны принять меры 50 us
.
Теперь попробуем наивный метод:
>>> x = ['s', 'b', 's', 'b']
>>> %time count = np.sum(np.equal('s', x))
>>> print("Count {} using numpy equal".format(count))
CPU times: user 145 µs, sys: 24 µs, total: 169 µs
Wall time: 158 µs
Count NotImplemented using numpy equal
/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/ipykernel_launcher.py:1: FutureWarning: elementwise comparison failed; returning scalar instead, but in the future will perform elementwise comparison
"""Entry point for launching an IPython kernel.
И здесь мы получаем неправильный ответ ( NotImplemented != 2
), это занимает у нас много времени и выдает предупреждение.
Итак, попробуем другой наивный метод:
>>> %time count = np.sum(x == 's')
>>> print("Count {} using ==".format(count))
CPU times: user 46 µs, sys: 1 µs, total: 47 µs
Wall time: 50.1 µs
Count 0 using ==
Опять неправильный ответ ( 0 != 2
). Это еще более коварно, потому что нет никаких последующих предупреждений ( 0
их можно передавать точно так же 2
).
Теперь попробуем составить список:
>>> %time count = np.sum([operator.eq(_x, 's') for _x in x])
>>> print("Count {} using list comprehension".format(count))
CPU times: user 55 µs, sys: 1 µs, total: 56 µs
Wall time: 60.3 µs
Count 2 using list comprehension
Здесь мы получаем правильный ответ, и это довольно быстро!
Другая возможность pandas
:
>>> y = pd.Series(x)
>>> %time count = np.sum(y == 's')
>>> print("Count {} using pandas ==".format(count))
CPU times: user 453 µs, sys: 31 µs, total: 484 µs
Wall time: 463 µs
Count 2 using pandas ==
Медленно, но правильно!
И, наконец, вариант, который я собираюсь использовать: приведение numpy
массива к object
типу:
>>> x = np.array(['s', 'b', 's', 'b']).astype(object)
>>> %time count = np.sum(np.equal('s', x))
>>> print("Count {} using numpy equal".format(count))
CPU times: user 50 µs, sys: 1 µs, total: 51 µs
Wall time: 55.1 µs
Count 2 using numpy equal
Быстро и правильно!
thing
(которое может быть или не быть типом numpy; я не знаю), и я хочу посмотреть,thing == 'some string'
получится ли и получить простойbool
результат, что мне делать?np.atleast_1d(thing)[0] == 'some string'
? Но это ненадежно для какого-нибудь шутника, вставляющего'some string'
первый элемент массива. Я думаю, мне нужноthing
сначала проверить тип, а затем выполнить==
тест только в том случае, если это строка (или не объект numpy).