У меня есть одномерный массив в numpy, и я хочу найти позицию индекса, в которой значение превышает значение в массиве numpy.
Например
aa = range(-10,10)
Найдите позицию, в aa
которой значение 5
будет превышено.
У меня есть одномерный массив в numpy, и я хочу найти позицию индекса, в которой значение превышает значение в массиве numpy.
Например
aa = range(-10,10)
Найдите позицию, в aa
которой значение 5
будет превышено.
Ответы:
Это немного быстрее (и выглядит лучше)
np.argmax(aa>5)
Поскольку argmax
остановится на первом True
(«В случае нескольких повторений максимальных значений, возвращаются индексы, соответствующие первому вхождению.») И не сохраняет другой список.
In [2]: N = 10000
In [3]: aa = np.arange(-N,N)
In [4]: timeit np.argmax(aa>N/2)
100000 loops, best of 3: 52.3 us per loop
In [5]: timeit np.where(aa>N/2)[0][0]
10000 loops, best of 3: 141 us per loop
In [6]: timeit np.nonzero(aa>N/2)[0][0]
10000 loops, best of 3: 142 us per loop
argmax
похоже, не останавливается на первом True
. (Это можно проверить, создав логические массивы с одним True
в разных позициях.) Скорость, вероятно, объясняется тем, что argmax
не нужно создавать выходной список.
argmax
.
aa
сортируется ли , как в ответе @ Michael).
argmax
логические массивы из 10 миллионов элементов с одним True
в разных позициях, используя NumPy 1.11.2, и позицию True
значения. Таким образом, argmax
кажется, что 1.11.2 "закорачивает" логические массивы.
учитывая отсортированное содержимое вашего массива, есть еще более быстрый метод: searchsorted .
import time
N = 10000
aa = np.arange(-N,N)
%timeit np.searchsorted(aa, N/2)+1
%timeit np.argmax(aa>N/2)
%timeit np.where(aa>N/2)[0][0]
%timeit np.nonzero(aa>N/2)[0][0]
# Output
100000 loops, best of 3: 5.97 µs per loop
10000 loops, best of 3: 46.3 µs per loop
10000 loops, best of 3: 154 µs per loop
10000 loops, best of 3: 154 µs per loop
+1
np.searchsorted(..., side='right')
side
аргумент имеет значение только в том случае, если в отсортированном массиве есть повторяющиеся значения. Это не меняет значения возвращаемого индекса, который всегда является индексом, в который вы можете вставить значение запроса, смещая все следующие записи вправо и сохраняя отсортированный массив.
side
действует, когда одно и то же значение присутствует как в отсортированном, так и во вставленном массиве, независимо от повторяющихся значений в любом из них. Повторяющиеся значения в отсортированном массиве просто преувеличивают эффект (разница между сторонами - это количество раз, когда вставляемое значение появляется в отсортированном массиве). side
это изменить значение возвращаемого индекса, хотя он не изменяет результирующий массив из вставки значения в отсортированный массив на этих индексах. Тонкое, но важное различие; на самом деле этот ответ дает неправильный индекс, если N/2
его нет aa
.
N/2
его нет aa
. Правильная форма будет np.searchsorted(aa, N/2, side='right')
(без +1
). В противном случае обе формы дают одинаковый индекс. Рассмотрим контрольный пример N
нечетности (и N/2.0
принудительного смещения с плавающей запятой при использовании python 2).
Меня это тоже интересовало, и я сравнил все предложенные ответы с perfplot . (Отказ от ответственности: я являюсь автором perfplot.)
Если вы знаете, что просматриваемый массив уже отсортирован , тогда
numpy.searchsorted(a, alpha)
это для вас. Это операция O (log (n)), т.е. скорость практически не зависит от размера массива. Вы не можете быть быстрее этого.
Если вы ничего не знаете о своем массиве, вы не ошибетесь с
numpy.argmax(a > alpha)
Уже отсортировано:
Несортированный:
Код для воспроизведения сюжета:
import numpy
import perfplot
alpha = 0.5
numpy.random.seed(0)
def argmax(data):
return numpy.argmax(data > alpha)
def where(data):
return numpy.where(data > alpha)[0][0]
def nonzero(data):
return numpy.nonzero(data > alpha)[0][0]
def searchsorted(data):
return numpy.searchsorted(data, alpha)
perfplot.save(
"out.png",
# setup=numpy.random.rand,
setup=lambda n: numpy.sort(numpy.random.rand(n)),
kernels=[argmax, where, nonzero, searchsorted],
n_range=[2 ** k for k in range(2, 23)],
xlabel="len(array)",
)
np.searchsorted
не постоянное время. На самом деле O(log(n))
. Но ваш тестовый пример на самом деле сравнивает лучший вариант searchsorted
(который есть O(1)
).
searchsorted
(или любой алгоритм) может превзойти O(log(n))
двоичный поиск отсортированных равномерно распределенных данных. EDIT: searchsorted
это двоичный поиск.
В случае a range
или любого другого линейно возрастающего массива вы можете просто вычислить индекс программно, без необходимости фактически перебирать массив:
def first_index_calculate_range_like(val, arr):
if len(arr) == 0:
raise ValueError('no value greater than {}'.format(val))
elif len(arr) == 1:
if arr[0] > val:
return 0
else:
raise ValueError('no value greater than {}'.format(val))
first_value = arr[0]
step = arr[1] - first_value
# For linearly decreasing arrays or constant arrays we only need to check
# the first element, because if that does not satisfy the condition
# no other element will.
if step <= 0:
if first_value > val:
return 0
else:
raise ValueError('no value greater than {}'.format(val))
calculated_position = (val - first_value) / step
if calculated_position < 0:
return 0
elif calculated_position > len(arr) - 1:
raise ValueError('no value greater than {}'.format(val))
return int(calculated_position) + 1
Возможно, это можно было бы немного улучшить. Я убедился, что он работает правильно для нескольких образцов массивов и значений, но это не значит, что там не может быть ошибок, особенно учитывая, что он использует числа с плавающей запятой ...
>>> import numpy as np
>>> first_index_calculate_range_like(5, np.arange(-10, 10))
16
>>> np.arange(-10, 10)[16] # double check
6
>>> first_index_calculate_range_like(4.8, np.arange(-10, 10))
15
Учитывая, что он может вычислить позицию без какой-либо итерации, он будет постоянным time ( O(1)
) и, вероятно, сможет превзойти все другие упомянутые подходы. Однако для этого требуется постоянный шаг в массиве, иначе это приведет к неправильным результатам.
Более общий подход будет использовать функцию numba:
@nb.njit
def first_index_numba(val, arr):
for idx in range(len(arr)):
if arr[idx] > val:
return idx
return -1
Это будет работать для любого массива, но он должен перебирать массив, поэтому в среднем случае это будет O(n)
:
>>> first_index_numba(4.8, np.arange(-10, 10))
15
>>> first_index_numba(5, np.arange(-10, 10))
16
Несмотря на то, что Нико Шлёмер уже предоставил несколько тестов, я подумал, что было бы полезно включить мои новые решения и протестировать их на разные «значения».
Схема тестирования:
import numpy as np
import math
import numba as nb
def first_index_using_argmax(val, arr):
return np.argmax(arr > val)
def first_index_using_where(val, arr):
return np.where(arr > val)[0][0]
def first_index_using_nonzero(val, arr):
return np.nonzero(arr > val)[0][0]
def first_index_using_searchsorted(val, arr):
return np.searchsorted(arr, val) + 1
def first_index_using_min(val, arr):
return np.min(np.where(arr > val))
def first_index_calculate_range_like(val, arr):
if len(arr) == 0:
raise ValueError('empty array')
elif len(arr) == 1:
if arr[0] > val:
return 0
else:
raise ValueError('no value greater than {}'.format(val))
first_value = arr[0]
step = arr[1] - first_value
if step <= 0:
if first_value > val:
return 0
else:
raise ValueError('no value greater than {}'.format(val))
calculated_position = (val - first_value) / step
if calculated_position < 0:
return 0
elif calculated_position > len(arr) - 1:
raise ValueError('no value greater than {}'.format(val))
return int(calculated_position) + 1
@nb.njit
def first_index_numba(val, arr):
for idx in range(len(arr)):
if arr[idx] > val:
return idx
return -1
funcs = [
first_index_using_argmax,
first_index_using_min,
first_index_using_nonzero,
first_index_calculate_range_like,
first_index_numba,
first_index_using_searchsorted,
first_index_using_where
]
from simple_benchmark import benchmark, MultiArgument
и графики были созданы с использованием:
%matplotlib notebook
b.plot()
b = benchmark(
funcs,
{2**i: MultiArgument([0, np.arange(2**i)]) for i in range(2, 20)},
argument_name="array size")
Лучше всего работает функция numba, за которой следуют функция вычисления и функция поиска. Остальные решения работают намного хуже.
b = benchmark(
funcs,
{2**i: MultiArgument([2**i-2, np.arange(2**i)]) for i in range(2, 20)},
argument_name="array size")
Для небольших массивов функция numba работает потрясающе быстро, однако для массивов большего размера она уступает функции calculate-function и searchsorted.
b = benchmark(
funcs,
{2**i: MultiArgument([np.sqrt(2**i), np.arange(2**i)]) for i in range(2, 20)},
argument_name="array size")
Это более интересно. Снова numba и функция вычисления работают отлично, однако на самом деле это вызывает наихудший случай сортировки по поиску, который в данном случае действительно не работает.
Еще один интересный момент: как ведут себя эти функции, если нет значения, индекс которого должен быть возвращен:
arr = np.ones(100)
value = 2
for func in funcs:
print(func.__name__)
try:
print('-->', func(value, arr))
except Exception as e:
print('-->', e)
С таким результатом:
first_index_using_argmax
--> 0
first_index_using_min
--> zero-size array to reduction operation minimum which has no identity
first_index_using_nonzero
--> index 0 is out of bounds for axis 0 with size 0
first_index_calculate_range_like
--> no value greater than 2
first_index_numba
--> -1
first_index_using_searchsorted
--> 101
first_index_using_where
--> index 0 is out of bounds for axis 0 with size 0
Searchsorted, argmax и numba просто возвращают неверное значение. Однако searchsorted
и numba
вернуть индекс, который не является допустимым индексом для массива.
Функции where
, min
, nonzero
и calculate
бросить исключение. Однако только исключение calculate
говорит что-то полезное.
Это означает, что на самом деле нужно обернуть эти вызовы в соответствующую функцию-оболочку, которая перехватывает исключения или недопустимые возвращаемые значения и обрабатывает их соответствующим образом, по крайней мере, если вы не уверены, может ли значение находиться в массиве.
Примечание. Параметры расчета и searchsorted
работают только в особых условиях. Функция «вычислить» требует постоянного шага, а функция searchsorted требует сортировки массива. Таким образом, они могут быть полезны в определенных обстоятельствах, но не являются общими решениями этой проблемы. Если вы имеете дело с отсортированными списками Python, вы можете взглянуть на модуль bisect вместо использования Numpys searchsorted.