如何在NumPy数组中获取N个最大值的索引？

我能想到的最简单的方法是：

>>> import numpy as np
>>> arr = np.array([1, 3, 2, 4, 5])
>>> arr.argsort()[-3:][::-1]
array([4, 3, 1])

这涉及到数组的完整排序。我想知道numpy是否提供了一种内置的方式来进行部分排序；到目前为止我还没能找到一个。

如果这个解决方案被证明太慢（特别是对于小的n），那么在Cython中编写一些代码可能是值得的。

这将比完整排序更快，具体取决于原始数组的大小和选择的大小：

>>> A = np.random.randint(0,10,10)
>>> A
array([5, 1, 5, 5, 2, 3, 2, 4, 1, 0])
>>> B = np.zeros(3, int)
>>> for i in xrange(3):
...     idx = np.argmax(A)
...     B[i]=idx; A[idx]=0 #something smaller than A.min()
...
>>> B
array([0, 2, 3])

当然，它涉及篡改您的原始数组。您可以通过复制或替换回原始值来修复（如果需要）。…以对您的用例更便宜的为准。

用途：

>>> import heapq
>>> import numpy
>>> a = numpy.array([1, 3, 2, 4, 5])
>>> heapq.nlargest(3, range(len(a)), a.take)
[4, 3, 1]

对于常规Python列表：

>>> a = [1, 3, 2, 4, 5]
>>> heapq.nlargest(3, range(len(a)), a.__getitem__)
[4, 3, 1]

如果您使用Python 2，请使用xrange而不是range。

图片来源：heapq-堆队列算法

较新的NumPy版本（1.8及更高版本）有一个名为argpartition的函数。要获取四个最大元素的索引，请执行

>>> a = np.array([9, 4, 4, 3, 3, 9, 0, 4, 6, 0])
>>> a
array([9, 4, 4, 3, 3, 9, 0, 4, 6, 0])


>>> ind = np.argpartition(a, -4)[-4:]
>>> ind
array([1, 5, 8, 0])


>>> top4 = a[ind]
>>> top4
array([4, 9, 6, 9])

与argsort不同，此函数在最坏的情况下以线性时间运行，但返回的索引没有排序，这可以从评估a[ind]的结果中看出。如果你也需要，请在之后对它们进行排序：

>>> ind[np.argsort(a[ind])]
array([1, 8, 5, 0])

以这种方式以排序顺序获取顶部k元素需要O（n+k logk）时间。

更简单：

idx = (-arr).argsort()[:n]

其中n是最大值的数量。

用途：

from operator import itemgetter
from heapq import nlargest
result = nlargest(N, enumerate(your_list), itemgetter(1))

现在result列表将包含N元组（index，value），其中value最大化。

如果您不关心第K个最大元素中的命令，您可以使用argpartition，它应该比通过argsort进行完整排序的性能更好。

K = 4 # We want the indices of the four largest values
a = np.array([0, 8, 0, 4, 5, 8, 8, 0, 4, 2])
np.argpartition(a,-K)[-K:]
array([4, 1, 5, 6])

点数转到这个问题。

我运行了一些测试，看起来argpartition优于argsort，因为数组的大小和K的值增加。

如果您碰巧正在使用多维数组，那么您需要展平和解开索引：

def largest_indices(ary, n):
"""Returns the n largest indices from a numpy array."""
flat = ary.flatten()
indices = np.argpartition(flat, -n)[-n:]
indices = indices[np.argsort(-flat[indices])]
return np.unravel_index(indices, ary.shape)

例如：

>>> xs = np.sin(np.arange(9)).reshape((3, 3))
>>> xs
array([[ 0.        ,  0.84147098,  0.90929743],
[ 0.14112001, -0.7568025 , -0.95892427],
[-0.2794155 ,  0.6569866 ,  0.98935825]])
>>> largest_indices(xs, 3)
(array([2, 0, 0]), array([2, 2, 1]))
>>> xs[largest_indices(xs, 3)]
array([ 0.98935825,  0.90929743,  0.84147098])

对于多维数组，您可以使用axis关键字来沿预期轴应用分区。

# For a 2D array
indices = np.argpartition(arr, -N, axis=1)[:, -N:]

以及抓取物品：

x = arr.shape[0]
arr[np.repeat(np.arange(x), N), indices.ravel()].reshape(x, N)

但请注意，这不会返回排序结果。在这种情况下，您可以沿着预期轴使用np.argsort()：

indices = np.argsort(arr, axis=1)[:, -N:]


# Result
x = arr.shape[0]
arr[np.repeat(np.arange(x), N), indices.ravel()].reshape(x, N)

下面是一个例子：

In [42]: a = np.random.randint(0, 20, (10, 10))


In [44]: a
Out[44]:
array([[ 7, 11, 12,  0,  2,  3,  4, 10,  6, 10],
[16, 16,  4,  3, 18,  5, 10,  4, 14,  9],
[ 2,  9, 15, 12, 18,  3, 13, 11,  5, 10],
[14,  0,  9, 11,  1,  4,  9, 19, 18, 12],
[ 0, 10,  5, 15,  9, 18,  5,  2, 16, 19],
[14, 19,  3, 11, 13, 11, 13, 11,  1, 14],
[ 7, 15, 18,  6,  5, 13,  1,  7,  9, 19],
[11, 17, 11, 16, 14,  3, 16,  1, 12, 19],
[ 2,  4, 14,  8,  6,  9, 14,  9,  1,  5],
[ 1, 10, 15,  0,  1,  9, 18,  2,  2, 12]])


In [45]: np.argpartition(a, np.argmin(a, axis=0))[:, 1:] # 1 is because the first item is the minimum one.
Out[45]:
array([[4, 5, 6, 8, 0, 7, 9, 1, 2],
[2, 7, 5, 9, 6, 8, 1, 0, 4],
[5, 8, 1, 9, 7, 3, 6, 2, 4],
[4, 5, 2, 6, 3, 9, 0, 8, 7],
[7, 2, 6, 4, 1, 3, 8, 5, 9],
[2, 3, 5, 7, 6, 4, 0, 9, 1],
[4, 3, 0, 7, 8, 5, 1, 2, 9],
[5, 2, 0, 8, 4, 6, 3, 1, 9],
[0, 1, 9, 4, 3, 7, 5, 2, 6],
[0, 4, 7, 8, 5, 1, 9, 2, 6]])


In [46]: np.argpartition(a, np.argmin(a, axis=0))[:, -3:]
Out[46]:
array([[9, 1, 2],
[1, 0, 4],
[6, 2, 4],
[0, 8, 7],
[8, 5, 9],
[0, 9, 1],
[1, 2, 9],
[3, 1, 9],
[5, 2, 6],
[9, 2, 6]])


In [89]: a[np.repeat(np.arange(x), 3), ind.ravel()].reshape(x, 3)
Out[89]:
array([[10, 11, 12],
[16, 16, 18],
[13, 15, 18],
[14, 18, 19],
[16, 18, 19],
[14, 14, 19],
[15, 18, 19],
[16, 17, 19],
[ 9, 14, 14],
[12, 15, 18]])

我发现使用np.unique最直观。

这个想法是，唯一方法返回输入值的索引。然后从最大唯一值和指示中，可以重新创建原始值的位置。

multi_max = [1,1,2,2,4,0,0,4]
uniques, idx = np.unique(multi_max, return_inverse=True)
print np.squeeze(np.argwhere(idx == np.argmax(uniques)))
>> [4 7]

方法np.argpartition只返回k个最大的索引，执行局部排序，并且在数组很大时比np.argsort（执行完整排序）更快。但是返回的索引是不以升序/降序排列。让我们举个例子：

我们可以看到，如果你想要一个严格的升序top k索引，np.argpartition不会返回你想要的。

除了在np.argpartition后手动排序之外，我的解决方案是使用PyTorch，torch.topk，一个神经网络构建工具，提供类似NumPy的API，同时支持CPU和GPU。它和MKL的NumPy一样快，如果你需要大型矩阵/向量计算，它可以提供GPU提升。

严格的升序/降序前k个索引代码将是：

请注意，torch.topk接受torch张量，并在类型torch.Tensor中返回top k值和top k索引。与np类似，torch.topk也接受轴参数，以便您可以处理多维数组/张量。

用途：

def max_indices(arr, k):
'''
Returns the indices of the k first largest elements of arr
(in descending order in values)
'''
assert k <= arr.size, 'k should be smaller or equal to the array size'
arr_ = arr.astype(float)  # make a copy of arr
max_idxs = []
for _ in range(k):
max_element = np.max(arr_)
if np.isinf(max_element):
break
else:
idx = np.where(arr_ == max_element)
max_idxs.append(idx)
arr_[idx] = -np.inf
return max_idxs

它也适用于2D数组。例如，

In [0]: A = np.array([[ 0.51845014,  0.72528114],
[ 0.88421561,  0.18798661],
[ 0.89832036,  0.19448609],
[ 0.89832036,  0.19448609]])
In [1]: max_indices(A, 8)
Out[1]:
[(array([2, 3], dtype=int64), array([0, 0], dtype=int64)),
(array([1], dtype=int64), array([0], dtype=int64)),
(array([0], dtype=int64), array([1], dtype=int64)),
(array([0], dtype=int64), array([0], dtype=int64)),
(array([2, 3], dtype=int64), array([1, 1], dtype=int64)),
(array([1], dtype=int64), array([1], dtype=int64))]


In [2]: A[max_indices(A, 8)[0]][0]
Out[2]: array([ 0.89832036])

我认为最节省时间的方法是手动遍历数组并保留一个k大小的最小堆，正如其他人提到的那样。

我也想出了一个蛮力的方法：

top_k_index_list = [ ]
for i in range(k):
top_k_index_list.append(np.argmax(my_array))
my_array[top_k_index_list[-1]] = -float('inf')

将最大的元素设置为一个大的负值后，您使用artmax获取其索引。然后下一次调用artmax将返回第二大元素。 您可以记录这些元素的原始值并根据需要恢复它们。

以下是查看最大元素及其位置的一种非常简单的方法。这里axis是域；axis=0表示二维情况下的按列最大数量，axis=1表示按行最大数量。对于更高的维度，它取决于你。

M = np.random.random((3, 4))
print(M)
print(M.max(axis=1), M.argmax(axis=1))

这段代码适用于numpy二维矩阵数组：

mat = np.array([[1, 3], [2, 5]]) # numpy matrix
 

n = 2  # n
n_largest_mat = np.sort(mat, axis=None)[-n:] # n_largest
tf_n_largest = np.zeros((2,2), dtype=bool) # all false matrix
for x in n_largest_mat:
tf_n_largest = (tf_n_largest) | (mat == x) # true-false


n_largest_elems = mat[tf_n_largest] # true-false indexing

这产生了一个真假n_largest矩阵索引，也可以从矩阵数组中提取n_largest元素

三个答案比较编码容易和速度

速度对我的需求很重要，所以我测试了这个问题的三个答案。

这三个答案的代码根据我的具体情况进行了修改。

然后我比较了每种方法的速度。

明智的编码：

1. NPE的回答是下一个最优雅和足够快的我的需求。
2. 弗雷德·福斯的答案需要对我的需求进行最多的重构，但速度最快。我选择了这个答案，因为尽管它需要更多的工作，但它并不太坏，并且具有显着的速度优势。
3. off99555的回答是最优雅的，但它是最慢的。

测试和比较的完整代码

import numpy as np
import time
import random
import sys
from operator import itemgetter
from heapq import nlargest


''' Fake Data Setup '''
a1 = list(range(1000000))
random.shuffle(a1)
a1 = np.array(a1)


''' ################################################ '''
''' NPE's Answer Modified A Bit For My Case '''
t0 = time.time()
indices = np.flip(np.argsort(a1))[:5]
results = []
for index in indices:
results.append((index, a1[index]))
t1 = time.time()
print("NPE's Answer:")
print(results)
print(t1 - t0)
print()


''' Fred Foos Answer Modified A Bit For My Case'''
t0 = time.time()
indices = np.argpartition(a1, -6)[-5:]
results = []
for index in indices:
results.append((a1[index], index))
results.sort(reverse=True)
results = [(b, a) for a, b in results]
t1 = time.time()
print("Fred Foo's Answer:")
print(results)
print(t1 - t0)
print()


''' off99555's Answer - No Modification Needed For My Needs '''
t0 = time.time()
result = nlargest(5, enumerate(a1), itemgetter(1))
t1 = time.time()
print("off99555's Answer:")
print(result)
print(t1 - t0)

输出速度报告

NPE的回答：

[(631934, 999999), (788104, 999998), (413003, 999997), (536514, 999996), (81029, 999995)]
0.1349949836730957

Fred Foo的回答：

[(631934, 999999), (788104, 999998), (413003, 999997), (536514, 999996), (81029, 999995)]
0.011161565780639648

99555的答案：

[(631934, 999999), (788104, 999998), (413003, 999997), (536514, 999996), (81029, 999995)]
0.439760684967041

这里有一个更复杂的方法，如果第n个值有关系，则增加n：

>>>> def get_top_n_plus_ties(arr,n):
>>>>     sorted_args = np.argsort(-arr)
>>>>     thresh = arr[sorted_args[n]]
>>>>     n_ = np.sum(arr >= thresh)
>>>>     return sorted_args[:n_]
>>>> get_top_n_plus_ties(np.array([2,9,8,3,0,2,8,3,1,9,5]),3)
array([1, 9, 2, 6])

当top_k<

import numpy as np


def get_sorted_top_k(array, top_k=1, axis=-1, reverse=False):
if reverse:
axis_length = array.shape[axis]
partition_index = np.take(np.argpartition(array, kth=-top_k, axis=axis),
range(axis_length - top_k, axis_length), axis)
else:
partition_index = np.take(np.argpartition(array, kth=top_k, axis=axis), range(0, top_k), axis)
top_scores = np.take_along_axis(array, partition_index, axis)
# resort partition
sorted_index = np.argsort(top_scores, axis=axis)
if reverse:
sorted_index = np.flip(sorted_index, axis=axis)
top_sorted_scores = np.take_along_axis(top_scores, sorted_index, axis)
top_sorted_indexes = np.take_along_axis(partition_index, sorted_index, axis)
return top_sorted_scores, top_sorted_indexes


if __name__ == "__main__":
import time
from sklearn.metrics.pairwise import cosine_similarity


x = np.random.rand(10, 128)
y = np.random.rand(1000000, 128)
z = cosine_similarity(x, y)
start_time = time.time()
sorted_index_1 = get_sorted_top_k(z, top_k=3, axis=1, reverse=True)[1]
print(time.time() - start_time)

您可以简单地使用字典在numpy数组中查找前k个值和索引。 例如，如果要查找前2个最大值&索引

import numpy as np
nums = np.array([0.2, 0.3, 0.25, 0.15, 0.1])




def TopK(x, k):
a = dict([(i, j) for i, j in enumerate(x)])
sorted_a = dict(sorted(a.items(), key = lambda kv:kv[1], reverse=True))
indices = list(sorted_a.keys())[:k]
values = list(sorted_a.values())[:k]
return (indices, values)


print(f"Indices: {TopK(nums, k = 2)[0]}")
print(f"Values: {TopK(nums, k = 2)[1]}")




Indices: [1, 2]
Values: [0.3, 0.25]

使用分区的矢量化2D实现：

k = 3
probas = np.array([
[.6, .1, .15, .15],
[.1, .6, .15, .15],
[.3, .1, .6, 0],
])


k_indices = np.argpartition(-probas, k-1, axis=-1)[:, :k]


# adjust indices to apply in flat array
adjuster = np.arange(probas.shape[0]) * probas.shape[1]
adjuster = np.broadcast_to(adjuster[:, None], k_indices.shape)
k_indices_flat = k_indices + adjuster


k_values = probas.flatten()[k_indices_flat]


# k_indices:
# array([[0, 2, 3],
#        [1, 2, 3],
#        [2, 0, 1]])
# k_values:
# array([[0.6 , 0.15, 0.15],
#        [0.6 , 0.15, 0.15],
#       [0.6 , 0.3 , 0.1 ]])

如果您正在处理NaN和/或在理解np.argpartition方面存在问题，请尝试pandas.DataFrame.sort_values。

import numpy as np
import pandas as pd


a = np.array([9, 4, 4, 3, 3, 9, 0, 4, 6, 0])


df = pd.DataFrame(a, columns=['array'])
max_values = df['array'].sort_values(ascending=False, na_position='last')
ind = max_values[0:3].index.to_list()

此示例给出了3个最大的非NaN值的索引。可能效率低下，但易于阅读和自定义。