一种有效的数组阈值滤波器

我需要过滤一个数组来删除低于某个阈值的元素。我现在的代码是这样的:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

问题是，这会创建一个临时列表，使用一个带有 lambda 函数(缓慢)的过滤器。

由于这是一个非常简单的操作，也许有一个 numpy 函数可以高效地完成这个操作，但是我一直找不到它。

我认为另一种方法可以实现这一点，排序的数组，找到索引的阈值，并返回一个片从该索引开始，但即使这将是更快的小输入(无论如何，这不会是显而易见的) ，其明确的渐近效率随着输入大小的增长。

有主意吗? 谢谢！

更新 : 我也进行了一些测量，当输入为100.000.000条目时，排序 + 切片的速度仍然是纯 Python 过滤器的两倍。

In [321]: r = numpy.random.uniform(0, 1, 100000000)


In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop


In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop


In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop
112645 次浏览
小开
最佳答案

这样应该可以了

我测试如下:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()


t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0


t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

我有

$ python test.py
0:00:00.028000
0:00:02.461000

Http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays


提交答案