Полезный код, использующий reduce ()? [закрыто]


123

Есть ли у кого-нибудь здесь полезный код, который использует функцию reduce () в python? Есть ли какой-либо другой код, кроме обычных + и *, который мы видим в примерах?

Обратитесь к Fate of reduce () в Python 3000 от GvR


1
from functools import reduceпозволяет одному и тому же коду работать как на Python 2, так и на Python 3.
jfs

Ответы:


66

Другие применения, которые я нашел для него, помимо + и *, были с и и или, но теперь у нас есть anyи allдля замены этих случаев.

foldlи foldrдействительно часто появляются в схеме ...

Вот несколько милых приемов:

Свести список

Цель: превратиться [[1, 2, 3], [4, 5], [6, 7, 8]]в [1, 2, 3, 4, 5, 6, 7, 8].

reduce(list.__add__, [[1, 2, 3], [4, 5], [6, 7, 8]], [])

Список цифр в число

Цель: превратиться [1, 2, 3, 4, 5, 6, 7, 8]в 12345678.

Уродливый, медленный путь:

int("".join(map(str, [1,2,3,4,5,6,7,8])))

Красиво reduce:

reduce(lambda a,d: 10*a+d, [1,2,3,4,5,6,7,8], 0)

23
Для сглаживания списка я предпочитаю list (itertools.chain (* nested_list))
Роберто Бонвалле

13
sum ([[1, 2, 3], [4, 5], [6, 7, 8]], [])
Гордон Ригли,

3
Это также полезно для побитовых операций. Что делать, если вы хотите использовать побитовые числа или числа, например, если вам нужно преобразовать флаги из списка в битовую маску?
Сурьма

6
Выполняя некоторые тесты, «уродливый» способ быстрее подходит для больших списков. timeit.repeat('int("".join(map(str, digit_list)))', setup = 'digit_list = list(d%10 for d in xrange(1,1000))', number=1000)занимает ~ 0,09 секунды, а timeit.repeat('reduce(lambda a,d: 10*a+d, digit_list)', setup = 'digit_list = list(d%10 for d in xrange(1,1000))', number=1000)занимает 0,36 секунды (примерно в 4 раза медленнее). Обычно умножение на 10 становится дорогим, когда список становится большим, в то время как int в str и конкатенация остаются дешевыми.
доктор джимбоб

3
Конечно, да, для небольших списков (размер 10) метод уменьшения в 1,3 раза быстрее. Однако даже в этом случае отказ от сокращения и выполнение простого цикла еще быстрее timeit.repeat('convert_digit_list_to_int(digit_list)', setup = 'digit_list = [d%10 for d in xrange(1,10)]\ndef convert_digit_list_to_int(digits):\n i = 0\n for d in digits:\n i = 10*i + d\n return i', number=100000)занимает 0,06 с, timeit.repeat('reduce(lambda a,d: 10*a+d, digit_list)', setup = 'digit_list = list(d%10 for d in xrange(1,10))', number=100000)занимает 0,12 с, а преобразование цифр в метод str занимает 0,16 с.
dr jimbob

51

reduce()можно использовать для поиска наименьшего общего кратного для 3 или более чисел :

#!/usr/bin/env python
from fractions import gcd
from functools import reduce

def lcm(*args):
    return reduce(lambda a,b: a * b // gcd(a, b), args)

Пример:

>>> lcm(100, 23, 98)
112700
>>> lcm(*range(1, 20))
232792560

1
Что lcmво второй строке?
beardc

1
@BirdJaguarIV: перейдите по ссылке в ответе. lcm()возвращает наименьшее общее кратное двух чисел.
jfs

39

reduce()может использоваться для разрешения имен, разделенных точками (где eval()это слишком небезопасно для использования):

>>> import __main__
>>> reduce(getattr, "os.path.abspath".split('.'), __main__)
<function abspath at 0x009AB530>


12

Я думаю, что сокращение - глупая команда. Следовательно:

reduce(lambda hold,next:hold+chr(((ord(next.upper())-65)+13)%26+65),'znlorabggbbhfrshy','')

1
Мне здесь тоже нравится ирония
Роман

11

Использование того, reduceчто я нашел в своем коде, связано с ситуацией, когда у меня была некоторая структура классов для логического выражения, и мне нужно было преобразовать список этих объектов выражения в соединение выражений. У меня уже была функция make_andдля создания конъюнкции по двум выражениям, поэтому я написал reduce(make_and,l). (Я знал, что список не пустой, иначе было бы что-то вроде reduce(make_and,l,make_true).)

Именно по этой причине (некоторым) функциональным программистам нравятся reduce(или складываются функции, как обычно их называют). Есть часто уже много бинарных функций , таких как +, *, min, max, конкатенация и, в моем случае, make_andи make_or. Наличие a reduceделает тривиальным преобразование этих операций в списки (или деревья, или что-то еще, для функций сворачивания в целом).

Конечно, если sumчасто используются определенные экземпляры (например, ), то вы не хотите продолжать писать reduce. Однако вместо того, чтобы определять с sumпомощью некоторого цикла for, вы можете так же легко определить его с помощью reduce.

Читаемость, как упоминалось другими, действительно проблема. Однако вы можете возразить, что единственная причина, по которой люди находят reduceменее «ясным», заключается в том, что это не функция, которую многие люди знают и / или используют.


для защиты от пустого списка вы можете использовать короткое замыкание andоператора: L and reduce(make_and, L)если в этом случае уместен возврат пустого списка
jfs

9

Состав функций : если у вас уже есть список функций, которые вы хотите применить последовательно, например:

color = lambda x: x.replace('brown', 'blue')
speed = lambda x: x.replace('quick', 'slow')
work = lambda x: x.replace('lazy', 'industrious')
fs = [str.lower, color, speed, work, str.title]

Затем вы можете применить их все последовательно с помощью:

>>> call = lambda s, func: func(s)
>>> s = "The Quick Brown Fox Jumps Over the Lazy Dog"
>>> reduce(call, fs, s)
'The Slow Blue Fox Jumps Over The Industrious Dog'

В этом случае цепочка методов может быть более читаемой. Но иногда это невозможно, и такая композиция может быть более читаемой и удобной, чем какой- f1(f2(f3(f4(x))))то синтаксис.


1
Преимущество состоит в том, что вы можете изменить список функций, применяемых в коде.
hakanc


7

@Blair Conrad: Вы также можете реализовать свой glob / reduce, используя сумму, например:

files = sum([glob.glob(f) for f in args], [])

Это менее подробный, чем любой из ваших двух примеров, идеально подходит для Python и по-прежнему представляет собой всего одну строку кода.

Итак, чтобы ответить на исходный вопрос, я лично стараюсь избегать использования reduce, потому что в этом нет необходимости, и я считаю, что это менее понятно, чем другие подходы. Однако некоторые люди привыкли сокращать и предпочитают перечислять понимания (особенно программисты на Haskell). Но если вы еще не думаете о проблеме с точки зрения сокращения, вам, вероятно, не нужно беспокоиться об ее использовании.


2
Оба sumи reduceприводят к квадратичному поведению. Это может быть сделано в линейное время: files = chain.from_iterable(imap(iglob, args)). Хотя в данном случае это, вероятно, не имеет значения из-за времени, которое требуется glob () для доступа к диску.
jfs

6

reduce может использоваться для поддержки поиска связанных атрибутов:

reduce(getattr, ('request', 'user', 'email'), self)

Конечно, это эквивалентно

self.request.user.email

но это полезно, когда ваш код должен принимать произвольный список атрибутов.

(Связанные атрибуты произвольной длины распространены при работе с моделями Django.)


4

reduceполезен, когда вам нужно найти объединение или пересечение последовательности set-подобных объектов.

>>> reduce(operator.or_, ({1}, {1, 2}, {1, 3}))  # union
{1, 2, 3}
>>> reduce(operator.and_, ({1}, {1, 2}, {1, 3}))  # intersection
{1}

(Помимо фактических sets, примером этого являются объекты Q Django .)

С другой стороны, если вы имеете дело с bools, вам следует использовать anyand all:

>>> any((True, False, True))
True


3

Я пишу функцию составления для языка, поэтому я создаю составную функцию, используя сокращение вместе с оператором применения.

Вкратце, compose принимает список функций, которые нужно объединить в одну функцию. Если у меня есть сложная операция, которая выполняется поэтапно, я хочу собрать все это так:

complexop = compose(stage4, stage3, stage2, stage1)

Таким образом, я могу применить его к такому выражению:

complexop(expression)

И я хочу, чтобы это было эквивалентно:

stage4(stage3(stage2(stage1(expression))))

Теперь, чтобы построить свои внутренние объекты, я хочу, чтобы он сказал:

Lambda([Symbol('x')], Apply(stage4, Apply(stage3, Apply(stage2, Apply(stage1, Symbol('x'))))))

(Класс Lambda создает пользовательскую функцию, а Apply создает приложение-функцию.)

Теперь уменьшите, к сожалению, неправильные складки, поэтому я примерно использовал:

reduce(lambda x,y: Apply(y, x), reversed(args + [Symbol('x')]))

Чтобы выяснить, что дает сокращение, попробуйте следующее в REPL:

reduce(lambda x, y: (x, y), range(1, 11))
reduce(lambda x, y: (y, x), reversed(range(1, 11)))

Я использовал , compose = lambda *func: lambda arg: reduce(lambda x, f: f(x), reversed(funcs), arg)чтобы сгенерировать все возможные комбинации функций для тестирования производительности.
jfs

3

reduce можно использовать для получения списка с максимальным n-м элементом

reduce(lambda x,y: x if x[2] > y[2] else y,[[1,2,3,4],[5,2,5,7],[1,6,0,2]])

вернет [5, 2, 5, 7], поскольку это список с максимальным 3-м элементом +


max (lst, key = lambda x: x [2])
aoeu256

3

Reduce не ограничивается скалярными операциями; его также можно использовать для сортировки вещей по ведрам. (Это то, что я использую чаще всего).

Представьте себе случай, когда у вас есть список объектов, и вы хотите реорганизовать его иерархически на основе свойств, хранящихся в объекте. В следующем примере я создаю список объектов метаданных, связанных со статьями в XML-закодированной газете с помощью articlesфункции. articlesгенерирует список элементов XML, а затем отображает их один за другим, создавая объекты, содержащие некоторую интересную информацию о них. Во внешнем интерфейсе я хочу, чтобы пользователь мог просматривать статьи по разделам / подразделам / заголовкам. Поэтому я использую, reduceчтобы взять список статей и вернуть единственный словарь, который отражает иерархию разделов / подразделов / статей.

from lxml import etree
from Reader import Reader

class IssueReader(Reader):
    def articles(self):
        arts = self.q('//div3')  # inherited ... runs an xpath query against the issue
        subsection = etree.XPath('./ancestor::div2/@type')
        section = etree.XPath('./ancestor::div1/@type')
        header_text = etree.XPath('./head//text()')
        return map(lambda art: {
            'text_id': self.id,
            'path': self.getpath(art)[0],
            'subsection': (subsection(art)[0] or '[none]'),
            'section': (section(art)[0] or '[none]'),
            'headline': (''.join(header_text(art)) or '[none]')
        }, arts)

    def by_section(self):
        arts = self.articles()

        def extract(acc, art):  # acc for accumulator
            section = acc.get(art['section'], False)
            if section:
                subsection = acc.get(art['subsection'], False)
                if subsection:
                    subsection.append(art)
                else:
                    section[art['subsection']] = [art]
            else:
                acc[art['section']] = {art['subsection']: [art]}
            return acc

        return reduce(extract, arts, {})

Я привожу здесь обе функции, потому что считаю, что это показывает, как map и reduce могут хорошо дополнять друг друга при работе с объектами. То же самое можно было бы сделать с помощью цикла for, ... но серьезное времяпровождение с функциональным языком заставляло меня думать в терминах map и reduce.

Между прочим, если у кого-нибудь есть лучший способ установить свойства, как это делаю я extract, где родители свойства, которое вы хотите установить, могут еще не существовать, сообщите мне.


3

Не уверен, что это то, что вам нужно, но вы можете поискать исходный код в Google .

Перейдите по ссылке для поиска по запросу 'function: reduce () lang: python' в поиске Google Code.

На первый взгляд следующие проекты используют reduce()

  • MoinMoin
  • Zope
  • числовой
  • ScientificPython

и т.д. и т.п., но в этом нет ничего удивительного, поскольку это огромные проекты.

Функциональность сокращения может быть реализована с помощью рекурсии функций, что, как мне кажется, Гвидо считал более явным.

Обновить:

Так как поиск кода Google был прекращен 15 января 2012 года, помимо возврата к обычному поиску в Google, есть нечто под названием Code Snippets Collection, которое выглядит многообещающим. В ответах на этот (закрытый) вопрос упоминается ряд других ресурсов. Замена для Google Code Search? ,

Обновление 2 (29 мая 2017 г.):

Хорошим источником примеров Python (с открытым исходным кодом) является поисковая система Nullege .


1
«Функциональность сокращения может быть реализована с помощью рекурсии функций» ... Или forцикла.
Джейсон Орендорф,

2
Кроме того, поиск reduce () дает проекты, которые определяют функции сокращения в своем коде. Вы должны искать lang: python "reduce (", чтобы найти фактическое использование встроенной функции.
Сеун Осева,

@Seun Osewa: Даже поиск по запросу lang:python "reduce("найдет определения в reduceзависимости от стиля кодирования исходного кода.
Мартино

2
import os

files = [
    # full filenames
    "var/log/apache/errors.log",
    "home/kane/images/avatars/crusader.png",
    "home/jane/documents/diary.txt",
    "home/kane/images/selfie.jpg",
    "var/log/abc.txt",
    "home/kane/.vimrc",
    "home/kane/images/avatars/paladin.png",
]

# unfolding of plain filiname list to file-tree
fs_tree = ({}, # dict of folders
           []) # list of files
for full_name in files:
    path, fn = os.path.split(full_name)
    reduce(
        # this fucction walks deep into path
        # and creates placeholders for subfolders
        lambda d, k: d[0].setdefault(k,         # walk deep
                                     ({}, [])), # or create subfolder storage
        path.split(os.path.sep),
        fs_tree
    )[1].append(fn)

print fs_tree
#({'home': (
#    {'jane': (
#        {'documents': (
#           {},
#           ['diary.txt']
#        )},
#        []
#    ),
#    'kane': (
#       {'images': (
#          {'avatars': (
#             {},
#             ['crusader.png',
#             'paladin.png']
#          )},
#          ['selfie.jpg']
#       )},
#       ['.vimrc']
#    )},
#    []
#  ),
#  'var': (
#     {'log': (
#         {'apache': (
#            {},
#            ['errors.log']
#         )},
#         ['abc.txt']
#     )},
#     [])
#},
#[])

1
Не могли бы вы добавить небольшое объяснение того, что здесь происходит? В остальном полезность действительно совсем не очевидна.
Зоран Павлович

2
def dump(fname,iterable):
  with open(fname,'w') as f:
    reduce(lambda x, y: f.write(unicode(y,'utf-8')), iterable)


1

У меня есть старая реализация pipegrep на Python, которая использует модуль reduce и glob для создания списка файлов для обработки:

files = []
files.extend(reduce(lambda x, y: x + y, map(glob.glob, args)))

Тогда мне это показалось удобным, но на самом деле в этом нет необходимости, поскольку что-то подобное так же хорошо и, вероятно, более читабельно.

files = []
for f in args:
    files.extend(glob.glob(f))

Как насчет понимания списка? Кажется, это идеальное приложение для этого: files = [glob.glob(f) for f in args]
steveha

На самом деле, @steveha, ваш пример приведет к списку списков расширенных глобусов, а не к плоскому списку всех элементов, которые соответствуют глобусам, но вы можете использовать понимание списка + сумма, как @ [Eli Courtwright] (# 16198 ) указывает на то.
Блэр Конрад,

1
Хорошо, вы правы, извините за это. Мне все еще очень не нравится комбинация extension / reduce / lambda / map! Я бы порекомендовал импортировать itertools, используя flatten()рецепт из docs.python.org/library/itertools.html , а затем написать: files = flatten(glob.glob(f) for f in args) (И на этот раз я протестировал код перед его публикацией, и я знаю, что это работает правильно.)
Стивеха,

files = chain.from_iterable(imap(iglob, args))где chain, imapотносятся к itertoolsмодулю и glob.iglobполезны, если по шаблону из argsмогут быть получены файлы из нескольких каталогов.
jfs

1

Допустим, есть некоторые годовые статистические данные, хранящиеся в списке счетчиков. Мы хотим найти значения MIN / MAX для каждого месяца в разные годы. Например, для января это будет 10. А для февраля - 15. Нам нужно сохранить результаты в новом счетчике.

from collections import Counter

stat2011 = Counter({"January": 12, "February": 20, "March": 50, "April": 70, "May": 15,
           "June": 35, "July": 30, "August": 15, "September": 20, "October": 60,
           "November": 13, "December": 50})

stat2012 = Counter({"January": 36, "February": 15, "March": 50, "April": 10, "May": 90,
           "June": 25, "July": 35, "August": 15, "September": 20, "October": 30,
           "November": 10, "December": 25})

stat2013 = Counter({"January": 10, "February": 60, "March": 90, "April": 10, "May": 80,
           "June": 50, "July": 30, "August": 15, "September": 20, "October": 75,
           "November": 60, "December": 15})

stat_list = [stat2011, stat2012, stat2013]

print reduce(lambda x, y: x & y, stat_list)     # MIN
print reduce(lambda x, y: x | y, stat_list)     # MAX

1

У меня есть объекты, представляющие своего рода перекрывающиеся интервалы (геномные экзоны), и я переопределил их пересечение, используя __and__:

class Exon:
    def __init__(self):
        ...
    def __and__(self,other):
        ...
        length = self.length + other.length  # (e.g.)
        return self.__class__(...length,...)

Затем, когда у меня есть их коллекция (например, в том же гене), я использую

intersection = reduce(lambda x,y: x&y, exons)

1

Я только что нашел полезное использование reduce: разделение строки без удаления разделителя . Код полностью взят из блога Programatic Speaking. Вот код:

reduce(lambda acc, elem: acc[:-1] + [acc[-1] + elem] if elem == "\n" else acc + [elem], re.split("(\n)", "a\nb\nc\n"), [])

Вот результат:

['a\n', 'b\n', 'c\n', '']

Обратите внимание, что он обрабатывает крайние случаи, которых не делает популярный ответ в SO. Для более подробного объяснения я перенаправляю вас к исходному сообщению в блоге.


0

Использование reduce (), чтобы узнать, являются ли даты последовательными:

from datetime import date, timedelta


def checked(d1, d2):
    """
    We assume the date list is sorted.
    If d2 & d1 are different by 1, everything up to d2 is consecutive, so d2
    can advance to the next reduction.
    If d2 & d1 are not different by 1, returning d1 - 1 for the next reduction
    will guarantee the result produced by reduce() to be something other than
    the last date in the sorted date list.

    Definition 1: 1/1/14, 1/2/14, 1/2/14, 1/3/14 is consider consecutive
    Definition 2: 1/1/14, 1/2/14, 1/2/14, 1/3/14 is consider not consecutive

    """
    #if (d2 - d1).days == 1 or (d2 - d1).days == 0:  # for Definition 1
    if (d2 - d1).days == 1:                          # for Definition 2
        return d2
    else:
        return d1 + timedelta(days=-1)

# datelist = [date(2014, 1, 1), date(2014, 1, 3),
#             date(2013, 12, 31), date(2013, 12, 30)]

# datelist = [date(2014, 2, 19), date(2014, 2, 19), date(2014, 2, 20),
#             date(2014, 2, 21), date(2014, 2, 22)]

datelist = [date(2014, 2, 19), date(2014, 2, 21),
            date(2014, 2, 22), date(2014, 2, 20)]

datelist.sort()

if datelist[-1] == reduce(checked, datelist):
    print "dates are consecutive"
else:
    print "dates are not consecutive"
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.