Строгое доказательство справедливости предположения при использовании основной теоремы

Основная теорема является прекрасным инструментом для решения определенных видов повторений . Тем не менее, мы часто замазываем неотъемлемую часть при его применении. Например, во время анализа Mergesort мы с радостью

$\qquad T(n) = T\left(\left\lfloor \frac{n}{2} \right\rfloor\right) + T\left(\left\lceil \frac{n}{2} \right\rceil\right) + f(n)$

$\qquad T'(n) = 2 T'\left(\frac{n}{2}\right) + f(n)$

учитывая только . Мы заверяем себя, что этот шаг действителен - то есть - потому что ведет себя "хорошо". В общем, мы предполагаем, что для общего знаменателя. $n=2^k$ $T \in \Theta(T')$ $T$ $n=b^k$ $b$

Легко построить повторения, которые не позволяют это упрощение, используя порочный . Например, выше повторения для / с $f$ $T\,$ $\,T'$

$\qquad f(n) = \begin{cases} 1 &, n=2^k \\ n &, \text{else} \end{cases}$

выдаст обычным образом, используя теорему Мастера, но есть явно подпоследовательность, которая растет как . Смотрите здесь для другого, более надуманного примера. $\Theta(n)$ $\Theta(n \log n)$

Как мы можем сделать это "красиво" строгим? Я совершенно уверен, что монотонности достаточно, но даже простое повторение Mergesort не является монотонным; существует периодическая составляющая (которая асимптотически доминирует). Достаточно ли исследовать и каковы необходимые и достаточные условия для , обеспечивающие работу основной теоремы? $f$ $f$

— Рафаэль
источник

Другим результатом тех же результатов является теорема Акра-Бацци «О решении линейных рекуррентных уравнений», «Оптимизация вычислений и приложения», 10 (2), 195-210 (1998), или Дрмота и Шпанковский «Основная теорема для дискретного деления». и победить повторения ", SODA'11 < dl.acm.org/citation.cfm?id=2133036.2133064 >.

— vonbrand

Вот ссылка на вышеуказанный документ, который не находится за платным доступом.

— Пареш

IIRC это обсуждается в главе 4 CLRS

— Каве

@Kaveh Спасибо за указатель. По большей части они называют это "терпимым разгильдяйством"; это хорошо в их контексте, потому что они предполагают, что вы только выводите гипотезу, которая позже будет подтверждена индукцией. Они упоминают об опасностях (4.6). В 4.6.2 они дают доказательство, но оно высокого уровня, и они явно не говорят, какие ограничения на должны быть на месте. Так что, похоже, что-то вроде « такой, что математика проходит», что, я думаю, в основном требует, чтобы имел «хороший» -класс.

T

$T$

T

$T$

f

$f$

Θ

$\Theta$

— Рафаэль

В общем случае, когда у вас нет похожих размеров, вы можете использовать метод Акра – Бацци, который является обобщением основной теоремы, конечно, для того, чтобы заменить конкретную функцию на что-то, что работает в этой теореме, нужен небольшой прием, а для чего-то вроде сортировки слиянием, это то, что обычно люди используют для доказательства сложности времени.

В этом ответе мы предполагаем, что и неотрицательны. Наше доказательство работает всякий раз, когда для некоторого монотонного . Это включает ваш пример Mergesort, в котором , и любую функцию с полиномиальной скоростью роста (или даже ). $f$ $T$ $f = \Theta(g)$ $g$ $f=\Theta(n)$ $\Theta(n^a \log^b n)$

Давайте сначала рассмотрим случай, когда является монотонно неубывающим (мы ослабим это предположение позже). Мы сконцентрируемся на повторяемости вашей выборки Это повторение требует двух базовых случаев, и . Сделаем предположение, что , что мы позже и ослабим. $f$

T (n) = T (⌊ n / 2 ⌋) + T (⌈ n / 2 ⌉) + f (n) .

$T(n) = T(\lfloor n/2 \rfloor) + T(\lceil n/2 \rceil) + f(n).$

T (0)

$T(0)$

T (1)

$T(1)$

T (0) \leq T (1)

$T(0) \leq T(1)$

Я утверждаю, что является монотонно неубывающим. По полной индукции докажем, что . Это дается для , поэтому пусть . У нас есть Это означает, что Итак, если , все готово. Это всегда так, если решение для степеней двойки имеет вид . $T(n)$ $T(n+1) \geq T(n)$ $n = 0$ $n \geq 1$

\begin{aligned} T (n + 1) & = T (⌊ (n + 1) / 2 ⌋) + T (⌈ (n + 1) / 2 ⌉) + f (n + 1) \\ \geq T (⌊ n / 2 ⌋) + T (⌈ n / 2 ⌉) + f (n) = T (n) . \end{aligned}

$\begin{align*} T(n+1) &= T(\lfloor (n+1)/2 \rfloor) + T(\lceil (n+1)/2 \rceil) + f(n+1) \\ &\geq T(\lfloor n/2 \rfloor) + T(\lceil n/2 \rceil) + f(n) = T(n). \end{align*}$

T (2^{⌊ \log_{2} n ⌋}) \leq T (n) \leq T (2^{⌈ \log_{2} n ⌋}) .

$T(2^{\lfloor \log_2 n \rfloor}) \leq T(n) \leq T(2^{\lceil \log_2 n \rfloor}).$

T (2^{m}) = Θ (T (2^{m + 1}))

$T(2^m) = \Theta(T(2^{m+1}))$

T (n) = Θ (n^{a} \log^{b} n)

$T(n) = \Theta(n^a \log^b n)$

Теперь давайте ослабим предположение, что . Рассмотрим новую рекурсию определенную точно таким же образом, только . По индукции можно доказать, что . Аналогично, мы можем определить новую рекурсию удовлетворяющую , а затем . Используя теорему Мастера, мы видим, что и для одной и той же функции , а значит, и . $T(0) \leq T(1)$ $T'$ $T'(0) = T'(1) = \min(T(0),T(1))$ $T'(n) \leq T(n)$ $T''$ $T''(0) = T''(1) = \max(T(0),T(1))$ $T(n) \leq T''(n)$ $T'=\Theta(h)$ $T''=\Theta(h)$ $h$ $T = \Theta(h)$

Теперь давайте ослабим предположение, что является монотонным. Предположим, что для некоторой монотонной функции . Таким образом, для некоторых и достаточно больших . Для простоты будем считать, что ; общий случай может быть обработан как в предыдущем параграфе. Опять мы определяем две рекурсии , заменяя на (соответственно). Еще раз основная теорема даст тот же результат (до постоянных кратных), который также идентичен (до постоянных кратных) тому, что мы получили бы, решив исходное повторение только на степени двух. $f$ $f = \Theta(g)$ $g$ $cg(n) \leq f(n) \leq Cg(n)$ $c,C>0$ $n$ $n=0$ $T',T''$ $f$ $cg,Cg$

— Юваль Фильмус
источник

Наконец-то добрался до этого внимательнее. Хорошо, спасибо! Я решил отметить это для будущих читателей (потому что я споткнулся об этом): ) не является ограничением, поскольку оно ложно только для Суперполином и теорема Мастера к таким не относятся.

T (2^{m}) \in Θ (T (2^{m + 1}))

$T(2^m) \in \Theta(T(2^{m+1}))$

T

$T$

— Рафаэль

Я попытался записать ваше доказательство более подробно и застрял, доказывая ваше последнее предложение, «которое также идентично (...) тому, что мы получили бы, решив исходное повторение только на степени двух». В частности, мы должны показать, что мы попадаем в один и тот же случай основной теоремы для , и . Это не проблема для случаев 1 и 2, но я не могу показать существование для случая 3 (см. Версию в CLRS, p94 в 3-м издании). Вы думали об этом, или вы работали с версией, похожей на версию из Википедии ?

c g

$cg$

f

$f$

C g

$Cg$

c < 1

$c < 1$

— Рафаэль

Это техничность. Если то проблема исчезнет, см., Например, users.encs.concordia.ca/~chvatal/notes/master.pdf . Функция автоматически выполнит условия. Я думаю, что то же самое работает для и так далее. В качестве альтернативы, просто сформулируйте это условие непосредственно на а не на : должен существовать некоторый «регулярный» удовлетворяющий .

f = Θ (n^{α})

$f = \Theta(n^\alpha)$

g

$g$

f = Θ (n^{α} \log^{β} n)

$f = \Theta(n^\alpha \log^\beta n)$

g

$g$

f

$f$

g

$g$

f = Θ (g)

$f = \Theta(g)$

— Юваль Фильмус

Ну, вы утверждали, что " monotone" было достаточным условием (и я вам поверил), поэтому я попытался с этим поработать. Основная теорема, приведенная, например, в CLRS, относится, например, к , если я не ошибаюсь, поэтому ограничение на полилогарифмические функции или что-то подобное не является «техническим», но должным образом ослабляет результат. Кстати, снятие «регулярности» с не помогает: у меня она уже есть в критическом случае с помощью регулярности / (по предположению). Так что я вернулся к своему прежнему комментарию, к сожалению. Если это действительно только технический, я не вижу этого. Слишком много неравенств.

g

$g$

f : n \mapsto 2^{n}

$f : n \mapsto 2^n$

g

$g$

c g

$cg$

C g

$Cg$

— Рафаэль

Я все еще думаю, что это формальность. Состояние, о котором вы беспокоитесь, является техническим состоянием. Для большинства функций, появляющихся на практике, условие будет выполнено. Вы спрашиваете о наиболее общем условии, при котором эскиз доказательства выше проходит. Это интересный вопрос, на который мне лень отвечать.

— Юваль Фильмус