Как этот алгоритм сортировки Θ (n³), а не Θ (n²), в худшем случае?

Я только начал изучать структуры данных и алгоритмы, и мой ассистент дал нам следующий псевдокод для сортировки массива целых чисел:

void F3() {
    for (int i = 1; i < n; i++) {
        if (A[i-1] > A[i]) {
            swap(i-1, i)
            i = 0
        }
    }
}

Это может быть непонятно, но здесь $n$ - размер массива, Aкоторый мы пытаемся отсортировать.

В любом случае, помощник преподавателя объяснил класс , что этот алгоритм в $\Theta(n^3)$ время ( в худшем случае, я считаю), но независимо от того , сколько раз я иду через него с обратно-отсортированным массивом, кажется , для меня это должно быть $\Theta(n^2)$ а не $\Theta(n^3)$ .

Может ли кто-нибудь объяснить мне, почему это а не ?$Θ(n^3)$$Θ(n^2)$

Этот алгоритм можно переписать так

1. Сканируйте, Aпока не найдете инверсию .
2. Если вы найдете один, поменяйте местами и начните все сначала.
3. Если нет, прекратить.

Теперь может быть не более инверсий, и вам нужно сканирование по линейному времени, чтобы найти каждое из них, так что наихудшее время выполнения - . Прекрасный пример обучения, поскольку он использует подход сопоставления с образцом, которому многие поддаются!$\binom{n}{2} \in \Theta(n^2)$$\Theta(n^3)$

Примечание: нужно быть немного осторожнее: некоторые инверсии появляются рано, а некоторые поздно, поэтому само по себе нетривиально, что затраты складываются, как заявлено (для нижней границы). Вы также должны заметить, что свопы никогда не вводят новые инверсии. Более подробный анализ случая с обратно отсортированным массивом приведет к чему-то вроде квадратичного случая формулы Гаусса.

Как удачно комментирует @ gnasher729, легко увидеть, что наихудшее время выполнения - это , проанализировав время выполнения при сортировке ввода (хотя этот вход, вероятно, не в худшем случае).$\Omega(n^3)$$[1, 2, \dots, n, 2n, 2n-1, \dots, n+1]$

Будьте осторожны: не думайте, что массив с обратной сортировкой обязательно будет входом в худшем случае для всех алгоритмов сортировки. Это зависит от алгоритма. Существуют некоторые алгоритмы сортировки, в которых массив с обратной сортировкой не является худшим случаем и даже может быть близок к лучшему.

Альтернативный способ думать об этом - это то, каким будет максимальное значение iдо его сброса. Это, как выясняется, упрощает рассуждение о том, как предыдущий порядок сортировки Aвлияет на время выполнения алгоритма.

В частности, iобратите внимание, что, когда устанавливает новое максимальное значение, назовем его N, массив [A[0], ..., A[N-1]]сортируется в порядке возрастания.

Так что же происходит, когда мы добавляем элемент A[N]в микс?

Математика:

Ну, допустим, он помещается в положение . Затем нам нужно итераций цикла (которые я буду обозначать ), чтобы переместить его на , итераций, чтобы переместить на , и вообще:$p_N$$N$$\text{steps}$$N-1$$N + (N-1)$$N-2$

Для случайно отсортированного массива принимает равномерное распределение по для каждого , с:$p_N$$\{0, 1,\dots, N\}$$N$

сумма может быть показана с использованием формулы Фолхабера или ссылки Wolfram Alpha внизу.

Для обратно отсортированного массива, для всех , и мы получаем:$p_N=0$$N$

точно, принимая строго дольше, чем любое другое значение .$p_N$

Для уже отсортированного массива и , причем члены младшего порядка становятся актуальными.$p_N = N$$\text{steps}_N(p_N) = 0$

Общее время:

Для того, чтобы получить общее время, мы подведем шаги по всему . (Если бы мы были очень осторожны, мы суммировали бы свопы, а также итерации цикла, и позаботились бы о начальных и конечных условиях, но довольно легко увидеть, что они не вносят свой вклад в сложность в большинстве случаев) ,$N$

И снова, используя линейность ожидания и формулу Фолхабера:

Конечно, если по какой-то причине не является (например, распределение массивов, на которые мы смотрим, уже очень близко к сортировке), то это не всегда нужно быть так. Но для этого очень специфичные дистрибутивы на !$\text{steps}_N(p_N)$$\Theta(N^2)$$p_N$

Соответствующее чтение:

• https://www.wolframalpha.com/input/?i=sum+a(a%2B1)+from+a%3D1+to+a%3DN
• https://en.wikipedia.org/wiki/Faulhaber%27s_formula - формула Фолхабера

Отказ от ответственности:

Это не доказательство (кажется, что некоторые люди думают, что я разместил это, как будто это было). Это лишь небольшой эксперимент, который ОП может провести, чтобы разрешить свои сомнения относительно назначения:

Независимо от того, сколько раз я проходил через массив с обратной сортировкой, мне кажется, что это должно быть а не .$Θ(n^2)$$Θ(n^3)$

С таким простым кодом различие между и не должно быть трудно обнаружить, и во многих практических случаях это полезный подход для проверки догадок или корректировки ожиданий.$\Theta(n^2)$$\Theta(n^3)$

@Raphael уже ответил на ваш вопрос, но только для удовольствия, подгоняя выходные данные этой программы к используя этот сценарий gnuplot, сообщил значения экспоненты и и создал следующие графики ( первая - это нормальная шкала, а вторая - шкала log-log):$f(x) = a\cdot x^b + c\cdot x$$2.99796166833222$$2.99223727692339$

Я надеюсь, что это помогает$\ddot\smile$

Предположим, у вас есть массив.

array a[10] = {10,8,9,6,7,4,5,2,3,0,1}

Ваш алгоритм делает следующее

Scan(1) - Swap (10,8) => {8,10,9,6,7,4,5,2,3,0,1}  //keep looking at "10"
Scan(2) - Swap (10,9) => {8,9,10,6,7,4,5,2,3,0,1}
...
Scan(10) - Swap(10,1) => {8,9,6,7,4,5,2,3,0,1,10}

По сути, он перемещается в конец массива, являющийся самым высоким элементом, и при этом он начинает повторы при каждом сканировании, эффективно делая O(n^2)перемещения ... только для этого одного элемента. Тем не менее, есть n элементов, поэтому нам придется повторить это nвремя. Это не формальное доказательство, но помогает понять «неформальным» образом, почему время выполнения O(n^3).

Логика, кажется, сортирует элементы в массиве в порядке возрастания.

Предположим, что наименьшее число находится в конце массива (a [n]). Для того, чтобы он пришел в нужное место - (n + (n-1) + (n-2) + ... 3 + 2 + 1) операции не требуется. = O (n2).

Для одного элемента в массиве требуется O (n2) ops. Итак, для nements это O (n3).