Как O и Ω относятся к худшему и лучшему случаям?

Сегодня в лекции мы обсудили очень простой алгоритм поиска элемента в отсортированном массиве с использованием бинарного поиска . Нас попросили определить его асимптотическую сложность для массива из элементов.$n$

Моя идея заключалась в том, что это явно или чтобы быть более конкретным, потому что - это число операций в худшем случае. Но я могу сделать лучше, например, если я впервые нажал на элемент поиска - тогда нижняя граница равна .$O(\log n)$$O(\log_2 n)$$\log_2 n$$\Omega(1)$

Лектор представил решение как поскольку мы обычно рассматриваем только наихудшие входные данные для алгоритмов.$\Theta(\log n)$

Но при рассмотрении только наихудших случаев, какой смысл иметь обозначения $O$ и $\Omega$ когда все наихудшие случаи данной проблемы имеют одинаковую сложность ( $\Theta$ это все, что нам нужно, верно?).

Что мне здесь не хватает?

Обозначения Ландау обозначают асимптотические оценки функций . Смотрите здесь для объяснения различий между , и .$O$$\Omega$$\Theta$

Время наихудшего, наилучшего, среднего или «назови это случай» описывает различные функции времени выполнения: одну для последовательности наибольшего времени выполнения любого заданного , одну для последовательности самого низкого и т. Д. И т. Д.$n$

По сути, эти два не имеют ничего общего друг с другом. Определения являются независимыми. Теперь мы можем сформулировать асимптотические границы для функций времени выполнения: верхний ( ), нижний ( ) или оба ( ). Мы можем сделать либо для худшего, лучшего или любого другого случая.Ω $O$$\Omega$$\Theta$

Например, в бинарном поиске мы получаем асимптотику времени выполнения в наилучшем случае и асимптотику в худшем случае .Θ ( журнал n $\Theta(1)$$\Theta(\log n)$

Рассмотрим следующий алгоритм (или процедуру, или фрагмент кода, или что-то еще):

Contrive(n)
1. if n = 0 then do something Theta(n^3)
2. else if n is even then
3.    flip a coin
4.    if heads, do something Theta(n)
5.    else if tails, do something Theta(n^2)
6. else if n is odd then
7.    flip a coin
8.    if heads, do something Theta(n^4)
9.    else if tails, do something Theta(n^5)

Каково асимптотическое поведение этой функции?

В лучшем случае (где чётно), время выполнения равно и , но не чего-либо.Ω ( n ) O ( n 2 ) $n$$\Omega(n)$$O(n^2)$$\Theta$

В худшем случае (где нечетно), время выполнения равно и , но не чего-либо.Ω ( n 4 ) O ( n 5 ) $n$$\Omega(n^4)$$O(n^5)$$\Theta$

В случае время выполнения равно .Θ ( n 3$n = 0$$\Theta(n^3)$

Это немного надуманный пример, но только в целях наглядной демонстрации различий между границей и делом. Вы могли бы различие стать значимыми с полностью детерминированными процедурами, если деятельность вы выполняете не имеет никакой известной границ.$\Theta$

Не обязательно. В этом случае, а именно бинарный поиск в отсортированном массиве, вы можете видеть, что: (a) бинарный поиск занимает не более шагов; (б) есть входные данные, которые на самом деле заставляют это много шагов. Поэтому, если - это время работы на входе в худшем случае для двоичного поиска, вы можете сказать, что .$[\log n + 1]$$T(n)$$T(n) = \Theta(\log n)$

С другой стороны, для других алгоритмов вы не сможете точно вычислить , и в этом случае у вас может быть разрыв между верхней и нижней границами времени выполнения на входе в худшем случае.$T(n)$

Теперь, для поиска в отсортированном массиве, верно еще кое-что: любой алгоритм поиска отсортированного массива должен проверять . Однако для такого рода нижней границы вам необходимо проанализировать саму проблему. (Вот идея: в любое время, алгоритм поиска не исключает некоторое множество позиций , где элемент он ищет может быть тщательно проработан вход может затем гарантировать , что. есть уменьшается не более чем в раза .)$[\log n + 1]$$S\subset [n]$$|S|$$2$

Вы правы, многие люди небрежно используют когда они должны использовать . Например, аналитик алгоритма может в итоге получить временную функцию и сразу сделать вывод, что , что технически верно , но более резкое утверждение было бы . Я приписываю это забывчивое поведение двум причинам. Во-первых, многие считают более популярным и приемлемым, возможно, из-за его долгой истории. Напомним, что он был введен более века назад, тогда как (и ) были введены только в 1976 году (Дональд Кнут). Во-вторых, это может быть потому, что$O$$\Theta$$% T(n)=n^{2}+n+2$$T(n)=O(n^{2})$$T(n)=\Theta (n^{2})$$O$$\Theta$$% \Omega$$O$легко доступно на клавиатуре, тогда как нет!$\Theta$

С технической точки зрения, однако, главная причина, по которой осторожные аналитики предпочитают использовать над заключается в том, что первое охватывает «большую территорию», чем второе. Если мы возьмем ваш пример бинарного поиска и захотим использовать , нам нужно будет сделать два утверждения: \ одно для лучшего случая, а именно , и другое для худшего случая, а именно . С помощью мы делаем только одно утверждение, а именно . Математически функции, охватываемые , также покрываются , тогда как обратное не всегда верно.$O$$\Theta$$\Theta$$\Theta (1)$$% \Theta (\log n)$$O$$O(\log n)$$\Theta$$O$